高通平台部署生成式 AI 模型时，如何做输出内容安全与格式约束？

[亮剑白马坡下]

高通平台部署生成式 AI 模型时，如何做输出内容安全与格式约束？
 

[weixin_38498942]

端侧生成模型不仅要能生成，还要能控制输出边界。

1. Prompt 约束
   请只输出与问题相关的回答，不要添加无关解释。
2. 输出长度限制

model.generate(prompt, max_tokens=512)

3. 格式约束
   例如要求 JSON：
   请严格以 JSON 格式输出，包含字段：result, confidence
4. 后处理校验

def validate_output(text):
    if len(text) > 500:
        return text[:500]
    if "敏感词" in text:
        return "内容不符合要求"
    return text

5. 停止词控制
   遇到异常内容提前终止生成。