高通平台部署生成式 AI 模型时，如何做输出长度控制？

[茶白道在逃杨枝甘露]

高通平台部署生成式 AI 模型时，如何做输出长度控制？
 

[weixin_38498942]

输出长度控制主要靠参数限制、停止条件和后处理截断。

1. 设置最大 Token 数
   model.generate(prompt, max_tokens=512)
2. 设置最小长度
   部分场景可设置最小生成长度，避免输出过短。
3. 使用停止词
   遇到指定内容时停止生成：
   stop_words = ["结束", "###"]
4. 后处理截断
   def truncate_output(text, max_length=300):
   if len(text) > max_length:

    return text[:max_length] + "..."
   

   return text
5. Prompt 约束
   请用 100 字以内回答。