zhengyucai0504 2026-01-21 19:17:15
我想问一下: 1.WebUI|Genie App里的左下角customer prompt栏目在AI运行时好像不会处理它(也不记录在token里面),似乎是用来存input的(防止页面刷新时input没了),是吗? 2.WebUI|Genie App里左边界面框的max length是指max token吗?这个token是怎么计算的?是指input量+AI的output量 的极限 吗? 3. WebUI|Genie App界面里没有system prompt的选项,是真的不能调system prompt吗(即使用代码)?(如果有的话,应该也是算在token里面的吧?)还是图形界面上没有这个选项而已。
...全文
55 2 打赏 收藏 转发到动态 举报
写回复
用AI写文章
2 条回复
切换为时间正序
请发表友善的回复…
发表回复
weixin_38498942 21小时前
  • 打赏
  • 举报
回复

customer prompt 是输入暂存区,不参与推理与 token 计算
max length 即max tokens,是输入 + 输出 + 历史 + 系统提示的总上下文上限
system prompt可通过代码 / 配置文件修改,且计入 token,仅 WebUI 界面未提供可视化入口

6,696

社区成员

发帖
与我相关
我的任务
社区描述
本论坛以AI、WoS 、XR、IoT、Auto、生成式AI等核心板块组成,为开发者提供便捷及高效的学习和交流平台。 高通开发者专区主页:https://qualcomm.csdn.net/
人工智能物联网机器学习 技术论坛(原bbs) 北京·东城区
社区管理员
  • csdnsqst0050
  • chipseeker
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧