参数精度问题

克雷PowerBI 2025-05-06 13:11:29

课时名称	课时知识点
参数精度问题	参数精度问题参数精度问题参数精度问题参数精度问题

...全文

122 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

本文围绕MindIE跑Qwen系列模型推理时的精度问题展开。在Ascend的npu和gpu上，当后处理参数temperature=2且top_k很大时，模型输出存在精度问题。经分析，这与后处理参数顺序及softmax原理有关，通过调小top_p或top_k可解决问题。

本文介绍了解决后端接口中Date类型参数接收及返回问题的方法，同时提供了Long类型参数在返回前端时精度损失的解决方案。

本文介绍了在前端使用axios请求数据时，如何通过安装json-bigint插件来处理后端返回的19位数字参数，避免精度丢失的问题。

文章讲述了后端返回的19位Long参数在前端接收时精度丢失的问题，提出通过Jackson序列化配置将Long类型转换为String，以及使用@JsonFormat和@ApiModelProperty注解来确保正确显示总单ID的解决方案。

当后端返回的参数包含大整数时，JavaScript的JSON.parse可能会导致精度丢失，表现为404错误。这是因为JavaScript能精确表示的安全整数范围有限。为解决此问题，可以使用json-bigint库或ES2020的BigInt类型。json-bigint能将超出安全整数范围的数字转换为BigNumber对象，确保精度。在axios中，可以通过transformResponse配置提前处理数据，避免axios内置的JSON.parse造成的精度问题。

克雷PowerBI的课程社区_NO_2

3

社区成员

445

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章