社区
VFP
帖子详情
数字转化为字符串[str],再还原回来[val], 会损失精度。怎样避免?
孩皮妞野
2003-12-28 06:07:19
如:
a = 1234.56789
b = str(a)
c = val(b)
?a
?c
...全文
96
8
打赏
收藏
数字转化为字符串[str],再还原回来[val], 会损失精度。怎样避免?
如: a = 1234.56789 b = str(a) c = val(b) ?a ?c
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
8 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
孩皮妞野
2003-12-30
打赏
举报
回复
谢谢 xiolig(凌霄)。
xiolig
2003-12-29
打赏
举报
回复
SORRY,进一步的测试表明,DECIMALS设置影响的仍然仅仅是显示结果。
验证方法:
b = "1234.56789"
SET DECIMALS TO
c2 = VAL(b)
SET DECIMALS TO 5
c5 = VAL(b)
SET FIXED OFF
?c2,c5,c2=c5
SET FIXED ON
?c2,c5,c2=c5
xiolig
2003-12-29
打赏
举报
回复
谢谢楼主,原来VAL函数居然要受DECIMALS设置的影响:
a = 1234.56789
b = TRANSFORM(a) &&比STR更方便
SET DECIMALS TO 5
c = VAL(b)
?c
孩皮妞野
2003-12-29
打赏
举报
回复
另外: foxpro在调用过程时如何向其传递参数?过程中怎样使用这个参数?
孩皮妞野
2003-12-29
打赏
举报
回复
Jaxi_sky(sky), 不行。 你说的是set deci to 吗? set deci to 也不行。
Jaxi_sky
2003-12-29
打赏
举报
回复
可以设置小数点的位数
用set numeric to 5来进行,就可以了
孩皮妞野
2003-12-28
打赏
举报
回复
cxmcxm, 谢谢你的回复!
a->b没有损失精度。可以用
?b
来查看和验证。说白了就是val在把字符串转化为数字时会自动四舍五入。
问题是
1. 是否可以关闭自动四舍五入的默认行为?
2. 或者是否有别的不进行舍入的转换函数?
cxmcxm
2003-12-28
打赏
举报
回复
b=str(a,10,5)
c=val(b)
Python int类型底层原理:小整数缓存、任意
精度
与内存布局
本文深入剖析Python int类型的底层实现机制,涵盖小整数缓存(-5至256)的语言级契约、任意
精度
整数的内存布局(基于2^30基底的digit数组)、符号与绝对值分离存储、数学语义的除法与取模、抗冲突的多项式哈希算法,以及
字符串
转换的分治优化策略。内容聚焦CPython源码级行为,揭示其对性能、内存、线程安全和序列化一致性的影响。
LSTM vs BERT文本分类实战:轻量部署与
精度
权衡指南
本文基于假新闻检测任务,系统对比LSTM与BERT在轻量部署与
精度
之间的工程权衡。涵盖数据预处理细节(如停用词顺序、动态截断)、模型架构设计依据(双向堆叠、维度选择)、训练策略(EarlyStopping patience、BERT学习率校准)、资源约束适配(显存优化、内存加载)及部署陷阱(数据漂移、阈值调优)。强调真实场景下的技术选型逻辑,而非单纯追求SOTA指标。
pandas多维聚合与滚动窗口实战:金融场景下的性能与
精度
保障
多维聚合是数据分析的基础能力,本质是按多个维度对数据分组并计算统计量;其核心原理在于延迟计算、分组键映射与内存视图管理,直接影响执行效率与资源占用。在金融风控、经营分析等高要求场景中,单纯依赖groupby或rolling易引发内存溢出、时间错位、
精度
偏差等问题。技术价值体现在支撑实时看板、监管报送与模型训练等关键链路;典型应用场景包括客户分层、滚动交易均值、跨维度指标对比等。本文聚焦pandas中多维聚合、滚动窗口、业务逻辑嵌入三大热词,结合银行级生产实践,详解性能优化路径与
精度
保障机制。
嵌入式C语言开发:标准库
字符串
与文件操作的安全实践与性能优化
本文聚焦嵌入式C开发中标准库
字符串
与文件操作的安全实践与性能优化,重点剖析
str
cpy/
str
ncpy、
str
cat/
str
ncat等
字符串
函数的内存溢出风险及安全替代方案;详解fseek/fsetpos、rewind、setvbuf等文件流控制函数在资源受限平台(如DSP56000)下的正确用法;强调snprintf、
str
tol/
str
tod等格式化与解析函数的安全优势;并指出setjmp/longjmp、signal在嵌入式环境中的高危特性与规避策略。
TensorFlow实现线性回归:从数据预处理到业务部署的完整实践
本文基于真实生鲜订单业务场景,系统阐述使用TensorFlow 2.x从零实现线性回归的完整流程:涵盖数据预处理(分位数缩放、RobustScaler)、模型构建(显式Dense层、Xavier初始化)、手动训练循环(
损失
监控、梯度诊断)、可解释性评估(残差图、系数热力图)及生产部署(SavedModel格式、预测API封装)。强调工业级实践要点,如特征缩放必要性、Huber Loss鲁棒性、SGD+momentum优化器选择及
避免
数据泄露等关键细节。
VFP
2,749
社区成员
29,142
社区内容
发帖
与我相关
我的任务
VFP
VFP,是Microsoft公司推出的数据库开发软件,用它来开发数据库,既简单又方便。
复制链接
扫一扫
分享
社区描述
VFP,是Microsoft公司推出的数据库开发软件,用它来开发数据库,既简单又方便。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章