社区
ASP
帖子详情
我用formatnumber精确到两位算出的结果为什么不准?
hhyhappy
2005-07-09 03:14:08
我写的公式是: yjsr=formatnumber(fs*rs5("yjbl")*0.1,2)
比如说fs=829,rs5("yjbl")=7,那么按照我想要的应该是yjsr=580.3,可是实际算出来确是580.08
谁能指点一下?
...全文
208
13
打赏
收藏
我用formatnumber精确到两位算出的结果为什么不准?
我写的公式是: yjsr=formatnumber(fs*rs5("yjbl")*0.1,2) 比如说fs=829,rs5("yjbl")=7,那么按照我想要的应该是yjsr=580.3,可是实际算出来确是580.08 谁能指点一下?
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
13 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
hhyhappy
2005-07-13
打赏
举报
回复
楼上的,像你这样的我试过,一点问题没有,可是保存到数据表里面就变了
Camelot
2005-07-13
打赏
举报
回复
你在写入数据库前先单独输出各个值看看,如这样:Response.Write((fs & " * " & rs5("yjbl") & " * 0.1 = " & fs * rs5("yjbl") * 0.1) & "<br>FormatNumber(" & fs & " * " & rs5("yjbl") & " * 0.1, 2) = " & FormatNumber(fs * rs5("yjbl") * 0.1, 2))
hhyhappy
2005-07-13
打赏
举报
回复
请问各位在设置数据表的时候,小数的都设置成什么类型呢?
QCB181
2005-07-13
打赏
举报
回复
数据库的字段类型设置错了吧
hhyhappy
2005-07-13
打赏
举报
回复
to net_lover(孟子E章) 这样是没有问题,可是保存到数据表里面就出现了上述的问题,我用的access数据库,数据表中的yjsr和yzsr都用的单精度型
孟子E章
2005-07-13
打赏
举报
回复
<script language=vbscript>
alert formatnumber(829*7*0.1,2)
</script>
<%
Response.Write formatnumber(829*7*0.1,2)
%>
没有问题啊。
IT_Fish
2005-07-13
打赏
举报
回复
可能是你的字段格式不对,设置成“小数”看看
hhyhappy
2005-07-13
打赏
举报
回复
这种情况我感觉可能是数据表中的字段类型设置不对造成的,在页面上输出结果没错误,可是保存到表里面就有错误了
sjjf
2005-07-13
打赏
举报
回复
如果有的话,再研究吧,我现在这个机器上刚好没有 access
:(
sjjf
2005-07-13
打赏
举报
回复
如果存在该问题它应该是两种环境种的数字的精度转化末位取舍的规则不一样吧。
你确定 直接把 580.30 和 580.3 (两个值都写死)存入表也出现这样的问题吗?
hhyhappy
2005-07-09
打赏
举报
回复
小数为数选的“自动”
hhyhappy
2005-07-09
打赏
举报
回复
就这一句,我用上面的公式把结果算出来保存到数据表中,数据库是access的,数据类型为单精度
wesheng
2005-07-09
打赏
举报
回复
不会吧.你把整个源码贴出来
分治算法--大整数乘法
大整数乘法:就是乘法的两个乘数比较大,最后结果超过了整型甚至长整型的最大范围,此时如果需要得到
精确
结果,就不能常规的使用乘号直接计算了。没错,就需要采用分治的思想,将乘数“分割”,将大整数计算转换为小整数计算。 可以通过列表的形式来进行大整数的乘法,通过数组来保存列表中的数据。结合http://blog.csdn.net/tjsinor2008/article/details/5625849计算87
卷积神经网络的底层秘密:用C++撸一个能打的卷积神经网络是什么体验?
摘要:卷积神经网络(CNN)的核心原理与应用 CNN通过局部连接、权值共享和平移不变性三大创新解决了传统全连接网络处理图像的高参数量问题。其核心操作是卷积运算,通过滤波器在图像上滑动检测局部特征,显著提升了参数效率和特征提取能力。CNN采用层次化结构,浅层识别边缘纹理等基础特征,深层组合成高级语义特征。关键参数包括步长、填充、核大小和深度,通过数学公式
精确
控制输出尺寸。CNN已广泛应用于计算机视觉、医疗影像、自动驾驶等领域,其参数效率比传统方法提升数个数量级,成为现代AI系统不可或缺的组成部分。
Vbs脚本经典教材
Vbs脚本经典教材(最全的资料还是MSDN) —为什么要使用Vbs? 在Windows中,学习计算机操作也许很简单,但是很多计算机工作是重复性劳动,例如你每周也许需要对一些计算机文件进行复制、粘贴、改名、删除,也许你每天启动计算机第一件事情就是打开WORD,切换到你喜爱的输入法进行文本编辑,同时还要播放优美的音乐给工作创造一个舒心的环境,当然也有可能你经常需要对文本中的某些数据进行整
Vbs脚本编程简明教程
◎Vbs脚本编程简明教程之一 —为什么要使用Vbs? 在Windows中,学习计算机操作也许很简单,但是很多计算机工作是重复性劳动,例如你每周也许需要对一些计算机文件进行复制、粘贴、改名、删除,也许你每天启动计算机第一件事情就是打开WORD,切换到你喜爱的输入法进行文本编辑,同时还要播放优美的音乐给
Vbs 脚本编程简明教程之一
—为什么要使用 Vbs ? 在 Windows 中,学习计算机操作也许很简单,但是很多计算机工作是重复性劳动,例如你每周也许需要对一些计算机文件进行复制、粘贴、改名、删除,也许你每天启动 计算机第一件事情就是打开 WORD ,切换到你喜爱的输入法进行文本编辑,同时还要播放优美的音乐给工作创造一个舒心的环境,当然也有可能你经常需要对文本中的某 些数据进行整理,把各式各样的数据按照某种规则排列起来……...
ASP
28,406
社区成员
356,946
社区内容
发帖
与我相关
我的任务
ASP
ASP即Active Server Pages,是Microsoft公司开发的服务器端脚本环境。
复制链接
扫一扫
分享
社区描述
ASP即Active Server Pages,是Microsoft公司开发的服务器端脚本环境。
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章