社区
脚本语言
帖子详情
除法的小问题
iwangh
2009-05-25 01:19:03
一时糊涂,有个除法的小问题想不明白了。
比如9 / 2 ,我想得到结果的整数部分,而且不是四舍五入的结果,就是得到4,该怎么得到呢?
我直接用运算符“ / ”,除数和被除数数据类型为integer,结果得到的是四舍五入的结果。
...全文
135
3
打赏
收藏
除法的小问题
一时糊涂,有个除法的小问题想不明白了。 比如9 / 2 ,我想得到结果的整数部分,而且不是四舍五入的结果,就是得到4,该怎么得到呢? 我直接用运算符“ / ”,除数和被除数数据类型为integer,结果得到的是四舍五入的结果。
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
3 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
iwangh
2009-05-25
打赏
举报
回复
呵呵。谢谢。我明白了。我用的是
decimal a ,b
integer c
c=a / b
然后得到的结果就是四舍五入后的。
newease
2009-05-25
打赏
举报
回复
Truncate(9/2,0)
wag_enu
2009-05-25
打赏
举报
回复
int(9/2)
MATLAB
除法
运算的精度
问题
及其解决方案
本文探讨了MATLAB中执行高精度
除法
运算时遇到的
问题
,并提供了两种解决方案:使用roundn函数进行圆整处理和通过将
除法
转换为乘法来避免精度损失。
C++
除法
问题
本文介绍了C++新手在编程时可能遇到的小数
除法
问题
。当进行整型
除法
时,C++会将结果向下取整,导致丢失小数部分。为了解决这个
问题
,需要将变量声明为双精度浮点数(double)。通过示例代码展示了如何正确地进行小数
除法
运算,以保留商的小数部分。
SystemVerilog
除法
问题
本文分析了SystemVerilog中的
除法
问题
,给出两个
除法
运算示例,结果不同。还介绍了Verilog中整数
除法
结果向零截断,浮点数
除法
保留小数部分。同时指出IEEE 1800对浮点数到整数显式转换规定宽松,且提供明确舍入函数用于精确控制。
用
除法
解决
问题
练习
博客内容围绕用
除法
解决
问题
的练习展开,聚焦于
除法
在实际
问题
中的运用。
关于BigDecimal计算
除法
的精度
问题
博客探讨了BigDecimal计算
除法
的精度
问题
。不同计算方法输出差异大,原因是中间被除数精度及
除法
保留位数规则。第一种写法整除时没
问题
,非整除会有
问题
。最简单的解决办法是在divide方法里指定结果位数,再加上setScale就不会有
问题
。
脚本语言
743
社区成员
8,037
社区内容
发帖
与我相关
我的任务
脚本语言
PowerBuilder 脚本语言
复制链接
扫一扫
分享
社区描述
PowerBuilder 脚本语言
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章