vb程序转java,但是vb和java关于double的运算结果不一致……

abcde4502 2010-10-23 01:20:04
现在要将一个vb程序转为java的,里面有大量的double运算,double的运算都会有误差,经常出现精度丢失的问题,java和vb对于double的表示是一样的,依据 IEEE 754 标准,用 1 位表示数字的符号,用 11 位表示指数,52 位表示尾数。但是运算的结果不一样,怎样才能使java的误差和vb的一样呢?java里精确运算要用BigDecimal,但是vb里的double运算有误差,改后的java程序要和vb求出的结果一致,就不能用BigDecimal了
...全文
27 回复 打赏 收藏 转发到动态 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复

7,763

社区成员

发帖
与我相关
我的任务
社区描述
VB 基础类
社区管理员
  • VB基础类社区
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧