浮点型数字的运算精度?

无爱大叔 2003-04-24 10:26:19
如下:浮点数不够精确,怎样才能避免!
<SCRIPT LANGUAGE="JavaScript">
function totalnum()
{
t1=parseFloat(form1.t1.value);
t2=parseFloat(form1.t2.value);
t3=parseFloat(form1.t3.value);
t4=parseFloat(form1.t4.value);
form1.total1.value=t1+t2+t3+t4
}
</SCRIPT>
<FORM name=form1>
Total:<INPUT TYPE="text" NAME="total1"><BR>
1<INPUT TYPE="text" NAME="t1" value="0.3" onpropertychange="totalnum()"><BR>
2<INPUT TYPE="text" NAME="t2" value="0.223" onpropertychange="totalnum()"><BR>
3<INPUT TYPE="text" NAME="t3" value="1" onpropertychange="totalnum()"><BR>
4<INPUT TYPE="text" NAME="t4" value="44" onpropertychange="totalnum()"><BR>
</FORM>
...全文
114 7 打赏 收藏 转发到动态 举报
写回复
用AI写文章
7 条回复
切换为时间正序
请发表友善的回复…
发表回复
gq 2003-05-21
  • 打赏
  • 举报
回复
今天碰上这问题。。特意来看看。。呵呵。
snakerlee 2003-05-21
  • 打赏
  • 举报
回复
xuzuning 2003-04-24
  • 打赏
  • 举报
回复
form1.total1.value=(t1+t2+t3+t4).toFixed(4);

js不太适合做高精度运算,一般宜限定有效小数位数

其中
function Number.prototype.toFixed(dot) {
with(Math){
var m=pow(10,Number(dot))
var s = (round(this*m)/m).toString();
}
if(s.indexOf('.') < 0)
s += ".";
s += "000000000000";
return s.substr(0,s.indexOf('.')+dot+1);
}
无爱大叔 2003-04-24
  • 打赏
  • 举报
回复
在3里面输入一个1就会出现
total=55.522999999999996
心云意水 2003-04-24
  • 打赏
  • 举报
回复
<script>
String.prototype.fn = function(n)
{ s=""
for(i=0;i<n;i++)s+=this
return s
}
Number.prototype.fix = function(num)
{with(Math)return (round(this.valueOf()*pow(10,num))/pow(10,num)).toString().search(/\./i)==-1?(round(this.valueOf()*pow(10,num))/pow(10,num)).toString()+"."+"0".fn(num):(round(this.valueOf()*pow(10,num))/pow(10,num));
}
alert((5.31-1.31).fix(2));
</script>
上边的代码返回任意数的保留n位小数值,为了考虑货币的效果(xx.xx)形势,所以长了一点儿,因为4.00的格式是不能显示的(以数字方式),如果不用顾及那个用下边的就行
<script>
Number.prototype.fix = function(num)
{with(Math)return round(this.valueOf()*pow(10,num))/pow(10,num);
}
alert((5.31-1.31).fix(2));
</script>
walkingpoison 2003-04-24
  • 打赏
  • 举报
回复
以前qiushuiwuhen和emu等高手讨论过这个问题。我把结果整理了一下,做了几个函数,方便调用:

//除法函数,用来得到精确的除法结果
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精确结果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}

//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}

//乘法函数,用来得到精确的乘法结果
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精确结果
function accMul(arg1,arg2)
{
arg1=String(arg1);var i=arg1.length-arg1.indexOf(".")-1;i=(i>=arg1.length)?0:i
arg2=String(arg2);var j=arg2.length-arg2.indexOf(".")-1;j=(j>=arg2.length)?0:j
return arg1.replace(".","")*arg2.replace(".","")/Math.pow(10,i+j)
}

//给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}

//加法函数,用来得到精确的加法结果
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精确结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}

//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}

无爱大叔 2003-04-24
  • 打赏
  • 举报
回复
怎样才能精确的计算哪(不限定小数位数)?我用的是asp,有办法吗?

87,921

社区成员

发帖
与我相关
我的任务
社区描述
Web 开发 JavaScript
社区管理员
  • JavaScript
  • 无·法
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧