1.5w+
社区成员
- 全部
- VC综合技术
- 互联网技术
- MFC AppLauncher
- .NET 技术
- 界面
- 进程
- 算法
- 硬件/系统
- 数据库
- VC++技术资源
怎么这么简单的三行代码竟然也运算错了？？关于四舍五入的
float round(float v , float n)
{
float temp;
temp = pow( 10 , n);
float f = (int)(v * temp + 0.5) / temp;//监视这个表达式没错
return f;//运行到这里f就变了。好像没有四舍五入的样子
}
这个函数的作用是把v的浮点数只保留n位小数的四舍五入算法。再watch里面运行到float f = (int)(v * temp + 0.5) / temp;的时候，我监视了(int)(v * temp + 0.5) / temp表达式的值，这时没有错，但是赋值到f后，再监视f的值就错了，好像没有四舍五入的样子
{
float temp;
temp = pow( 10 , n);
float f = (int)(v * temp + 0.5) / temp;//监视这个表达式没错
return f;//运行到这里f就变了。好像没有四舍五入的样子
}
这个函数的作用是把v的浮点数只保留n位小数的四舍五入算法。再watch里面运行到float f = (int)(v * temp + 0.5) / temp;的时候，我监视了(int)(v * temp + 0.5) / temp表达式的值，这时没有错，但是赋值到f后，再监视f的值就错了，好像没有四舍五入的样子
...全文
当前发帖距今超过3年，不再开放新的回复
发表回复
mybios 2004-11-02
的确是这样，就是这个float的误差，最后我还是用了自己的算法，这样算来算去都没有错。syson(Syson) 的算法我还没有试。
double round(double v , double n)
{
double temp = pow(10 , n);
return (int)(v*temp+0.511111111111f)/temp;
}
谢谢大家了。散分
double round(double v , double n)
{
double temp = pow(10 , n);
return (int)(v*temp+0.511111111111f)/temp;
}
谢谢大家了。散分
mybios 2004-11-02
to:LittleLee(飞天猫)
对于您写的函数，我作个分析看看，如果用round(0.45 , 1)调用，则
float round(float v , float n)
{
float temp;
temp = pow( 10 , n); //temp 的结果会是 10的n次方 ＝ 10
CString l_str;
l_str.Format("%.0f",temp); //Format，并且不取小数，l_str得出结果是"10"
float f=atof(l_str); //atof把l_str转换成double型，则f结果是10.00000
return f //然后把f返回，即返回10，有何意义？而且，这句好像漏了个“;”吧？
}
以上是我的分析结果。但我没有拿到vc调试器里运行。小弟不才，如有不对，请多多指出。谢谢。
对于您写的函数，我作个分析看看，如果用round(0.45 , 1)调用，则
float round(float v , float n)
{
float temp;
temp = pow( 10 , n); //temp 的结果会是 10的n次方 ＝ 10
CString l_str;
l_str.Format("%.0f",temp); //Format，并且不取小数，l_str得出结果是"10"
float f=atof(l_str); //atof把l_str转换成double型，则f结果是10.00000
return f //然后把f返回，即返回10，有何意义？而且，这句好像漏了个“;”吧？
}
以上是我的分析结果。但我没有拿到vc调试器里运行。小弟不才，如有不对，请多多指出。谢谢。
syl5005 2004-11-02
学习呀
I_Love_CPP 2004-11-02
帮你查到了，汗。。。。
C语言编程中，有时需要把float转换成int数值使用；但在VC++中，这种转换有时会出现大的误差。例如：float ftemp = 1140.00; int itemp = (int)ftemp;此时itemp的值为1139，误差为1----这就是业界成为的“1误差”（汗。。。，以前都不知道）。很多种类型转换都存在1误差（我就不一一写了）。
防范1误差的方法：
1、将变量在类中定义；
2、在适当的时候把1误差补上（加减1）。
C语言编程中，有时需要把float转换成int数值使用；但在VC++中，这种转换有时会出现大的误差。例如：float ftemp = 1140.00; int itemp = (int)ftemp;此时itemp的值为1139，误差为1----这就是业界成为的“1误差”（汗。。。，以前都不知道）。很多种类型转换都存在1误差（我就不一一写了）。
防范1误差的方法：
1、将变量在类中定义；
2、在适当的时候把1误差补上（加减1）。
一条晚起的虫 2004-11-02
float精度问题,最好用整型计算
LittleLee 2004-11-02
可能是我没看清你的意思，我写的函数是把小数位去掉！
danielzhu 2004-11-02
UP
CodeProject-Jerry 2004-11-02
看来我还很菜 想楼主学习：）
打发点分给我吧 ^-^
打发点分给我吧 ^-^
CodeProject-Jerry 2004-11-02
想了很久，终于想起是什么问题了。但是不确定是不是这样。我记得当年看过一篇文章，说C++对float和double的处理的问题，会自动转换成double，而在double型里，如果传入的是4.5，则会自动转换成4.4999999999998……
我怎么不知道？
晕了
我怎么不知道？
晕了
syson 2004-11-02
float round(double v , float n)
{
double temp;
temp = pow( 10 , n);
float f = (int)((float)(v * temp) + 0.5) / temp
return f;
}
我的机这样可以了。楼主试试。
将v和temp换成double，然后相乘后再强制转为float，那就可以了。
问题主要出自相乘之后的精度问题。
{
double temp;
temp = pow( 10 , n);
float f = (int)((float)(v * temp) + 0.5) / temp
return f;
}
我的机这样可以了。楼主试试。
将v和temp换成double，然后相乘后再强制转为float，那就可以了。
问题主要出自相乘之后的精度问题。
LittleLee 2004-11-01
int和float之间强制转换就是有问题
我说一个方法可能麻烦一点但应该能解决问题
float round(float v , float n)
{
float temp;
temp = pow( 10 , n);
CString l_str;
l_str.Format("%.0f",temp);
float f=atof(l_str);
return f
}
我说一个方法可能麻烦一点但应该能解决问题
float round(float v , float n)
{
float temp;
temp = pow( 10 , n);
CString l_str;
l_str.Format("%.0f",temp);
float f=atof(l_str);
return f
}
mybios 2004-11-01
忘记去掉了个float了。再改一点
double round(double v , double n)
{
double temp = pow(10 , n);
return (int)(v*temp+0.511111111111f)/temp;
}
double round(double v , double n)
{
double temp = pow(10 , n);
return (int)(v*temp+0.511111111111f)/temp;
}
mybios 2004-11-01
想了很久，终于想起是什么问题了。但是不确定是不是这样。我记得当年看过一篇文章，说C++对float和double的处理的问题，会自动转换成double，而在double型里，如果传入的是4.5，则会自动转换成4.4999999999998，这个4.4999999999998 + 0.5，结果还是4.9999999999998，强制转换成int后，还是会变成4！解决办法是
double round(double v , double n)
{
float temp = (float)pow(10 , n);
return (int)(v*temp+0.511111111111f)/temp; // 加了很多1进去，呵呵，问题就解决了
}
double round(double v , double n)
{
float temp = (float)pow(10 , n);
return (int)(v*temp+0.511111111111f)/temp; // 加了很多1进去，呵呵，问题就解决了
}
mybios 2004-11-01
你们试试用round(0.45 , 1)
结果应该会错！会变成0.4
结果应该会错！会变成0.4
syson 2004-11-01
问题出现在浮点数的精度上。其实2.5+0.5有可能小于3.000000000，所以出现这个问题。
试试用双精度，然后2.5+0.5000..01可以解决。但也有危险……
-_-!
试试用双精度，然后2.5+0.5000..01可以解决。但也有危险……
-_-!
joysunstar 2004-11-01
我按照你的程序作了，但是没有出现你说的结果，你可能传入的参数小数位太多了吧
float型最多7位有效数字
float型最多7位有效数字
vioy 2004-11-01
原因在于FLOAT型的数据精度问题，
楼主是要temp的四舍五入结果 还是 temp除temp 的四舍五入结果？
楼主是要temp的四舍五入结果 还是 temp除temp 的四舍五入结果？
暗黑帝国 2004-11-01
#include <stdio.h>
#include <math.h>
float round(float v , float n)
{
float temp;
temp = pow( 10 , n);
return ((int)(v * temp + 0.5) / temp);//¼àÊÓÕâ¸ö±í´ïʽû´í
}
int
main(void)
{
printf("%f\n",round(3.141522967,4));
}
这个函数在我这里可以运行正确的，不过要注意float只能精确到8位
#include <math.h>
float round(float v , float n)
{
float temp;
temp = pow( 10 , n);
return ((int)(v * temp + 0.5) / temp);//¼àÊÓÕâ¸ö±í´ïʽû´í
}
int
main(void)
{
printf("%f\n",round(3.141522967,4));
}
这个函数在我这里可以运行正确的，不过要注意float只能精确到8位
sonic_andy 2004-11-01
(int)(v * temp + 0.5) / temp 0.130000
temp 100.000
v 0.126450
n 2.00000
f 0.130000
我运行的结果是这个，应该没错吧？
temp 100.000
v 0.126450
n 2.00000
f 0.130000
我运行的结果是这个，应该没错吧？
vioy 2004-11-01
四舍五入的结果必须用INT类型保存！
如何在Python中四舍五入数字 It’s the era of big data, and every day more and more business are trying to leverage their data to make informed decisions. Many businesses are turning to Python’s powerful data science ecosystem ...
java四舍五入BigDecimal（对（x）分为四舍五入计算方法） 欢迎使用Markdown编辑器写博客本Markdown编辑器...代码块高亮 图片链接和图片上传 LaTex数学公式 UML序列图和流程图 离线写博客 导入导出Markdown文件 丰富的快捷键 快捷键 加粗 Ctrl + B 斜体 Ctrl + I 引用 Ctrl
Verilog对数据进行四舍五入（round）与饱和（saturation）截位 【设计经验】5、Verilog对数据进行四舍五入（round）与饱和（saturation）截位 一、软件平台与硬件平台 软件平台： 操作系统：Windows 8.1 64-bit 开发套件：Vivado2015.4.2 Matlab2016a 仿真工具：Vivado...
Java基础知识面试题（2020最新版） 文章目录Java概述何为编程什么是Javajdk1.5之后的三大版本JVM、JRE和JDK的关系什么是跨平台性？原理是什么Java语言有哪些特点什么是字节码？采用字节码的最大好处是什么什么是Java程序的主类？应用程序和小程序的...
JAVA如何把一个float四舍五入到小数点后2位,4位,或者其它指定位数. 怎么使float保留两位小数或多位小数 两种方法： import Java.math.*; …… 方法1： float f = 34.232323; BigDecimal b = new BigDecimal(f);... float f1 = b.setScale(2, BigDecimal.
代码之谜（五）- 浮点数（谁偷了你的精度？） ****光棍节加长版**** 如果我告诉你，中关村配置最高的电子计算机的计算精度还不如一个便利店卖的手持计算器，你一定会反驳我：「今天写博客之前又忘记吃药了吧」。 你可以用最主流的编程语言计算 0.2 + 0.4，...
JavaScript的四舍五入错误分析 看《JavaScript权威指南》，看到第三章基本类型中的数字部分，讲到二进制浮点数的四舍五入错误。书上只是简单说因为JavaScript采用IEEE-754标准表示浮点数，并不能精确表示许多实数，所以才导致这个错误存在。现在更...
【设计经验】5、Verilog对数据进行四舍五入（round）与饱和（saturation）截位 一、软件平台与硬件平台 软件平台： 操作系统：Windows 8.1 64-bit 开发套件：Vivado2015.4.2 Matlab2016a 仿真工具：Vivado自带仿真器 ... 在利用Verilog写数字信号处理相关算法的过程中往往涉及到对数据的...
《Python程序设计与算法基础教程（第二版）》江红 余青松 全部章节的课后习题，上机实践，课后答案，案例... 1. 这本书对Python的知识点的描述很详细，而且排版看的很舒服. 2. 几个例题：假装自己从零开始学，将一些有代表性、有意思的例题抽取出来. 3. 还有自己对一部分课后复习题，全部课后上机实践题的解题思路
嵩天老师-Python语言程序设计-Python123配套练习测验题目汇总整理 测验1：Python基本语法元素 知识点概要： 普遍认为Python语言诞生于1991年 Python语言中的缩进在程序中长度统一且强制使用，只要统一即可，不一定是4个空格（尽管这是惯例） IPO模型指：Input Process Output ...
中国大学MOOC计算机程序设计（C++）——第2周 简单信息的表示和基本运算代码 特别要知道变量一经声明，系统就为其保留了存储空间，以后可以通过名称（也就是变量名）使用这个空间，在里面存数据（赋值），从里取数据。变量在没有赋值时，其值是不确定的，特别注意不一定是0，如果这样进行运算...
华中科技大学计算机组成原理慕课答案 一、单项选择题 1、下列说法中，错误的是（ B ） A.固件功能类似软件，形态类似硬件 B.... C....D....A....B.运算器、控制器、存储器 C.主机、外部设备 D.主机和应用软件 3、CPU地址线数量与下列哪项指标密切相关（ ...
java中小数的处理：高精度运算用bigDecimal类，精度保留方法，即舍入方式的指定 一、 计算机的小数计算一定范围内精确，超过范围只能取近似值： 计算机存储的浮点数受存储bit位数影响，只能保证一定范围内精准，超过bit范围的只能取近似值。 ...编程时注意：doulbe类型的数，不能用等号判定是否相等...
测试开发笔记 测试开发笔记 第一章 测试基础 7 什么是软件测试： 7 ★软件测试的目的、意义：（怎么做好软件测试） 7 3.软件生命周期： 7 第二章 测试过程 8 1.测试模型 8 H模型： 8 V模型 9 2.内部测试 10 ...
Python 入门&环境搭建&变量&数据类型 Python 入门python 简介Python下载Python 基本语法 python 简介 Python 是一种跨平台的计算机程序设计语言。 是一种面向对象的动态类型语言，最初被设计用于编写自动化脚本(shell)，随着版本的不断更新和语言新功能...
Python内置函数 Python内置函数Python abs()函数Python all() 函数Python any() 函数Python basestring() 函数Python bin() 函数Python bool() 函数Python bytearray() 函数Python callable() 函数Python chr() 函数Python ...
【转载】JAVA如何把一个float四舍五入到小数点后2位,4位,或者其它指定位数. 怎么使float保留两位小数或多位小数 两种方法： import java.math.*; …… 方法1： float f = 34.232323; BigDecimal b = new BigDecimal(f); float f1 = b.setScale(2, BigDecimal.ROUND_HALF_U
浮点运算单元FPU能给电机控制带来什么？ 当CPU执行一个需要浮点数运算的程序时，有三种方式可以执行：软件仿真器（浮点运算函数库）、附加浮点运算器和集成浮点运算单元。在控制应用中会有很多的坐标变换，PID运算，估算器等，浮点运算单元可以提高运算的...
一起学python-opencv四（字符串操作和数组运算及矩阵运算） 没错，这个应该是暂时的numpy的第一阶段学习的最后一讲。在下一讲将要先回归到opencv，因为暂时这些numpy的知识肯定是够好几讲用的，numpy这个东西确实有点枯燥，所以先回归到opencv应用一下，理论到实践的过程是...
编程语言习题集（1） 从今天开始，我们新开了一个...与数理逻辑不同的是，我们这里是混合的，只挑选出容易错的题目来进行讲解。 1. C/C++ 1.1 Math.round(11.5) 等于多少 (). Math.round(-11.5) 等于多少 ( ) A.11 ,-11 B.11 ,-12 C.
1.3 算术运算和逻辑运算 1. 算术运算要点 （1）移位操作 ① 原码移位：原码进行算术左移和算术右移都不改变原码本身形态。左移一位相当于乘以 2，右移一位相当于除以 2，移位出现的空位补 0。这是因为原码与二进制数真值的绝对值是完全...
Hibernate4视频教程_全面来袭 本Java视频教程基于 Hibernate4.x 录制。内容涵盖安装 Hibernatetools 插件、Session 核心方法、持久化对象生命周期、对象关系映射（1-n、1-1、n-n、继承映射）、检索策略、检索方式（对象导航图、OID 检索、HQL、QBC、本地SQL）、Hibernate 一\二级缓存、管理 Session、批量处理等 Hibernate 企业级开发的核心技术。 本Java视频教程将帮助掌握学习者编写出具有合理的软件架构，以及好的运行性能和并发性能的实用 Hibernate 应用。Java视频教程内容注重理论与实践相结合，列举大量具典型性和实用价值的 Hibernate应用实例，并提供详细的开发和部署步骤。
《UML面向对象需求分析与建模教程》 邹盛荣 主编 电子版 2016.01 .doc PPT已在CSDN均可免费下载
《UML面向对象需求分析与建模教程》 邹盛荣 主编 电子版 2016.01 .doc
当当网上可购买纸质书： http://product.dangdang.com/23766413.html
