下面的示例结果和和你所想的是一样的吗?
static void Main(string[] args)
{
float f = 0.2f;
double d = 0.2d;
Console.WriteLine(10 * (int)(2 / f));
Console.WriteLine(10 * (int)(2 / d));
Console.ReadKey();
}
-
等级
本版专家分：159结帖率 100% -
在做项目时,被一个没有重视的数值转换的问题折腾了一下. 特别提出来, 给大家一个提醒.
下面的示例结果和和你所想的是一样的吗?
展开阅读全文
-
版主等级
本版专家分：420751勋章
-
- 签到新秀 累计签到获取，不积跬步，无以至千里，继续坚持！
-
-
名人
2014年 荣获名人称号
2013年 荣获名人称号
2012年 荣获名人称号
-
- 状元 2013年 总版技术专家分年内排行榜第一
-
- 探花 2014年 总版技术专家分年内排行榜第三
-
-
嗯，意识到这个问题很好。
所以，千万不要用等号比较浮点数，而应该相减取绝对值，比较是否小于一个极小的数。
-
等级
本版专家分：472650勋章
-
-
进士
2018年总版新获得的技术专家分排名前十
2017年 总版技术专家分年内排行榜第十
2013年 总版技术专家分年内排行榜第八
-
-
铜牌
2018年12月 总版技术专家分月排行榜第三
2018年11月 总版技术专家分月排行榜第三
2017年2月 总版技术专家分月排行榜第三
-
-
红花
2019年1月 .NET技术大版内专家分月排行榜第一
2018年12月 .NET技术大版内专家分月排行榜第一
2018年11月 .NET技术大版内专家分月排行榜第一
2018年10月 .NET技术大版内专家分月排行榜第一
2018年9月 .NET技术大版内专家分月排行榜第一
2018年7月 .NET技术大版内专家分月排行榜第一
2018年6月 .NET技术大版内专家分月排行榜第一
2018年1月 .NET技术大版内专家分月排行榜第一
2017年5月 .NET技术大版内专家分月排行榜第一
2017年4月 .NET技术大版内专家分月排行榜第一
2017年3月 .NET技术大版内专家分月排行榜第一
2017年2月 .NET技术大版内专家分月排行榜第一
2016年10月 .NET技术大版内专家分月排行榜第一
2016年8月 .NET技术大版内专家分月排行榜第一
2016年7月 .NET技术大版内专家分月排行榜第一
-
-
黄花
2020年7月 .NET技术大版内专家分月排行榜第二
2019年4月 .NET技术大版内专家分月排行榜第二
2019年3月 .NET技术大版内专家分月排行榜第二
2018年8月 .NET技术大版内专家分月排行榜第二
2018年4月 .NET技术大版内专家分月排行榜第二
2018年3月 .NET技术大版内专家分月排行榜第二
2017年12月 .NET技术大版内专家分月排行榜第二
2017年9月 .NET技术大版内专家分月排行榜第二
2017年7月 .NET技术大版内专家分月排行榜第二
2017年6月 .NET技术大版内专家分月排行榜第二
2016年12月 .NET技术大版内专家分月排行榜第二
2016年9月 .NET技术大版内专家分月排行榜第二
2016年6月 .NET技术大版内专家分月排行榜第二
2016年3月 .NET技术大版内专家分月排行榜第二
2016年1月 .NET技术大版内专家分月排行榜第二
2015年12月 .NET技术大版内专家分月排行榜第二
2015年2月 .NET技术大版内专家分月排行榜第二
2015年1月 .NET技术大版内专家分月排行榜第二
2014年11月 .NET技术大版内专家分月排行榜第二
2014年5月 .NET技术大版内专家分月排行榜第二
2014年4月 .NET技术大版内专家分月排行榜第二
2012年2月 多媒体/设计/Flash/Silverlight 开发大版内专家分月排行榜第二
-
-
能写出
(int)(2 / d)
这种代码，其逻辑也很奇怪。楼主纯粹是心存侥幸，以为1.99999999999999999999999转换为int也是2么？
-
等级
本版专家分：159
-
是呀, 是有点想当然. 所以, 还是这样处理比较严谨一些:
Console.WriteLine(10 * (int)Math.Round((2 / f)));
另外, 在排错的过程中发现 debug 版和 release 版的得出的结果是不一样的.
-
等级
本版专家分：472650勋章
-
-
进士
2018年总版新获得的技术专家分排名前十
2017年 总版技术专家分年内排行榜第十
2013年 总版技术专家分年内排行榜第八
-
-
铜牌
2018年12月 总版技术专家分月排行榜第三
2018年11月 总版技术专家分月排行榜第三
2017年2月 总版技术专家分月排行榜第三
-
-
红花
2019年1月 .NET技术大版内专家分月排行榜第一
2018年12月 .NET技术大版内专家分月排行榜第一
2018年11月 .NET技术大版内专家分月排行榜第一
2018年10月 .NET技术大版内专家分月排行榜第一
2018年9月 .NET技术大版内专家分月排行榜第一
2018年7月 .NET技术大版内专家分月排行榜第一
2018年6月 .NET技术大版内专家分月排行榜第一
2018年1月 .NET技术大版内专家分月排行榜第一
2017年5月 .NET技术大版内专家分月排行榜第一
2017年4月 .NET技术大版内专家分月排行榜第一
2017年3月 .NET技术大版内专家分月排行榜第一
2017年2月 .NET技术大版内专家分月排行榜第一
2016年10月 .NET技术大版内专家分月排行榜第一
2016年8月 .NET技术大版内专家分月排行榜第一
2016年7月 .NET技术大版内专家分月排行榜第一
-
-
黄花
2020年7月 .NET技术大版内专家分月排行榜第二
2019年4月 .NET技术大版内专家分月排行榜第二
2019年3月 .NET技术大版内专家分月排行榜第二
2018年8月 .NET技术大版内专家分月排行榜第二
2018年4月 .NET技术大版内专家分月排行榜第二
2018年3月 .NET技术大版内专家分月排行榜第二
2017年12月 .NET技术大版内专家分月排行榜第二
2017年9月 .NET技术大版内专家分月排行榜第二
2017年7月 .NET技术大版内专家分月排行榜第二
2017年6月 .NET技术大版内专家分月排行榜第二
2016年12月 .NET技术大版内专家分月排行榜第二
2016年9月 .NET技术大版内专家分月排行榜第二
2016年6月 .NET技术大版内专家分月排行榜第二
2016年3月 .NET技术大版内专家分月排行榜第二
2016年1月 .NET技术大版内专家分月排行榜第二
2015年12月 .NET技术大版内专家分月排行榜第二
2015年2月 .NET技术大版内专家分月排行榜第二
2015年1月 .NET技术大版内专家分月排行榜第二
2014年11月 .NET技术大版内专家分月排行榜第二
2014年5月 .NET技术大版内专家分月排行榜第二
2014年4月 .NET技术大版内专家分月排行榜第二
2012年2月 多媒体/设计/Flash/Silverlight 开发大版内专家分月排行榜第二
-
-
心存侥幸，就要用测试来验证。没有高强度的测试支持，其实我们的理论概念都站不住脚。
- Java中不同数值类型间转换与计算精度丢失问题
在Java编程过程中，经常会涉及到不同数值类型之间的转换以及计算精度丢失的问题，例如：int m=6; float n=3.5f; double p=2.75d; System.out.println(m + n); System.out.println(n + p);运行程序，输出结果分别...
- java数据转换和精度问题
开发工具与关键技术：MyEclipse 10，java 作者：郭珮云 ；撰写时间2019年4月 15 日 自动类型转换(隐式类型转换) 整型、实型（常量）、字符型数据可以混合运算。运算中，不同类型的数据先转化为同一类型，然后进行...
- 运算精度丢失和数值丢失问题
运算精度丢失和数值丢失问题 标签（空格分隔）： 编程竞赛 编程错题 在做题时，我经常会碰到程序很对，但结果出错的问题。如下面这个。 【题目描述】 经常出国旅行的驴友都知道，需要及时了解当地的气温状况。...
- java的数据精度问题
java数据类型转换自动类型转换整型与浮点型类型转换合理的创建标题，有助于目录的生成如何改变文本的样式插入链接与图片如何插入一段漂亮的代码片生成一个适合你的列表创建一个表格设定内容居中、居左、居右...
- C语言中字符串与各数值类型之间的转换
c语言的算法设计中，经常会需要用到字符串，而由于c语言中字符串并不是一个默认类型，其标准库stdlib设计了很多函数方便我们处理字符串与其他数值类型之间的转换。首先放上一段展示各函数使用的代码，大家也可以copy...
- VB 数据类型转换函数集
Str(x) 将数值数据x转换成字符串Val(x) 将字符串x中的数字转换成数值Chr(x) 返回以x为ASCII码的字符Asc(x) 给出字符x的ASCII码值，十进制数Cint(x) 将数值型数据x的小数部分四舍五入取整Int(x) 取小于等于x的...
- PHP 解决数值类型转换 精度丢失问题
可以看出原本结果应该是1633的，但是使用了函数intval() 和 (int) 之后结果居然变为了1632了，这是由于浮点类型的数字不能在不丢失一点儿精度的情况下通过内部二进制转换得到结果的，换句话说就是浮点...
- C#数据类型转换——数值字符串和数值之间的转换
C#数据类型转换——数值字符串和数值之间的转换 什么是数值字符串？ 在 C# 中，字符串是用一对双引号包含的若干字符来表示的，如 “123”。而 “123” 又相对特殊，因为组成该字符串的字符都是数字，这样的字符串，...
- Python 基础 - 4 常用数值类型（int，float，bool）操作
参考：Python 基础 - 0 前言Built-in TypesPython 数值类型包括整型（integer），浮点型（floating point number）和复数（complex number），并且，布尔型（boolean）是整型的子类其中，最常用的数值类型包括整型，...
- MATLAB的数据类型整型和浮点型
前者的整型数据主要为图像处理等特殊的应用问题提供数据类型，而对于一般数值运算，绝大多数是采用双精度浮点型的数据。 8种整数类型： 整数类型 数值类型 转换函数 有符号8...
- 第五章、C#数据类型的转换(Parse、Convert)
在C#中，允许数据类型之间相互转换，当数据从低精度...5.1、高精度数值转换成为低精度数值 （1）、double转换成为float float a = (float)13.55; float a = 13.55f; （2）、double转换成为int int b = (int)2...
- VBA学习笔记之Text（五）——字符串型数值和数值型字符串相互转换
Str函数将数值转换为字符串，即返回一个代表一个数值的字符串，其语法为： Str（number） CStr函数将数值表达式转换为字符串，其语法为： CStr（mynumberExpression） 注意：当一个数值转换成字符串时，总会在其...
- php常用数学函数
php常用数学函数 1. bcadd 任意精度数的相加 2. bcsub 任意精度数的减法 3. bcmul 乘法， bcdiv除法 4. bcmod 取余数。 （比%功能更强大） ...5. bcpow 幂函数运算 ...9. pi 得到圆周率数值 三角函数 sin c
- C++中的字符串（String）和数值转换
这里数值和字符串相互转换的例子，使用的是stringstream函数，在c++11当中有定义好的现成的函数取调用，非常方便。 1.【字符串转换为数值】 string和数值转换 转换类型 to_string(val) 把val转换成stri...
- 数值强制转换精度丢失问题
http://paste.ubuntu.com/26026112/ 在做HDUOJ时发现的，输入153 153 计算时5的立方值int类型转换之后值为124，求问为什么在这会发生精度丢失，而我单独写一个pow（5,3）却不会？
- Delphi的StrToFloat会使转变后的浮点数跟转换前的字符串不一样
写程序时涉及到一个会员折扣，在设计表字段时我设置为小数，字段精度3，数值范围2，小数位数2 ，用代码插入值0.9却变成0.89，这个0.9是从一个label.caption用strtofloat转换过来的。使用formatFloat(0.00,label....
- json解析存在的精度丢失问题详解
这个问题调查了很久。一直以为是jar包或者哪里转错了。自己动手实验了一下。发现是json js 和java数值范围不同引起的。{ “boolean”: true, “starttimeseconds”:9223372036854122112, “null”: null, ...
- Labview中数值将字符串转化为数值
目的：字符串转换为双精度数。 网友的程序框图： 分析网友的程序框图： 网友的目的是字符串转换为双精度数，从程序框图上看，他限定了字符串的格式。字符串由5个字符组成，其中整数部分2个字符，...
- Fortran基本知识
行的定义。在自由格式中每行可以书写132个字符。程序语句的位置没有了只能从第7列后开始书写的固定约定，可以在任意一列开始书写。同一行中可以顺序书写多条程序语句，语句之间用分号“;”进行分隔。...
- SQL Server 小数类型（float 和 decimal）
在SQL Server中，实际上小数数值只有两种数据类型：float 和 decimal，分别是近似数值和精确数值。其他小数类型，都可以使用float和decimal来替代，例如，双精度（double precision）数据类型...
- MATLAB字符串转换函数
abs 把串译成ASCII码 char 任何类型转换成串 double 任意lei'x
- Matlab基础知识（一）
matlab的数值默认为双精度浮点类型，将变量设置为整数类型时，需要用转换函数，在转换过程中，转换值转换为与之最接近的整数值，若小数部分为0.5，则往该浮点数最接近的两个整数中绝对值较大的一个。 MATLAB内置的...
- C#数据类型转换-数值字符串和数值之间的转换(摘抄)
首先，我们得搞明白，什么是数值字符串。我们知道，在 C# 中，字符串是用一对双引号包含的若干字符来表示的，如 "123"。而 "123" 又相对特殊，因为组成该字符串的字符都是数字，这样的字符串，就是数值字符串。 在...
- JS中六种数据类型（四）——Number
Number类型应该是ECMAScript中最令人关注的数据类型了，这种类型使用IEEE754格式来表示整数和浮点数值（浮点数值在某些语言中也被称为双精度数值）。为支持各种数值类型，ECMA-262定义了不同的数值字面量。 最基本...
- （转）VB强制类型转换函数
转自：http://tieba.baidu.com/f?kz=139765011 每个函数都可以强制将一个表达式转换成某种特定数据类型。 语法 CBool(expression) CByte(expression) CCur(expression) CDate(expression) CDbl(expression) CDec...
- Sql 将字符串转为double类型
第一阶段，认识 sql里面的数字类型，float,decimal, double 转载Sql的decimal、float、double类型的区别 三者的区别介绍 ...double:双精度实型，含字节数为8，64bit数值范围-1.7E308~1.7E308
- matlab数据类型转换遇到问题，及解决办法，sym,double ,vpa转换
符号计算与数值计算混合使用是Matlab程序的大忌! 丧失了快速计算得优点! 符号、数值、字符串间的转换指令---vpa" title="matlab 符号、数值、字符串间的转换指令---vpa" style="margin:0px; padding:0px; ...
- Matlab字符串 字符串数组 数据类型转换
字符串 ... 创建字符向量 通过将字符序列括在单引号中来创建一个字符向量。 chr = 'Hello, world' ...字符向量为 char 类型的 1×n 数组。在计算机编程中，字符串是表示 1×n 字符数组的常用术 ...但...
- 关于SQL Server中将数值类型转换为字符串的问题（转）
今天将Excel中的数据导入到数据库表A后，某一列被自动定义成了Float数据类型，然而，我们的正式库中的表B的相对应的列是Varchar类型的，所以，就出现了表B中所对应的列数据变成了科学计数法的形式。...
- MATLAB中的时间及其相关函数
日期和时间 matlab中表示日期时间有三种格式 ...连续的日期数值 687231 日期向量 1.0e+03 * 2.0200 0.0040 0.0030 0.0230 0.0390 0.0455 日期字符串格式是matlab命令行下最常用的，有多种输出样式。 连续的日...