sqlserver数据的float型的问题??

dxinyan dxinyan 墨衍会员 · AI 创作全网分发 墨衍智能分发 通过墨衍一键同步至各平台 可同步平台 CSDN微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年,写一次发全网 我也要 + 加入社区
在数据库中有一个表字段的类型为float
在表中有如下数据:23.3, .98
当我在程序中输入23,然后用数据库中的23.3-23正常的情况下应等于.3,但是数据库中的
结果确是:.30000000000045
如果用23.3-10的话结果是:13.3是正确的。
不知道为什么?怎样解决?
...全文

相关推荐

MSSQL 将截断字符串或二进制数据问题的解决方法

地图数据存放在sqlserver 2008中,使用mapxtreme7 开发时,使用Feature.Update()方法时出错的提示包含“MSSQL 将截断字符串或二进制数据” 主要原因就是给某个字段赋值时,内容大于字段的长度或类型不符造成的 解决方法: 一个是修改数据库字段大小; 再一就是是加强数据强壮性,严格的输入判断。 防止添加的信息类型或者长度与数据库表中字段所对应的类型不符合。 您可能感兴趣的文章:C# double和decimal数据类型以截断的方式保留指定的小数位数oracle中截断表的使用介绍js中根据字数截取字符串,不能截断ur

weixin_38732315

详细分析sqlserver中的小数类型(float和decimal)

主要介绍了sqlserver中的小数类型的相关知识,文中讲解非常细致,代码帮助大家更好的理解和学习,感兴趣的朋友可以了解下

weixin_38680671

浅谈sqlserver下float的不确定性

很多时候,大家都知道,浮点型这个东西,本身存储就是一个不确定的数值,你永远无法知道,它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西。也许一开始使用的时候没有问题,但是有时候做统计的时候,就会看出端倪 简单的举个例子,就知道统计的时候,有可能出现意外的效果,导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理,所以在此其实我是推荐使用Numeric来替代float进行一个替代使用,避免一个sum ,然后明明明细看每一条数据都是正常的2,3位小数,一汇总就变成了8,9位的样子 CREATE TABLE #T (ID INT

weixin_38501810

mssql数据库函数汇总

mssql函数汇总mssql函数汇总mssql函数汇总mssql函数汇总mssql函数汇总mssql函数汇总mssql函数汇总mssql函数汇总

ppss789

MSSQL SERVER数据库开发规范

8年DBA经验积累,应用到企业实际开发,适用构建统一的数据库代码规范

basunio
评论 2
收藏 已收藏
分享
返回顶部
dxinyan
MS-SQL Server 34,876 成员 254,635 内容