社区
MS-SQL Server
帖子详情
sqlserver数据的float型的问题??
dxinyan
2005-08-22 10:03:47
在数据库中有一个表字段的类型为float
在表中有如下数据:23.3, .98
当我在程序中输入23,然后用数据库中的23.3-23正常的情况下应等于.3,但是数据库中的
结果确是:.30000000000045
如果用23.3-10的话结果是:13.3是正确的。
不知道为什么?怎样解决?
...全文
318
2
打赏
收藏
sqlserver数据的float型的问题??
在数据库中有一个表字段的类型为float 在表中有如下数据:23.3, .98 当我在程序中输入23,然后用数据库中的23.3-23正常的情况下应等于.3,但是数据库中的 结果确是:.30000000000045 如果用23.3-10的话结果是:13.3是正确的。 不知道为什么?怎样解决?
复制链接
扫一扫
分享
转发到动态
举报
AI
作业
写回复
配置赞助广告
用AI写文章
2 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
点点星灯
2005-08-22
打赏
举报
回复
declare @f float
set @f=23.3-23
select @f
declare @f1 decimal(18,3)
set @f1=23.3-23
select @f1
点点星灯
2005-08-22
打赏
举报
回复
用数据类型
decimal(p,s)
定义 decimal 的列、变量和参数的两种特性如下:
p
指定精度或对象能够控制的数字个数。
s
指定可放到小数点右边的小数位数或数字个数。
p 和 s 必须遵守以下规则:0 <= s <= p <= 38。
numeric 和 decimal 数据类型的默认最大精度值是 38。在 Transact-SQL 中,numeric 与 decimal 数据类型在功能上等效。
当数据值一定要按照指定精确存储时,可以用带有小数的 decimal 数据类型来存储数字。
spring-boot-2.3.0.RC1.jar中文-英文对照文档.zip
1、压缩文件中包含: 中文-英文对照文档、jar包下载地址、Maven依赖、Gradle依赖、源代码下载地址。 2、使用方法: 解压最外层zip,再解压其中的zip包,双击 【index.html】 文件,即可用浏览器打开、进行查看。 3、特殊说明: (1)本文档为人性化翻译,精心制作,请放心使用; (2)只翻译了该翻译的内容,如:注释、说明、描述、用法讲解 等; (3)不该翻译的内容保持原样,如:类名、方法名、包名、类
型
、关键字、代码 等。 4、温馨提示: (1)为了防止解压后路径太长导致浏览器无法打开,推荐在解压时选择“解压到当前文件夹”(放心,自带文件夹,文件不会散落一地); (2)有时,一套Java组件会有多个jar,所以在下载前,请仔细阅读本篇描述,以确保这就是你需要的文件。 5、本文件关键字: jar中文-英文对照文档.zip,java,jar包,Maven,第三方jar包,组件,开源组件,第三方组件,Gradle,中文API文档,手册,开发手册,使用手册,参考手册。
presto-jdbc-0.238.1.jar中文文档.zip
1、压缩文件中包含: 中文文档、jar包下载地址、Maven依赖、Gradle依赖、源代码下载地址。 2、使用方法: 解压最外层zip,再解压其中的zip包,双击 【index.html】 文件,即可用浏览器打开、进行查看。 3、特殊说明: (1)本文档为人性化翻译,精心制作,请放心使用; (2)只翻译了该翻译的内容,如:注释、说明、描述、用法讲解 等; (3)不该翻译的内容保持原样,如:类名、方法名、包名、类
型
、关键字、代码 等。 4、温馨提示: (1)为了防止解压后路径太长导致浏览器无法打开,推荐在解压时选择“解压到当前文件夹”(放心,自带文件夹,文件不会散落一地); (2)有时,一套Java组件会有多个jar,所以在下载前,请仔细阅读本篇描述,以确保这就是你需要的文件。 5、本文件关键字: jar中文文档.zip,java,jar包,Maven,第三方jar包,组件,开源组件,第三方组件,Gradle,中文API文档,手册,开发手册,使用手册,参考手册。
Linux_SID_开发指南.pdf
Linux_SID_开发指南
基于 python 3.7 + django 2.2.3 + 运维devops管理系统
基于 python 3.7 + django 2.2.3 + channels 2.2.0 + celery 4.3.0 + ansible 2.8.5 + AdminLTE-3.0.0 实现的运维devops管理系统。
拉格朗日插值法处理缺失
数据
资源下载链接为: https://pan.quark.cn/s/abbae039bf2a 拉格朗日插值法是一种数学方法,能够在给定的若干个不同位置的观测值时,找到一个多项式,使得该多项式在这些观测点上恰好取到相应的观测值。这种多项式被称为拉格朗日(插值)多项式。从数学的角度来看,拉格朗日插值法可以构建一个多项式函数,使其精确地穿过二维平面上的若干个已知点。本文将介绍如何利用拉格朗日插值法来填补缺失值。为了更好地理解这一方法,我们先通过一组简单的
数据
来展示拉格朗日插值法的实现过程。以下是实现拉格朗日插值法的代码示例:
MS-SQL Server
34,837
社区成员
254,632
社区内容
发帖
与我相关
我的任务
MS-SQL Server
MS-SQL Server相关内容讨论专区
复制链接
扫一扫
分享
社区描述
MS-SQL Server相关内容讨论专区
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章