请教是sql 2005的bug吗?

longsky 2008-10-28 09:12:08
float字段 num

select 83.09*num as Exp1 from 任意表

如果num=40 那么 Exp1为会等于多少?
sql 2005 告诉 我 EXP1=3323.6000000000004
同样的 83.29 83.59 83.79,或者随便一个小数是 09的数,计算都可能多一位很小小的小数

这是为什么呢?

哪位朋友知道啊,要如何避免呢




...全文
109 6 打赏 收藏 举报
写回复
用AI写文章
6 条回复
切换为时间正序
请发表友善的回复…
发表回复
rucypli 2008-10-28
  • 打赏
  • 举报
回复
float 和 real
用于表示浮点数字数据的近似数字数据类型。浮点数据为近似值;并非数据类型范围内的所有数据都能精确地表示。

wzgundamqd 2008-10-28
  • 打赏
  • 举报
回复
受教了
takeshe 2008-10-28
  • 打赏
  • 举报
回复
学习
等不到来世 2008-10-28
  • 打赏
  • 举报
回复
计算机只会算加减法和位移操作,
所以把乘法化为近似的操作来处理,
因此产生一些误差,而返回值又没有对小数位进行限制,
所以才会这样。
等不到来世 2008-10-28
  • 打赏
  • 举报
回复
好像没那个问题吧,不知道你具体怎么算的。

declare @num float
set @num=83.09
select @num*40

select 83.09*40
select cast(83.09*40 as float)
select cast(83.09*40 as decimal(18,2))
/*

----------------------
3323.6

(1 row(s) affected)

---------------------------------------
3323.60

(1 row(s) affected)

----------------------
3323.6

(1 row(s) affected)

---------------------------------------
3323.60

(1 row(s) affected)
*/
xuexi456 2008-10-28
  • 打赏
  • 举报
回复
sql2000也一样

最好不要用float数据类型

用 numeric
附训练好的 YOLO 权重与 PyQt 可视化检测界面,页面底部含可视化效果预览,毕设/课设开箱即用。 【数据集概况】 · 检测类别(中文):[领航车(leader)] · 训练集:414 张 · 验证集:39 张 · 测试集:20 张 · 总计:473 张 该数据集聚焦于室内走廊环境中对领航车的精准识别与定位,具备高度场景专一性与实际应用价值。图像采集于光线均匀、结构规整的建筑内部通道,背景干扰因素少,有利于模型在复杂环境下的目标提取能力训练。领航车作为核心检测对象,在不同距离和角度下均被清晰标注,为智能导航系统、自动化引导设备等提供可靠的数据支持。... 【训练曲线与评估图】 【模型训练配置】 参数 | 值 模型 | yolo26n 训练轮数 | 100 epochs 输入尺寸 | 640x640 批次大小 | 24 优化器 | auto 初始学习率 | 0.01 训练设备 【关键指标汇总】 训练了 77 个 epoch,最终轮指标: 指标 | 数值 mAP50 | **0.9950** mAP50-95 | 0.9141 Precision | 0.9985 Recall | 1.0000 train/box_loss | 0.5224 train/cls_loss | 0.2526 val/box_loss | 0.4307 val/cls_loss | 0.1407 【训练过程分析】 77 轮训练后 mAP50 达到 0.9950,模型收敛良好。Loss 曲线前段快速下降,后段趋于平稳,val_loss 无反弹,没有明显过拟合。mAP50-95 为 0.9141,和 mAP50 差距仅 0.08,框的定位精度也很扎实。 【模型性能评估】 Precision 0.9985、Recall 1.000... 使用场景:毕业设计、课程设计、深度学习入门、工业场景落地验证。

22,298

社区成员

发帖
与我相关
我的任务
社区描述
MS-SQL Server 疑难问题
社区管理员
  • 疑难问题社区
  • 尘觉
加入社区
  • 近7日
  • 近30日
  • 至今
社区公告
暂无公告

试试用AI创作助手写篇文章吧