社区
数据库相关
帖子详情
单价浮点数2.1入数据库后为2.09999990463257
kghgep
2010-07-23 09:24:16
SQL数据库表单价字段为Float类型
PB中声明单价变量为Real
Round(单价,1)入SQL数据库
单价为 2.1
SQL表中字段记录为2.09999990463257
dw_1.setitem(单价,dj)
dw表中字段显示也是2.09999990463257
怎么样才能使SQL和DW表的数据 精确到小数1位 2.1
...全文
117
7
打赏
收藏
单价浮点数2.1入数据库后为2.09999990463257
SQL数据库表单价字段为Float类型 PB中声明单价变量为Real Round(单价,1)入SQL数据库 单价为 2.1 SQL表中字段记录为2.09999990463257 dw_1.setitem(单价,dj) dw表中字段显示也是2.09999990463257 怎么样才能使SQL和DW表的数据 精确到小数1位 2.1
复制链接
扫一扫
分享
转发到动态
举报
写回复
配置赞助广告
用AI写文章
7 条
回复
切换为时间正序
请发表友善的回复…
发表回复
打赏红包
gmstzs
2010-07-28
打赏
举报
回复
round(dj,1)
liuxg1981
2010-07-26
打赏
举报
回复
[Quote=引用 2 楼 xys_777 的回复:]
要精确就不能用float,real之类
改成decimal
[/Quote]
同意
eviler
2010-07-24
打赏
举报
回复
改数据库吧 ,从根本上解决问题
new4everlau
2010-07-24
打赏
举报
回复
顶!!!
永生天地
2010-07-24
打赏
举报
回复
要精确就不能用float,real之类
改成decimal
Awang_126
2010-07-23
打赏
举报
回复
format里面设置
########.0
就可以
浮点数
详解(一篇彻底学通
浮点数
)
文章目录
浮点数
一.什么是
浮点数
二.
浮点数
的形式三.规格化
浮点数
四.
浮点数
的运算
浮点数
一.什么是
浮点数
浮点数
是与定点数相对的概念,计算机中的定点数约定小数点的位置不变,即人为约定俗成地规定了一个数小数点的...
Java关于
浮点数
的舍
入
法与String.format()在不同jdk版本的区别
银行家舍
入
法:四舍六
入
五考虑,五后非零就进一,五后为零看奇偶,五前为偶应舍去,五前为奇要进一 2. 碰到的问题我在对
浮点数
做保留两位小数并四舍五
入
的操作时,测试的时候发现在JDK 8和Android 5.1上得到的值是不...
计算机组成原理
浮点数
左移规则,2020考研计算机组成原理知识点:
浮点数
的表示和运算...
浮点数
是指小数点位置可浮动的数据,通常以下式表示:N=M·RE其中,N为
浮点数
,M为尾数,E为阶码,R称为“阶的基数(底)”,而且R为一常数,一般为2、8或16。在一台计算机中,所有数据的R都是相同的,于是不需要在每...
打印
浮点数
输出 1.#IND 1.#INF nan inf 等解决
进行
浮点数
编程时,如果没有注意,常常会出现输出类似1.#IND,1.#INF或者nan,inf之类奇怪的输出。这通常隐含了
浮点数
操作的异常。 特殊
浮点数
的含义 1.#INF/inf:这个值表示“无穷大 (infinity 的缩写)”,即超出了...
计算机为什么采用
浮点数
而非定点数,计算机理论:
浮点数
和定点数计算机表示...
具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到,这种表示方法类似于基数为10的科学记数法。浮点计算是指
浮点数
参与的运算,这种运算通常伴随着因为无法精确表示而进行...
数据库相关
754
社区成员
12,762
社区内容
发帖
与我相关
我的任务
数据库相关
PowerBuilder 数据库相关
复制链接
扫一扫
分享
社区描述
PowerBuilder 数据库相关
社区管理员
加入社区
获取链接或二维码
近7日
近30日
至今
加载中
查看更多榜单
社区公告
暂无公告
试试用AI创作助手写篇文章吧
+ 用AI写文章