单价浮点数2.1入数据库后为2.09999990463257

kghgep 2010-07-23 09:24:16

SQL数据库表单价字段为Float类型
PB中声明单价变量为Real
Round(单价，1）入SQL数据库
单价为 2.1
SQL表中字段记录为2.09999990463257
dw_1.setitem(单价,dj)
dw表中字段显示也是2.09999990463257

怎么样才能使SQL和DW表的数据精确到小数1位 2.1

...全文

126 7 打赏收藏转发到动态举报

写回复

7 条回复

切换为时间正序

请发表友善的回复…

发表回复

gmstzs 2010-07-28

打赏
举报

回复

round(dj,1)

liuxg1981 2010-07-26

打赏
举报

回复

[Quote=引用 2 楼 xys_777 的回复:]
要精确就不能用float，real之类
改成decimal
[/Quote]
同意

eviler 2010-07-24

打赏
举报

回复

改数据库吧，从根本上解决问题

new4everlau 2010-07-24

打赏
举报

回复

顶！！！

永生天地 2010-07-24

打赏
举报

回复

要精确就不能用float，real之类
改成decimal

Awang_126 2010-07-23

打赏
举报

回复

format里面设置
########.0
就可以

文章目录浮点数一.什么是浮点数二.浮点数的形式三.规格化浮点数四.浮点数的运算 浮点数 一.什么是浮点数 浮点数是与定点数相对的概念，计算机中的定点数约定小数点的位置不变，即人为约定俗成地规定了一个数小数点的位置。例如定点纯整数约定了小数点在数值位的最后。定点纯小数约定了数值位的最高位在小数点后面。由于计算机字长的限制，当需要表示的数据有很大的数值范围时，他们不能直接用定点小数或者定点整数表示二.浮点数的形式三.规格化浮点数 四.浮点数的运算 ..................

2020年计算机考研复习已经开始，新东方在线在此整理了2020考研计算机组成原理知识点:浮点数的表示和运算，希望能帮助大家!浮点数的表示和运算1. 浮点数的表示1)浮点数的表示范围;浮点数是指小数点位置可浮动的数据，通常以下式表示：N=M·RE其中，N为浮点数，M为尾数，E为阶码，R称为“阶的基数(底)”，而且R为一常数，一般为2、8或16。在一台计算机中，所有数据的R都是相同的，于是不需要在每个...

进行浮点数编程时，如果没有注意，常常会出现输出类似1.#IND,1.#INF或者nan,inf之类奇怪的输出。这通常隐含了浮点数操作的异常。特殊浮点数的含义 1.#INF/inf：这个值表示“无穷大 (infinity 的缩写)”，即超出了计算机可以表示的浮点数的最大范围（或者说超过了double类型的最大值）。例如，当用 0 除一个整数时便会得到一个1.#INF/inf值；相应的，如果用 0 除一个负整数也会得到-1.#INF/-inf值。 -1.#IND/nan：...

浮点数是属于有理数中某特定子集的数的数字表示，在计算机中用以近似表示任意某个实数。具体的说，这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到，这种表示方法类似于基数为10的科学记数法。浮点计算是指浮点数参与的运算，这种运算通常伴随着因为无法精确表示而进行的近似或舍入。一个浮点数a由两个数m和e来表示：a = m ×b^e。在任意一个这样的系统中，我们选择一个基数b...

浮点数-Python，在输出中将所有浮点数打印到2个小数位我需要输出4个不同的浮点数到小数点后两位。这就是我所拥有的：print '%.2f' % var1,'kg =','%.2f' % var2,'lb =','%.2f' % var3,'gal =','%.2f' % var4,'l'这很不干净，看起来也很烂。是否有办法在输出'％.2f'中进行浮动？注意：使用Python 2.6。7个解决...

数据库相关

754

社区成员

12,762

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章