select 500000000-0.01 from dual得到的居然是整数？？？帮忙解决一下

batt 2004-12-30 08:45:18

oracle 9i
我执行了一下select 500000000-0.01 from dual
得到的结果居然还是500000000，
如果我使用select to_char(500000000-0.01) from dual
结果就是正确的
如果不想加任何转换的函数，有没有可能得到准确值，
或者是用JDBC的rs.getString()取到的值是正确的499999999.99

还望高手指教，不胜感激

...全文

146 11 打赏收藏转发到动态举报

写回复

11 条回复

切换为时间正序

请发表友善的回复…

发表回复

batt 2004-12-31

打赏
举报

回复

java暂时用getDouble()解决了
如果以后能用weblogic设置jdbc参数，或是其他办法，还望告之
邮箱号：bbi_batt@hotmail.com

谢谢各位了！结贴！

GerryYang 2004-12-31

打赏
举报

回复

select 500000000-0.01 a from dual;

GerryYang 2004-12-31

打赏
举报

回复

column a format 9999999999999999.99

doulikeme 2004-12-30

打赏
举报

回复

对的因为用rs.getString()也必定会进行转换应当用取浮点数的函数来做

ORARichard 2004-12-30

打赏
举报

回复

1:
SQL> set numformat '000000000.00'
SQL> select 500000000-0.01 from dual;

500000000-0.01
--------------
499999999.99

2:
不懂JDBC，但你应该用类似rs.getFloat这样的取浮点数的函数来做

batt 2004-12-30

打赏
举报

回复

oracle的结果肯定是没问题，但是它把显示值四舍五入，使得jdbc也认为是整数，现在就是两个疑问：
1.如何才能在sql_plus中显示正确，即使是修改环境参数也行？
2.如何才能让jdbc的取数正确？

ORARichard 2004-12-30

打赏
举报

回复

SQL> ed
已写入文件 afiedt.buf

1 declare a number(10,2);
2 begin
3 a:=50000000;
4 a:=a-0.01;
5 dbms_output.put_line(a);
6* end;
SQL> /
49999999.99

PL/SQL 过程已成功完成。

这样可能更能说明问题

batt 2004-12-30

打赏
举报

回复

用的是rs.getString()

doulikeme 2004-12-30

打赏
举报

回复

但是我用java取到的值也是500000000

和你用的数据类型也是有关系的

batt 2004-12-30

打赏
举报

回复

但是我用java取到的值也是500000000

ORARichard 2004-12-30

打赏
举报

回复

SQL> select to_char(500000000-0.01,'000000000.00') from dual;

TO_CHAR(50000
-------------
499999999.99

其实你得到并不是整数，只是显示的问题

LINGO是用来求解线性和非线性优化问题的简易工具。LINGO内置了一种建立最优化模型的语言，可以简便地表达大规模问题，利用LINGO高效的求解器可快速求解并分析结果。 §1 LINGO快速入门当你在windows下开始运行LINGO系统时，会得到类似下面的一个窗口：外层是主框架窗口，包含了所有菜单命令和工具条，其它所有的窗口将被包含在主窗口之下。在主窗口内的标题为LINGO Model – LINGO1的窗口是LINGO的默认模型窗口，建立的模型都都要在该窗口内编码实现。下面举两个例子。例1.1 如何在LINGO中求解如下的LP问题：在模型窗口中输入如下代码： min=2*x1+3*x2; x1+x2>=350; x1>=100; 2*x1+x2<=600; 然后点击工具条上的按钮即可。例1.2 使用LINGO软件计算6个发点8个收点的最小费用运输问题。产销单位运价如下表。单位销地运价产地 B1 B2 B3 B4 B5 B6 B7 B8 产量 A1 6 2 6 7 4 2 5 9 60 A2 4 9 5 3 8 5 8 2 55 A3 5 2 1 9 7 4 3 3 51 A4 7 6 7 3 9 2 7 1 43 A5 2 3 9 5 7 2 6 5 41 A6 5 5 2 2 8 1 4 3 52 销量 35 37 22 32 41 32 43 38 使用LINGO软件，编制程序如下： model: !6发点8收点运输问题; sets: warehouses/wh1..wh6/: capacity; vendors/v1..v8/: demand; links(warehouses,vendors): cost, volume; endsets !目标函数; min=@sum(links: cost*volume); !需求约束; @for(vendors(J): @sum(warehouses(I): volume(I,J))=demand(J)); !产量约束; @for(warehouses(I): @sum(vendors(J): volume(I,J))<=capacity(I)); !这里是数据; data: capacity=60 55 51 43 41 52; demand=35 37 22 32 41 32 43 38; cost=6 2 6 7 4 2 9 5 4 9 5 3 8 5 8 2 5 2 1 9 7 4 3 3 7 6 7 3 9 2 7 1 2 3 9 5 7 2 6 5 5 5 2 2 8 1 4 3; enddata end 然后点击工具条上的按钮即可。为了能够使用LINGO的强大功能，接着第二节的学习吧。 §2 LINGO中的集对实际问题建模的时候，总会遇到一群或多群相联系的对象，比如工厂、消费者群体、交通工具和雇工等等。LINGO允许把这些相联系的对象聚合成集（sets）。一旦把对象聚合成集，就可以利用集来最大限度的发挥LINGO建模语言的优势。现在我们将深入介绍如何创建集，并用数据初始化集的属性。学完本节后，你对基于建模技术的集如何引入模型会有一个基本的理解。 2.1 为什么使用集集是LINGO建模语言的基础，是程序设计最强有力的基本构件。借助于集，能够用一个单一的、长的、简明的复合公式表示一系列相似的约束，从而可以快速方便地表达规模较大的模型。 2.2 什么是集集是一群相联系的对象，这些对象也称为集的成员。一个集可能是一系列产品、卡车或雇员。每个集成员可能有一个或多个与之有关联的特征，我们把这些特征称为属性。属性值可以预先给定，也可以是未知的，有待于LINGO求解。例如，产品集中的每个产品可以有一个价格属性；卡车集中的每辆卡车可以有一个牵引力属性；雇员集中的每位雇员可以有一个薪水属性，也可以有一个生日属性等等。 LINGO有两种类型的集：原始集(primitive　set)和派生集(derived set)。一个原始集是由一些最基本的对象组成的。一个派生集是用一个或多个其它集来定义的，也就是说，它的成员来自于其它已存在的集。 2.3 模型的集部分集部分是LINGO模型的一个可选部分。在LINGO模型中使用集之前，必须在集部分事先定义。集部分以关键字“sets:”开始，以“endsets”结束。一个模型可以没有集部分，或有一个简单的集部分，或有多个集部分。一个集部分可以放置于模型的任何地方，但是一个集及其属性

加法 select sysdate,add_months(sysdate,12) from dual; --加1年 select sysdate,add_months(sysdate,1) from dual; --加1月 select sysdate,to_char(sysdate+7,'yyyy-mm-dd HH24:MI:SS') from dual; --加1星期 select sys

1 语法基础 1.1 DDL(数据定义语句) create table/database alter table/database drop table/database 1.2 DML(数据管理语句) insert delete update select 1.3 注释： – 1.4 常见类型 int char --定长字符 varchar --可变字符 date --日期 d...

SQL 语句加减乘除法表达式怎幺写？先用聚合函数求和，然后再减SELECT?t1.购房人,?(t1.总房价-?tu.已收款金额)?AS?UnPaidFROM?table1?AS?t1,?(SELECT?sum(t2.已收款金额)?AS?已收款金额,房间号FROM?dbo.table2?AS?t2GROUP?BY?房间号)?as?tuWHERE?t1.房间号=?tu.房间号sql语句能做乘除法...

Oracle小数显示不全问题案例：后台查询数值类型的小数0.xxx，实际显示为.xxx。问题排查： ①在pl/sql中查询，发现显示为0.xxx，没有问题； select 0.01 as result_num from dual; ②查看代码，发现对象中该字段值存储为String类型，考虑隐式转换； select to_char(0.01) as result_num from dual; 至此，发现问题。解决方案：使用数值类型存储；转换成字符串时指定格式，例如： -- 格式说明： -

17,082

社区成员

55,236

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章