计算问题

龟叔啊 2018-02-21 06:10:24

求教红色框里的数字相乘为什么是989.999而不是990？用select 50*19.80计算结果是正确的

...全文

379 3 打赏收藏转发到动态举报

写回复

3 条回复

切换为时间正序

请发表友善的回复…

发表回复

shoppo0505 2018-02-22

打赏
举报

回复

数据库机制就是如此。在数学领域 1 可以使用0.9的无限循环来表示。所以如果你需要一个正确位数数值，可以自己round一下

龟叔啊 2018-02-22

打赏
举报

回复

找到原因，两个不同的类型进行计算会出现此问题

龟叔啊 2018-02-22

打赏
举报

回复

引用 1 楼 shoppo0505 的回复:

数据库机制就是如此。在数学领域 1 可以使用0.9的无限循环来表示。所以如果你需要一个正确位数数值，可以自己round一下

既然数据库机制是这样的那应该 select 50/19.80也应该是一样的啊，为什么不同

计算机问题求解过程包括分析问题、设计算法、编写程序、调试运行、检测结果。电子计算机(electronic computer)通称电脑，是现代一种用于高速计算的电子计算机器，可以进行数值计算、逻辑计算，具有存储记忆功能，能够按照程序运行，自动、高速处理海量数据。它由硬件系统和软件系统所组成，没有安装任何软件的计算机称为裸机。计算机被用作各种工业和消费设备的控制系统，包括简单的特定用途设备、工业设备及...

大家好，我是时间财富网智能客服时间君，上述问题将由我为大家进行解答。计算机问题求解过程包括分析问题、设计算法、编写程序、调试运行、检测结果。电子计算机(electronic computer)通称电脑，是现代一种用于高速计算的电子计算机器，可以进行数值计算、逻辑计算，具有存储记忆功能，能够按照程序运行，自动、高速处理海量数据。它由硬件系统和软件系统所组成，没有安装任何软件的计算机称为裸机。计算机被...

一、前言我们在进行php开发的时候经常会遇到浮点型的问题，特别是涉及金额的部分，常常需要进行加减运算。当小数点的位数比较多的时候，往往容易犯一些很低级的错误。这里记录一下php的精度计算和封装的小demo。二、关于php的高精度问题 1、概念解释这篇文章的解释最清楚： php高精度计算问题 2、高精度数值对比大小问题下面这篇文章讲的很好：临时发一个项目遇到的PHP......

第二章：计算思维——知识点整理第二章：计算思维知识梳理高频考点2.1 计算思维的概念与应用2.1.1 计算思维的概念2.1.2 计算思维的特征2.1.3 计算思维的内涵2.1.4 计算思维的应用2.2 问题求解2.2.1 计算机求解问题的基本方法2.2.2 计算思维解决计算问题的方法2.3 算法2.3.1 算法基础知识 ⭐️⭐️2.3.2 算法的表示方法 ⭐️⭐️2.3.3 典型问题求解策略2.3.4 算法的复杂度分析2.4 程序设计基础2.4.1 程序设计语言 ⭐️⭐️2.4.2 结构化程序设计方法2.4

有一个合同，目标价格是200，000人民币，供应商费用是20，000人民币，约定卖方/买方的分摊比例是80/20，且价格上限是230，000人民币，项目实际成本是235，000人民币，那么买方支付的合同价格是多少人民币? 石泉老师解答：合同计算问题有一个基本公式，下面的公式同时适用于成本补偿加激励费用和固定价加激励费用合同，只不过都有各自限制条件。买方最终付款（最终...

590

社区成员

254,055

社区内容

发帖

与我相关

我的任务

其他技术论坛（原bbs）

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章