怎么算才能不出错？？小数的精度问题？

2003-07-10 02:44:36 77 阅读 AI 写同款 · GEO 优化AI 选题数据监测一键分发 ›

使用【阿里云百炼】搭建自己的大模型本文介绍阿里云百炼大模型平台，其为企业级服务平台，融合通义千问等模型，支持多模态能力，提供一站式工具降低开发门槛。重点讲解智能体应用及大模型搭建步骤，含进入创新应用界面、选模型配参数、输指令、导数据、加载知识库、获取API Key、加样例库、配置MCP，还提及模型调试与多平台发布，并附试用链接，助力企业与开发者快速搭建适配业务的AI模型。阅读详情

float inta,Dec1;
int Dec2,DecHex,DecL,DecH;

inta=SetFreq*0.00025;
Dec1=inta-int(inta); //小数
Dec2=int(Dec1*4000);
ShowMessage(IntToStr(Dec2)+" "+FloatToStr(Dec1*4000)+" "+FloatToStr(Dec1));

现在如果SetFreq=360001, 则结果为：
1 1.007080078125 0.00025177001953125
如果SetFreq=360007。则：
6 6.988525390625 0.00174713134765625

可是正确结果应该是:
7 7 0.00175

我怎么才能得到正确的结果呢？？

...全文

PADS 9.5【附破解文件+安装教程】中文激活版下载点击“新建”，弹出新建系统变量对话框，在变量名输入：MGLS_LICENSE_FILE 然后点击“浏览文件”，进去找到安装目录MentorGraphics文件夹下的LICENSE.TXT文本打开，最后点击确定。点击“Target Path”，然后来到安装路径位置界面，点击“Browse”进去更改安装位置，这里将C换成D而已，确定好安装位置后点击“Done”安装成功，勾选“at a later time”，然后点击“Done”在打开的LICENSE.TXT文本里，点击“文件”-“另存为” 阅读详情

dszy

C++ Builder 13,871 成员 102,696 内容

+ 关注 + 加入社区

切换为时间正序

qibo999 2003-07-11

打赏
举报

计算机是这样的，得到的其实是个约数。你应该依据一定的计算精度，double的精度高于float,或者你自己来根据精度要求用格式约束数值。

cupidvenus 2003-07-11

打赏
举报

double和float类型都是有误差的，要想进行绝对精确的运算，自己写个新的运算类。

dszy 2003-07-11

打赏
举报

要是说10/3=3.333333我可以接受，
可是明明0。00025*4000=1，就算不准确也应该是1。00000呀，怎么会是1.007080078125？？？

Behard 2003-07-10

打赏
举报

其实就算是 double 都是会有误差的
输出时请指定输出长度，判断是请使用 fabs 的值小于一个很小的值

-----------------------------------
现在混水园了！

Behard 2003-07-10

打赏
举报

float 精度不够引起的出错，要精确请使用 double 或者 long double
void __fastcall TForm1::Button2Click(TObject *Sender)
{
double /*float*/ inta,Dec1;
int Dec2,DecHex,DecL,DecH;

int SetFreq = 360007;
inta = SetFreq* 0.00025;
Dec1 = inta- (int)inta; //小数
Dec2 = (int) (Dec1* 4000);
ShowMessage(IntToStr(Dec2)+" "+FloatToStr(Dec1*4000)+" "+FloatToStr(Dec1));
}

-----------------------------------
现在混水园了！

Behard 2003-07-10

打赏
举报

如果是后面原来计算的话，都是使用 float 或者 double 即可

-----------------------------------
现在混水园了！

dszy 2003-07-10

打赏
举报

我就不信这里没有人会？？？

dszy 2003-07-10

打赏
举报

可是楼上的，我并不只是要显示不出现问题。
而是要真正的数值也没有问题这个数我后面还要用呀

loking 2003-07-10

打赏
举报

float x=12.12465488957498665;
ShowMessage(FormatFloat("0.#####",x));//五位小数
ShowMessage(FormatFloat("#",x));//没有小数

dszy 2003-07-10

打赏
举报

第一行的结果就不对呀：
1 1.007080078125 0.00025177001953125

应该是
1 1 0.00025

dszy 2003-07-10

打赏
举报

我改过了，一样的结果

Wingsun 2003-07-10

打赏
举报

不要用int类型，改为double或者float类型

怎么算才能不出错？？小数的精度问题？

相关推荐