精度问题

swallow819 2009-02-16 11:39:06
aX*X+bX+c=0,二次项系数a是多少时？（即系数小于多少时？）VC++系统就默认为是0，（这时就变成一次方程了）请各位高手指点，谢谢！
...全文
117 3 打赏 收藏 转发到动态 举报
写回复
用AI写文章
3 条回复
切换为时间正序
请发表友善的回复…
发表回复
swallow819 2009-02-16
  • 打赏
  • 举报
 回复
如果是 double a
swallow819 2009-02-16
  • 打赏
  • 举报
 回复
如果是 double a
waizqfor 2009-02-16
  • 打赏
  • 举报
 回复
那要看你的a 定义成什么类型的变量了啊
java浮点数精度问题
本文介绍Java中浮点数遵循IEEE 754标准，阐述定点数与浮点数区别，以及单、双精度浮点数存储方式。分析浮点数精度问题原因，如尾数位数限制、部分浮点数无法精确表示。还指出精度可能造成计算和保留小数点位数问题，建议用BigDecimal进行精确计算。
EXCEL求和的精度问题
同事遇到EXCEL自动求和与手动计算结果有差异的问题。经检查发现，从别处复制的数字虽显示为2位小数，但实际是6位小数，计算按6位进行，导致结果不同。通过示例说明后，介绍了解决办法，即勾选工具菜单选项中“以显示精度为准”，不过会永久丢失精度。
NSString转换float的精度问题
当使用NSString转换为float时，可能会遇到精度丢失的问题，如0.01转为0.009999799。这是因为float类型无法精确表示某些数值。为了解决这个问题，可以改用double类型，它提供了更高的精度。
iOS 解决相关的精度问题
本文介绍了解决iOS开发中遇到的数据精度丢失问题的方法。通过将double类型数据转换为NSDecimalNumber来保留数值精度，并提供了一种实用的解决方案。
等价无穷小的精度问题
文章探讨了等价无穷小在求解极限时可能导致的精度问题，通过两个例题展示了等价无穷小在加减运算中可能产生的误差。作者指出，等价无穷小是一种粗略的近似，忽略高阶项可能导致精度不足。在乘除运算中，等价无穷小通常适用，但在加减运算中需谨慎，建议使用泰勒展开确保精度。文章强调理解概念而非仅记忆结论的重要性。
C++ 语言

65,211

社区成员

250,514

社区内容

发帖
与我相关
我的任务
社区描述
C++ 语言相关问题讨论，技术干货分享，前沿动态等
c++ 技术论坛（原bbs）
社区管理员
  • C++ 语言社区
  • encoderlee
  • paschen
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
  1. 请不要发布与C++技术无关的贴子
  2. 请不要发布与技术无关的招聘、广告的帖子
  3. 请尽可能的描述清楚你的问题，如果涉及到代码请尽可能的格式化一下

试试用AI创作助手写篇文章吧

+ 用AI写文章