由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Programming版 - [合集] 关于浮点数计算和underflow
相关主题
一般来说浮点数乘法和除法哪个快?请教个排序的题目
数值计算里的几个损失精度的操作c++ 为什么不能由负变正
浮点数运算等于0的问题一个小问题
怎样用减法和移位代替除法请问在C/C++那个function可以查星期几?
两道某公司面试题如何实现微秒精度的time stamp
问个关于~的小问题(C++)请问c语言中double cast成float 会损失多少精度
浮点数对比Matlab 中怎样设置坐标轴刻度的精度
问一个for循环的问题double to float的精度损失?
相关话题的讨论汇总
话题: 浮点数话题: underflow话题: 有效数字话题: 精度话题: 相减
进入Programming版参与讨论
1 (共1页)
c***d
发帖数: 996
1
☆─────────────────────────────────────☆
digital (你是疯儿我是傻?) 于 (Sun Aug 12 06:09:43 2007) 提到:
我原来的分析不是很严谨,现修改重发如下:
前面看到有人说浮点数计算和underflow的问题,
说是两个相近的浮点数相减不好,有人说会产生underflow,
有人说会损失有效数字(精度)。
http://www.mitbbs.com/article_t/Programming/24172384.html
我觉得是相近的数相减只有在很小的范围内才可能发生下溢出。
相反,我觉得浮点数的underflow更多可能是由除法(或者小数点
相对向左移动)导致的吧,因为除法直接导致指数部分的相减,
减到运算结果的指数部分那个整数的补码表示首位变正产生下溢。
而加减法,则是指数部分小的那个数要损失有效数字(精度)的。
而且是两个数字相差越大的话,那个小的数字的精度损失越严重。
反而是两个数字越相近的话,他们的减法运算的有效数字位数
的损失越小吧。我觉得通常要"舍”也是舍小的那个数。
同等精度的浮点数做加减,其
1 (共1页)
进入Programming版参与讨论
相关主题
double to float的精度损失?两道某公司面试题
有没有玩CUDA的?问个关于~的小问题(C++)
[合集] Linux/Unix下时间的精度 (转载)浮点数对比
matlab C API 怎么用啊??问一个for循环的问题
一般来说浮点数乘法和除法哪个快?请教个排序的题目
数值计算里的几个损失精度的操作c++ 为什么不能由负变正
浮点数运算等于0的问题一个小问题
怎样用减法和移位代替除法请问在C/C++那个function可以查星期几?
相关话题的讨论汇总
话题: 浮点数话题: underflow话题: 有效数字话题: 精度话题: 相减