boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
JobHunting版 - 为什么double和float不需要考虑overflow呢?
相关主题
问个越界的问题
问个浮点数求和的问题
比较两个两个浮点数
请教一道Leetcode 题, 多谢
请教leetcode一道题
在Java,怎样做floating point number 的比较?
求助一道C面试题:在线等
AMAZON电面
SQL multiply all values of a column in table (转载)
刚google给我打电话说让我一年后再来
相关话题的讨论汇总
话题: overflow话题: float话题: double
进入JobHunting版参与讨论
1 (共1页)
H***e
发帖数: 476
1
那个IEEE的格式,也是有固定位数的吧,那么就应该有个数值的大小范围啊
是不是本身有overflow的机制?
b******t
发帖数: 965
2
越界就变成NaN了

【在 H***e 的大作中提到】
: 那个IEEE的格式,也是有固定位数的吧,那么就应该有个数值的大小范围啊
: 是不是本身有overflow的机制?

H***e
发帖数: 476
3

谢谢
刚用java测试了下, 被认为是 "infite"

【在 b******t 的大作中提到】
: 越界就变成NaN了
w****x
发帖数: 2483
4
float有一个e右上角那个数字, 可以表示很大范围x10的128次方, 但是极不精确
1 (共1页)
进入JobHunting版参与讨论
相关主题
刚google给我打电话说让我一年后再来
要回国了,才发现我真的好弱
CS intern面试经验
问一个coding的skill
几道跟Linux有关的面试题
今天面试惨败,分享面经
onsite完,攒rp系列(二)
round 1 phone interview today -- Amazon
about how to test a calculator program on computer
问个问题 求missing number
相关话题的讨论汇总
话题: overflow话题: float话题: double