首页
论坛
未名存档
话题女王
小圈子
马甲追踪
版面排名
流量曲线
水枪排名
发帖量曲线
发帖版面饼图
发帖时间柱图
关于本站
帮助
boards
本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字
访问原贴
JobHunting版
- 为什么double和float不需要考虑overflow呢?
相关主题
●
问个越界的问题
●
问个浮点数求和的问题
●
比较两个两个浮点数
●
请教一道Leetcode 题, 多谢
●
请教leetcode一道题
●
在Java,怎样做floating point number 的比较?
●
求助一道C面试题:在线等
●
AMAZON电面
●
SQL multiply all values of a column in table (转载)
●
刚google给我打电话说让我一年后再来
相关话题的讨论汇总
话题: overflow
话题: float
话题: double
进入JobHunting版参与讨论
1
(共1页)
H***e
发帖数: 476
1
那个IEEE的格式,也是有固定位数的吧,那么就应该有个数值的大小范围啊
是不是本身有overflow的机制?
b******t
发帖数: 965
2
越界就变成NaN了
【在 H***e 的大作中提到】
: 那个IEEE的格式,也是有固定位数的吧,那么就应该有个数值的大小范围啊
: 是不是本身有overflow的机制?
H***e
发帖数: 476
3
嗯
谢谢
刚用java测试了下, 被认为是 "infite"
【在 b******t 的大作中提到】
: 越界就变成NaN了
w****x
发帖数: 2483
4
float有一个e右上角那个数字, 可以表示很大范围x10的128次方, 但是极不精确
1
(共1页)
进入JobHunting版参与讨论
相关主题
●
刚google给我打电话说让我一年后再来
●
要回国了,才发现我真的好弱
●
CS intern面试经验
●
问一个coding的skill
●
几道跟Linux有关的面试题
●
今天面试惨败,分享面经
●
onsite完,攒rp系列(二)
●
round 1 phone interview today -- Amazon
●
about how to test a calculator program on computer
●
问个问题 求missing number
相关话题的讨论汇总
话题: overflow
话题: float
话题: double