由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Computation版 - 请问怎么知道双精度和单精度实数的数值范围
相关主题
一个奇怪的MATLAB数值积分问题求助 network flow 中min cut算法 code
fortran 数值问题matlab 问题 求教
integration question关于 fftw 的问题
有人知道浮点数的压缩算法吗?有损也没关系求算法
如何算Bessel function with complex order?[转载] 64位机比32位机作64位浮点运算快多少?
[转载] 提个线性代数的问题,肯请热心人指教[转载] 内存问题
计算复数和实数的cpu时间问题请问有没有用过IMSL库的大虾?
关于计算精度的问题 c++请教一个关于PDE数值解方面的问题
相关话题的讨论汇总
话题: byte话题: 单精度话题: 实数话题: 整型话题: integer
进入Computation版参与讨论
1 (共1页)
g******s
发帖数: 733
1
在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
数据范围有什么计算公式吗?
先谢了!
C***S
发帖数: 175
2
2^32-1 for nosign integer, if signed, half of this.



【在 g******s 的大作中提到】
: 在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
: 数据范围有什么计算公式吗?
: 先谢了!

z*q
发帖数: 31
3

there should be a limits.h file, you can find all the ranges from it.

【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到

g******s
发帖数: 733
4
多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?

【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到

C***S
发帖数: 175
5
2^8-1, 2^16-1, 2^32-1, 2^64-1

【在 g******s 的大作中提到】
: 多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
: ( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?

g******s
发帖数: 733
6
thanks a lot!

【在 C***S 的大作中提到】
: 2^8-1, 2^16-1, 2^32-1, 2^64-1
1 (共1页)
进入Computation版参与讨论
相关主题
请教一个关于PDE数值解方面的问题如何算Bessel function with complex order?
怎么这么冷清阿[转载] 提个线性代数的问题,肯请热心人指教
[转载]侃侃计算数学 (数值逼近)计算复数和实数的cpu时间问题
[转载]侃侃计算数学 (数值优化)关于计算精度的问题 c++
一个奇怪的MATLAB数值积分问题求助 network flow 中min cut算法 code
fortran 数值问题matlab 问题 求教
integration question关于 fftw 的问题
有人知道浮点数的压缩算法吗?有损也没关系求算法
相关话题的讨论汇总
话题: byte话题: 单精度话题: 实数话题: 整型话题: integer