问个double计算精度的问题 - Computation版 - 未名存档

本页内容为未名空间相应帖子的节选和存档，一周内的贴子最多显示50字，超过一周显示500字访问原贴

Computation版 - 问个double计算精度的问题

相关主题
● 关于计算精度的问题 c++	● fortran怎么处理很大的数?
● 怎么提高Matlab的计算精度？	● 大家讨论讨论几种不同的计算方法吧？
● fortran 中怎样达到32位有效数字的精度？	● Lapack的精度问题
● 怎么提高C++计算精度？ C++ vs Matlab	● 如何处理这样的精度?
● 如何评价网格对计算精度的影响？	● 谁能跟我讲讲fmm
● Matlab计算精度请教	● 请问怎么让contour画出的图在不丢失精度的情况下保存下来
● 请教一个关于PDE数值解方面的问题	● 怎么表示小数点后长度为200的小数呀？
● 解ODE的六阶精度Runge-Kutta法	● 问一个小问题

相关话题的讨论汇总
话题: 有效数字话题: 计算精度话题: double

进入Computation版参与讨论

1

(共1页)

p*****e 发帖数: 310	1 我在用c++程序和matlab比较，发现c++的double精度是按照小数点后16位有效数字来算的，这样总体有效数字就是17位。而matlab是总体有效数字16位。这样的结果是时间长了两者的计算结果会有差别，而我希望能得到完全一致的结果，该如何解决呢？
p*****e 发帖数: 310	2 有可能啊，所以我想能不能让他们一致，现在看起来比较难，算了吧来算，该

1

(共1页)

进入Computation版参与讨论

相关主题
● 问一个小问题	● 如何评价网格对计算精度的影响？
● 求助 network flow 中min cut算法 code	● Matlab计算精度请教
● let me ask a question again	● 请教一个关于PDE数值解方面的问题
● 问一个FORTRAn的问题！	● 解ODE的六阶精度Runge-Kutta法
● 关于计算精度的问题 c++	● fortran怎么处理很大的数?
● 怎么提高Matlab的计算精度？	● 大家讨论讨论几种不同的计算方法吧？
● fortran 中怎样达到32位有效数字的精度？	● Lapack的精度问题
● 怎么提高C++计算精度？ C++ vs Matlab	● 如何处理这样的精度?

相关话题的讨论汇总
话题: 有效数字话题: 计算精度话题: double

未名新帖统计// 7月16日

#	版面	帖数(主题数)
-	全站	4871 (796)
1	Military	3777 (569)
2	Stock	341 (51)
3	Joke	117 (17)
4	History	116 (3)
5	Automobile	100 (9)
6	USANews	55 (9)
7	Midlife	45 (1)
8	Headline	41 (41)
9	Dreamer	33 (13)
10	FleaMarket	32 (20)
11	Living	30 (7)

* 这里只显示发帖超过25的版面，努力灌水吧:-)