b****o 发帖数: 117 | 1 我写一篇文章用到这个,我说等于1.5848931924611136,一个reviewer竟然说我的最后
一个位数是错的,我用MatLab算,vpa(10^(1/5),50)=1.
5848931924611135979574783050338737666606903076172,我的原来的那个没有错阿!
由于是review的意见,那位达人帮忙我用别的方法confirm一下,多谢多谢! | r****y 发帖数: 1437 | 2 maybe he just used double precision and then it's really a random
number for the very last digit one, up to which language and platform he
used.
No matter of what, anyone who says this is a freak, who cares the
16th
digit after decimal?
【在 b****o 的大作中提到】 : 我写一篇文章用到这个,我说等于1.5848931924611136,一个reviewer竟然说我的最后 : 一个位数是错的,我用MatLab算,vpa(10^(1/5),50)=1. : 5848931924611135979574783050338737666606903076172,我的原来的那个没有错阿! : 由于是review的意见,那位达人帮忙我用别的方法confirm一下,多谢多谢!
| b********e 发帖数: 58 | 3 Looks like the last digit should be 5 instead of 6.
This is what I got from bc
H:\>bc -l
bc 1.06
Copyright 1991-1994, 1997, 1998, 2000 Free Software Foundation, Inc.
This is free software with ABSOLUTELY NO WARRANTY.
For details type `warranty'.
scale=21
e(0.2*l(10))
1.584893192461113485201 | s*********e 发帖数: 97 | | f**l 发帖数: 2041 | 5 这个当然应该用Mathematica来验证了. Mathematica可以自己定精度. 100位都可以算.
【在 b****o 的大作中提到】 : 我写一篇文章用到这个,我说等于1.5848931924611136,一个reviewer竟然说我的最后 : 一个位数是错的,我用MatLab算,vpa(10^(1/5),50)=1. : 5848931924611135979574783050338737666606903076172,我的原来的那个没有错阿! : 由于是review的意见,那位达人帮忙我用别的方法confirm一下,多谢多谢!
|
|