由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
CS版 - 请教一个double的精度问题
相关主题
如何处理这样的精度?sigmod 05 results is out ..
请教一个初级问题为啥叫浮点?
about pdf online service问个Latex的问题
给freshmen做一个presentation,选个什么题目啊?有谁中WI没有?
请教 16进制 破解问题Why I think the paper is junk, but it still gets good simulation result?
有懂3d printer的请进! (转载)另一道概率题,应该是个经典问题 (转载)
Re: [转载] 有关做研究anyone get result from IPDPS?
ISCA results out问个基本概念的问题,ufl, ofl
相关话题的讨论汇总
话题: 精度话题: base话题: num话题: int话题: double
进入CS版参与讨论
1 (共1页)
l*********y
发帖数: 142
1
下面这个方程计算 num! 的结果在base进制下的位数
比如说 5!的结果在10进制下是3位数,在16进制下是2位数。
题目限定 1<= num <= 2^20, and 1 <= base <= 800.
int GetNumDigit(int num, int base)
{
double result = 0;
for (int i = 1; i <= num; i++) {
result += log(i);
}
int digit = ceil(result / log(base) + 1e-10);
return digit;
}
我想请教1e-10在这里的使用? 我读过很多float and double精度的文章,所以知道result/log(base)的结果会有精度loss,但是我对精度补偿值的用法不是很懂。
包括何时用 还有 如何定值。以前还碰到一个例子是atof 时加了1e-10,
现在结合这个例子就完全没方向了。
谢谢了!
1 (共1页)
进入CS版参与讨论
相关主题
问个基本概念的问题,ufl, ofl请教 16进制 破解问题
google的search result也可以顶了有懂3d printer的请进! (转载)
有啥好的normal distribution random variable的C代码?Re: [转载] 有关做研究
说个mobicom的8g,呵呵ISCA results out
如何处理这样的精度?sigmod 05 results is out ..
请教一个初级问题为啥叫浮点?
about pdf online service问个Latex的问题
给freshmen做一个presentation,选个什么题目啊?有谁中WI没有?
相关话题的讨论汇总
话题: 精度话题: base话题: num话题: int话题: double