s****h 发帖数: 921 | 1 min f(x) 的收敛标准如何选择?
f(x)是正的.x是一个4维向量.
一个选择是对f(x)选择一个tol,比如f(x)<1%就停止收敛.
还有一个选择是针对向量x选择一个tol,比如 max(x./abs(x))<1%就停止收敛.
哪个更合适?
我的算法运行时,f(x)下降到1%左右就减不下去了.
不过我发现向量x的值仍然变化很大,向量x中的某些元素的变化大于10%.
还有,我在收敛的时候为防止x的变化过快,对每次迭代的x的变化幅度设置了10%的上限.
这个对收敛性能应该是有帮助吧? | g****y 发帖数: 199 | 2
this is based on the limitation of your algorithm, I think.
means several different solutions can give similar suboptimal value
限.
I don't think so. Why you want to prevent a big change of solution? It may
allow you reach the optimal value faster.
【在 s****h 的大作中提到】 : min f(x) 的收敛标准如何选择? : f(x)是正的.x是一个4维向量. : 一个选择是对f(x)选择一个tol,比如f(x)<1%就停止收敛. : 还有一个选择是针对向量x选择一个tol,比如 max(x./abs(x))<1%就停止收敛. : 哪个更合适? : 我的算法运行时,f(x)下降到1%左右就减不下去了. : 不过我发现向量x的值仍然变化很大,向量x中的某些元素的变化大于10%. : 还有,我在收敛的时候为防止x的变化过快,对每次迭代的x的变化幅度设置了10%的上限. : 这个对收敛性能应该是有帮助吧?
| f*******a 发帖数: 80 | 3 When you apply 10% to limit the change, i think, to the max of my
understanding, it is some sort of regularization.
You my consider apply regularization to the cost function, i.e. Tikhonov
regularizztion. This would have the effect of reducing the variation of x,
at the price of increasing the cost at the solution.
【在 g****y 的大作中提到】 : : this is based on the limitation of your algorithm, I think. : means several different solutions can give similar suboptimal value : 限. : I don't think so. Why you want to prevent a big change of solution? It may : allow you reach the optimal value faster.
| l*****i 发帖数: 3929 | 4 try to read about "Maratos effect"
限.
【在 s****h 的大作中提到】 : min f(x) 的收敛标准如何选择? : f(x)是正的.x是一个4维向量. : 一个选择是对f(x)选择一个tol,比如f(x)<1%就停止收敛. : 还有一个选择是针对向量x选择一个tol,比如 max(x./abs(x))<1%就停止收敛. : 哪个更合适? : 我的算法运行时,f(x)下降到1%左右就减不下去了. : 不过我发现向量x的值仍然变化很大,向量x中的某些元素的变化大于10%. : 还有,我在收敛的时候为防止x的变化过快,对每次迭代的x的变化幅度设置了10%的上限. : 这个对收敛性能应该是有帮助吧?
|
|