W*****k
发帖数: 158 | |
P*****r
发帖数: 554 | 2 自己写:)
或者改用lowess应该有package |
g******i
发帖数: 118 | 3 mgcv，semi parametric+ non parametric |
W*****k
发帖数: 158 | 4 谢谢
分别试了一下mgcv里面的generalized additive model和np里面的local linear model
kernel regression，prediction的准确度后者好很多，但是速度也是慢得多
【在 g******i 的大作中提到】
: mgcv，semi parametric+ non parametric
|
g******i
发帖数: 118 | 5 mgcv是个很牛x的package, 能做很多很fancy的事情。有需要的话你可以慢慢挖掘。
总的来说，不论是用mgcv里gam，还是用Local linear kernel regression,loess, 他
们不应该有太多差别的。如果后者准确度好很多，十有八九是Kernel的bandwidth设的
比较小，偏向over smooth 罢了。gam里面默认knots之类的也可以调节，应该也能达到
Kernel的效果。
不知道你的prediction是不是in sample prediction. 如果是的话，这种比较是没有意
义的，你永远可以Overfit来提高。gam里面用了cross validation来选择smooth程度，
应该还算比较可信。我就不知道kernel regression有没有用CV。
我个人偏好用gam，用那些spline。视觉效果也会比local linear之类好一些。
model
【在 W*****k 的大作中提到】
: 谢谢
: 分别试了一下mgcv里面的generalized additive model和np里面的local linear model
: kernel regression，prediction的准确度后者好很多，但是速度也是慢得多
|
W*****k
发帖数: 158 | 6 我比较的是out-of-sample的prediction效果
np里的kernel regresion的bandwidth是用它自带的CV估计出来的
【在 g******i 的大作中提到】
: mgcv是个很牛x的package, 能做很多很fancy的事情。有需要的话你可以慢慢挖掘。
: 总的来说，不论是用mgcv里gam，还是用Local linear kernel regression,loess, 他
: 们不应该有太多差别的。如果后者准确度好很多，十有八九是Kernel的bandwidth设的
: 比较小，偏向over smooth 罢了。gam里面默认knots之类的也可以调节，应该也能达到
: Kernel的效果。
: 不知道你的prediction是不是in sample prediction. 如果是的话，这种比较是没有意
: 义的，你永远可以Overfit来提高。gam里面用了cross validation来选择smooth程度，
: 应该还算比较可信。我就不知道kernel regression有没有用CV。
: 我个人偏好用gam，用那些spline。视觉效果也会比local linear之类好一些。
:
|
g******i
发帖数: 118 | 7 这样子！多谢信息哈，看样子下次我也得试试np！
【在 W*****k 的大作中提到】
: 我比较的是out-of-sample的prediction效果
: np里的kernel regresion的bandwidth是用它自带的CV估计出来的
|
