l**********e 发帖数: 336 | 1 假设数据X是多维变量,比如3维,要回归的Y是一维的。然后run线性回归,如果得到的
F-stat是3.31,p-value是0.045,这个算是模型显著吗?
另外,通常如果X的几个变量之间共线性/Co-linear严重,会需要一些对X的预处理(比
如用PCA降维)。但是,到底什么程度才算是共线性严重呢?比如对于3个变量,3个互
相关系数是0.24, 0.46,0.59,协方差矩阵的3个特征值分别是1.87, 0.77, 0.36,这
样的算共线性严重吗?
对于数据X的共线性问题,是不是可以有共线性的test去测试下?
谢谢!~~~ |
w*******9 发帖数: 1433 | 2 1. 说明此模型显著减小了原始y的方差。但这不表示这个模型很好,it only says it'
s superior to the simple model: y=const.
2. You can check the variance inflation factor. The pair wise correlation
coefficients will not tell strong correlation among 3 or more covariates.
But based on the eigenvalues you provided, I would say the multicollinearity
should not be a concern here.
Please use my advice with discretion. I may be wrong.
【在 l**********e 的大作中提到】 : 假设数据X是多维变量,比如3维,要回归的Y是一维的。然后run线性回归,如果得到的 : F-stat是3.31,p-value是0.045,这个算是模型显著吗? : 另外,通常如果X的几个变量之间共线性/Co-linear严重,会需要一些对X的预处理(比 : 如用PCA降维)。但是,到底什么程度才算是共线性严重呢?比如对于3个变量,3个互 : 相关系数是0.24, 0.46,0.59,协方差矩阵的3个特征值分别是1.87, 0.77, 0.36,这 : 样的算共线性严重吗? : 对于数据X的共线性问题,是不是可以有共线性的test去测试下? : 谢谢!~~~
|
k*******a 发帖数: 772 | 3 用 VIF 来check multicolinearity |
l**********e 发帖数: 336 | 4 谢谢~~
1,got it,那就是此时F只是说beta系数不全为0。恩,那具体每个变量对应的beta是
否有效,是不是就去看相应的t-stat,如果t-stat的值大,对应的p-value小,就说明
这个系数起到了明显的回归作用?
2,那去看看怎么用variance inflation factor,赞~~
it'
multicollinearity
【在 w*******9 的大作中提到】 : 1. 说明此模型显著减小了原始y的方差。但这不表示这个模型很好,it only says it' : s superior to the simple model: y=const. : 2. You can check the variance inflation factor. The pair wise correlation : coefficients will not tell strong correlation among 3 or more covariates. : But based on the eigenvalues you provided, I would say the multicollinearity : should not be a concern here. : Please use my advice with discretion. I may be wrong.
|
l**********e 发帖数: 336 | 5 many thanks!
【在 k*******a 的大作中提到】 : 用 VIF 来check multicolinearity
|
c********d 发帖数: 253 | 6 光看模型显不显著是不行的,在没有其他模型比较的情况下,还要看看adjusted R2,
看看model的goodness of fit,从你提供的eigenvalues来看,multicollinearity不怎
么有影响,除了VIF之外,判别multicollinearity的一个方法就是算最大和最小的
eigenvalue的ratio,ratio很大的时候,一般,multicollinearity存在。 |