由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Statistics版 - 请教多元线性回归的问题
相关主题
问大家一个repeated measure的问题请教一个pca的问题
新手请教一个分类问题please help solving a question of principle component analysis
multvariate normal distribution请教一道作业题
急问:请教一个muliticollinearity的面试问题,谢谢!请教“期望协方差”expected covariance的定义
PCA 分析请教model里有multicollinearity,该如何处理呢?
用PCA的时候,如果P比N大怎么办啊?在线求助 eliminated highly correlated variables.
[question] sample estimation of eigenvaluesbivarate normal distribution的可传递性
SAS包子请教 - use PCA to create an index求简单线性回归模型残差的协方差
相关话题的讨论汇总
话题: 共线性话题: 模型话题: 回归话题: 变量
进入Statistics版参与讨论
1 (共1页)
l**********e
发帖数: 336
1
假设数据X是多维变量,比如3维,要回归的Y是一维的。然后run线性回归,如果得到的
F-stat是3.31,p-value是0.045,这个算是模型显著吗?
另外,通常如果X的几个变量之间共线性/Co-linear严重,会需要一些对X的预处理(比
如用PCA降维)。但是,到底什么程度才算是共线性严重呢?比如对于3个变量,3个互
相关系数是0.24, 0.46,0.59,协方差矩阵的3个特征值分别是1.87, 0.77, 0.36,这
样的算共线性严重吗?
对于数据X的共线性问题,是不是可以有共线性的test去测试下?
谢谢!~~~
w*******9
发帖数: 1433
2
1. 说明此模型显著减小了原始y的方差。但这不表示这个模型很好,it only says it'
s superior to the simple model: y=const.
2. You can check the variance inflation factor. The pair wise correlation
coefficients will not tell strong correlation among 3 or more covariates.
But based on the eigenvalues you provided, I would say the multicollinearity
should not be a concern here.
Please use my advice with discretion. I may be wrong.

【在 l**********e 的大作中提到】
: 假设数据X是多维变量,比如3维,要回归的Y是一维的。然后run线性回归,如果得到的
: F-stat是3.31,p-value是0.045,这个算是模型显著吗?
: 另外,通常如果X的几个变量之间共线性/Co-linear严重,会需要一些对X的预处理(比
: 如用PCA降维)。但是,到底什么程度才算是共线性严重呢?比如对于3个变量,3个互
: 相关系数是0.24, 0.46,0.59,协方差矩阵的3个特征值分别是1.87, 0.77, 0.36,这
: 样的算共线性严重吗?
: 对于数据X的共线性问题,是不是可以有共线性的test去测试下?
: 谢谢!~~~

k*******a
发帖数: 772
3
用 VIF 来check multicolinearity
l**********e
发帖数: 336
4
谢谢~~
1,got it,那就是此时F只是说beta系数不全为0。恩,那具体每个变量对应的beta是
否有效,是不是就去看相应的t-stat,如果t-stat的值大,对应的p-value小,就说明
这个系数起到了明显的回归作用?
2,那去看看怎么用variance inflation factor,赞~~

it'
multicollinearity

【在 w*******9 的大作中提到】
: 1. 说明此模型显著减小了原始y的方差。但这不表示这个模型很好,it only says it'
: s superior to the simple model: y=const.
: 2. You can check the variance inflation factor. The pair wise correlation
: coefficients will not tell strong correlation among 3 or more covariates.
: But based on the eigenvalues you provided, I would say the multicollinearity
: should not be a concern here.
: Please use my advice with discretion. I may be wrong.

l**********e
发帖数: 336
5
many thanks!

【在 k*******a 的大作中提到】
: 用 VIF 来check multicolinearity
c********d
发帖数: 253
6
光看模型显不显著是不行的,在没有其他模型比较的情况下,还要看看adjusted R2,
看看model的goodness of fit,从你提供的eigenvalues来看,multicollinearity不怎
么有影响,除了VIF之外,判别multicollinearity的一个方法就是算最大和最小的
eigenvalue的ratio,ratio很大的时候,一般,multicollinearity存在。
1 (共1页)
进入Statistics版参与讨论
相关主题
求简单线性回归模型残差的协方差PCA 分析请教
应该选用哪个OR值来比较危险因素对结果变量的影响?用PCA的时候,如果P比N大怎么办啊?
请教:关于covariance matrix[question] sample estimation of eigenvalues
统计方法请教SAS包子请教 - use PCA to create an index
问大家一个repeated measure的问题请教一个pca的问题
新手请教一个分类问题please help solving a question of principle component analysis
multvariate normal distribution请教一道作业题
急问:请教一个muliticollinearity的面试问题,谢谢!请教“期望协方差”expected covariance的定义
相关话题的讨论汇总
话题: 共线性话题: 模型话题: 回归话题: 变量