boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Quant版 - 线性回归-怎么证明进过线性变换R^2不变?
相关主题
线性回归在portfolio中的问题,求助。
[合集] 扩散思维题,两个数列的关系 (转载)
问一个线性回归的问题
电话面试。。
regression的问题:怎么处理bad data (转载)
one statistic interview question
DB interview question
【Probability Problem】面试题
求教Projection Matrix问题。谢谢!
Generate correlated unifrom random numbers?
相关话题的讨论汇总
话题: err话题: perp话题: vec
进入Quant版参与讨论
1 (共1页)
l*******z
发帖数: 108
1
一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
替换后的R^2不变
看起来觉得显然,但是怎么说得清楚呢?
s*****a
发帖数: 353
2
分别论证每个系数单独变化没有影响吧。对于a1:
证明Y'对X回归系数常数项变成A_hat-a1,一次项保持不变,这里A_hat和B_hat是原回归
的系数,然后算R^2发现保持不变。别的项思路类似
p********6
发帖数: 1802
3
直接代入simple regression的R^2就可以了。

【在 l*******z 的大作中提到】
: 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
: 替换后的R^2不变
: 看起来觉得显然,但是怎么说得清楚呢?

k*****y
发帖数: 744
4
It might be easier to look at it this way:
R^2 = 1 - err^2/var(Y)
Where err = Y - (A+BX), and err is perp to vec(1) and X.
Note that err is still perp to vec(1) and X', so after the transformation to
Y':
err' = a2*err.
And obviously var(Y') = a2^2 var(Y), therefore
(R^2)' = R^2.

【在 l*******z 的大作中提到】
: 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
: 替换后的R^2不变
: 看起来觉得显然,但是怎么说得清楚呢?

g*****1
发帖数: 18
5
r^2 = correlation^2, linear transformation does not change correlation,
therefore R^2 the same
l*******z
发帖数: 108
6
一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
替换后的R^2不变
看起来觉得显然,但是怎么说得清楚呢?
s*****a
发帖数: 353
7
分别论证每个系数单独变化没有影响吧。对于a1:
证明Y'对X回归系数常数项变成A_hat-a1,一次项保持不变,这里A_hat和B_hat是原回归
的系数,然后算R^2发现保持不变。别的项思路类似
p********6
发帖数: 1802
8
直接代入simple regression的R^2就可以了。

【在 l*******z 的大作中提到】
: 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
: 替换后的R^2不变
: 看起来觉得显然,但是怎么说得清楚呢?

k*****y
发帖数: 744
9
It might be easier to look at it this way:
R^2 = 1 - err^2/var(Y)
Where err = Y - (A+BX), and err is perp to vec(1) and X.
Note that err is still perp to vec(1) and X', so after the transformation to
Y':
err' = a2*err.
And obviously var(Y') = a2^2 var(Y), therefore
(R^2)' = R^2.

【在 l*******z 的大作中提到】
: 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
: 替换后的R^2不变
: 看起来觉得显然,但是怎么说得清楚呢?

g*****1
发帖数: 18
10
r^2 = correlation^2, linear transformation does not change correlation,
therefore R^2 the same
相关主题
电话面试。。
regression的问题:怎么处理bad data (转载)
one statistic interview question
DB interview question
进入Quant版参与讨论
l*******z
发帖数: 108
11
问题就是要证明
linear transformation does not change correlation

【在 g*****1 的大作中提到】
: r^2 = correlation^2, linear transformation does not change correlation,
: therefore R^2 the same

l*******z
发帖数: 108
12
不好意思,没有看懂。
perp 是指垂直?
vec(1) 是指平面空间?

to

【在 k*****y 的大作中提到】
: It might be easier to look at it this way:
: R^2 = 1 - err^2/var(Y)
: Where err = Y - (A+BX), and err is perp to vec(1) and X.
: Note that err is still perp to vec(1) and X', so after the transformation to
: Y':
: err' = a2*err.
: And obviously var(Y') = a2^2 var(Y), therefore
: (R^2)' = R^2.

C***m
发帖数: 120
13
perp 是指垂直
vec(1) 应该是一列1vector 作为base的subspace
你说这道题就是考怎么证明correlation 不变,那么直接带入correlation 公式就可以
了?

【在 l*******z 的大作中提到】
: 不好意思,没有看懂。
: perp 是指垂直?
: vec(1) 是指平面空间?
:
: to

G*****n
发帖数: 7
14
首先,平移不会影响
其次,scaling不会影响
done
s***e
发帖数: 267
15
Regression is essentially projection in Hilbert space. R^2 means the
percentage of variance of Y explained by the column space of X.
So as long as the linear transformation on X does not lose information, R^2
will remain the same for multiple regression as well.

【在 l*******z 的大作中提到】
: 一元线性回归Y=A+BX,进行线性替换 Y'=a1+a2*Y, X'=b1+b2*X,
: 替换后的R^2不变
: 看起来觉得显然,但是怎么说得清楚呢?

1 (共1页)
进入Quant版参与讨论
相关主题
Generate correlated unifrom random numbers?
请教一个数学问题, 用什么办法比较股价的相似(或关联)
About the girls and boys problem in Crack book
Autocorrelation: help please!
请教一道概率题。
A simple problem on correlation coefficient
CS quantitative admission test
搞金融的一般都用MAC还是PC?
问个简单题目
求大牛们一道题啊,给点思路哈 (转载)
相关话题的讨论汇总
话题: err话题: perp话题: vec