z********n 发帖数: 59 | 1 我是做system的,对概率不大熟悉.
最近看论文,虽然自己恶补了一点知识,但还是有很多疑问,希望大家帮我解答一下.
论文中是对一个N维的向量求先验分布,其中每一个维度都是时间t。
文章做出了推断:
1.每个维度都符合正态分布。然后因为维度是时间t,所以假设了每个维度的均值都符
合InvGamma(1,1)分布.
2.下面推算协方差矩阵:由于共轭的条件不符合,没办法使用InvWishart分布来进行推算
3.改成使用Gibbs sampler来生成先验分布
4.又假设每个维度正太分布的方差符合InvGamma(1,1),最后用循环来不断生成矩阵,直
到满足正定性退出
5.生成矩阵的时候,相关系数使用GenBeta(-1,1,1,1)来生成,即(-1,1)的范围,参数
为(1,1)的Beta分布
我对这5点都存有疑问:
1.InvGamma(1,1)分布是范围>0的什么分布啊?为什么要用(1,1)呢?
2.共轭的条件不符合:解释是不能总是获得实际数据,共轭必须满足什么条件啊?
3.在这种条件下可以使用Gibbs sampler生成先验分布吗?我查了一下,要有概率转移
矩阵才可以使用Gibbs sampler吧?
4.为什么可以这么循环呢,协方差矩阵里面的初始值是怎么产生的呢?
5.为什么使用Beta分布来产生相关系数,Beta(1,1)又是怎样的分布呢?
可能有些小白,希望大家帮忙
感谢了! | c***z 发帖数: 6348 | 2 Can you give a link to the paper you are discussing? | z********n 发帖数: 59 | 3 https://www.google.com/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&ved=
0CDIQFjAA&url=https%3A%2F%2Fhyracks.googlecode.com%2Ffiles%
2FOnlineAggregationForLargeMapReduceJobs.pdf&ei=mYXVUuCMC-HLsAS30oHwBw&usg=
AFQjCNGLnMwL0VDoKqXlNeZ3icnGLLnyJA&sig2=8MjsnXIO5PxuaH69QArqeQ&bvm=bv.
59378465,d.cWc&cad=rjt
Part 4.3
Thank you!!!
【在 c***z 的大作中提到】 : Can you give a link to the paper you are discussing?
| h***c 发帖数: 12 | 4 一点理解,也不知道对不
我对这5点都存有疑问:
1.InvGamma(1,1)分布是范围>0的什么分布啊?为什么要用(1,1)呢?
如果 x 是 invgamma(1,1),那 1/x 是exponential(1).
用(1,1)的原因可能是1,简单,2,pdf相对平滑,能够cover a large range with
decent probability.
2.共轭的条件不符合:解释是不能总是获得实际数据,共轭必须满足什么条件啊?
似乎是说有些data不是normal,而是truncated normal。这种条件下用wishart也不共轭
3.在这种条件下可以使用Gibbs sampler生成先验分布吗?我查了一下,要有概率转移
矩阵才可以使用Gibbs sampler吧?
不是用gibbs sampler生成prior。
文章是说既然不共轭,就不能直接用wishart来得到posterior samples。需要gibbs来
做。跟prior的生成没有关系
4.为什么可以这么循环呢,协方差矩阵里面的初始值是怎么产生的呢?
diagonal的值从invgamma sample
correlation从beta(1,1)sample
循环是最终得到的矩阵如果不正定,就重新sample
5.为什么使用Beta分布来产生相关系数,Beta(1,1)又是怎样的分布呢?
beta的定义区间是(0,1),可以用来sample correlation。
但是correlation可以为负,所以文章也不是直接用beta(1,1)。所谓GenBeta可能就
是用bernoulli sample了一下 +/-。
beta(1,1)就是uniform(0,1)
推算
【在 z********n 的大作中提到】 : 我是做system的,对概率不大熟悉. : 最近看论文,虽然自己恶补了一点知识,但还是有很多疑问,希望大家帮我解答一下. : 论文中是对一个N维的向量求先验分布,其中每一个维度都是时间t。 : 文章做出了推断: : 1.每个维度都符合正态分布。然后因为维度是时间t,所以假设了每个维度的均值都符 : 合InvGamma(1,1)分布. : 2.下面推算协方差矩阵:由于共轭的条件不符合,没办法使用InvWishart分布来进行推算 : 3.改成使用Gibbs sampler来生成先验分布 : 4.又假设每个维度正太分布的方差符合InvGamma(1,1),最后用循环来不断生成矩阵,直 : 到满足正定性退出
|
|