x**********t 发帖数: 45 | 1 最近接触mcmc,没修过课,不是很懂。
比如一个stochastic volatility model
y_t=\exp(h_t/2) u_t
h_t=\mu+\phi(h_{t-1}-\mu)+\sigma\eta_t
其中u_t和\eta_t都是iid的正态分布。
很多文章都讲用mcmc中的Gibbs sampler来sample from posteriors of parameters
and volatilities.
如果直接让\phi=1,\mu消掉,剩下的volatility就不是stationary的了,这样的模型
,还能用gibbs sampler马? |
|
y*****y 发帖数: 98 | 2 不是很明白你的意思。winbugs是MCMC tool,不是programming language,不能用来
generate random numbers或是做calculation, 你只能把model写进去算MCMC,that's
all. |
|
q**j 发帖数: 10612 | 3 多谢你们讨论。可是还是没有人回答我的问题。简单说我的问题是:
在F,G已知,不在乎 state,只关心forecast的情况下,我可以用MLE的理论得到f(参数
|data)。这样就可以轻松forecast。基本上可以绕开MCMC。请问为什么大多数人还是
喜欢MCMC呢? |
|
F******n 发帖数: 160 | 4
没有技术细节的前提下,你简单的说,用最大释然估计得到f(v_t, w_t | data)。很难
判断你想要的答案到底是什么?
1. 你假定都是正太分布了吗?
2. 你假定正太噪声V_t, W_t和时间无关了吗?从你的最开始问题陈述:
y_t = F * theta_t + v_t
theta_t = G * theta_(t-1) + w_t
v,w都有时间下标,好像又不是这么假定的吧?
如果你两个都假定了,问题当然很trivial。
我想没人喜欢MCMC,只是因为必要。不过你这个“为啥用MCMC”和你原帖的问题,“把
theta加进来sample。请问这个是为什么?”,好像是两个独立的问题。也可能我没看
懂你的问题。 |
|
|
s********1 发帖数: 54 | 6 ______________________________________________________________________
In terms of the variance structure
______________________________________________________________________
Normal structure depend on each individual,Spatial structure depends on the
distances between two points and compound, etc.
______________________________________________________________________
In terms of the likelihood:
______________________________________________________________________
The PL method is based on Wol... 阅读全帖 |
|
s******0 发帖数: 1269 | 7 这个帖子很早就贴出来过吧,我记得至少在2个月之前。楼主当时好像要phd,所以我就
没投。 mixed model我做过,本来说上学学mcmc呢,结果考精算就没搞,不过我们
mixed model都是sas,r还真要用点时间。
对了,顺便问一下,你们mcmc只考虑用r做的吗? |
|
a******e 发帖数: 119 | 8 在写一个R function。打算对20k个subject分别做MCMC,MCMC做5000个iterations。也
就是说我要run 20k 个 loop, 每个loop都要做5k个iterations。目前大概需要运行几
个小时。有人建议我用apply instead of for loop,说这样可以大大加快运行速度。
这靠谱么?
有没有其他的建议可以加快运行速度的?多谢! |
|
h***i 发帖数: 3844 | 9 mcmc 是rwducible的
这个明显是sequential的 不可能直接用mcmc来搞嘛 |
|
f*********2 发帖数: 48 | 10 老大,做ML的这些都是入门要求,您所提到的这些俺都能手推。
还能顺着 Fisher information 侃一点 information geometry;吹吹 MCMC 的几个经
典算法,包括 reversible jump MCMC;大谈主观贝叶斯和客观贝叶斯,以及和频率派
的那些恩恩怨怨;解常微方程不敢,聊一聊它的定性与稳定性理论,像 Lyapunov的几
个定理还是可以的;耍矩阵是一方面,另外还懂点张量分析;微分几何和微分拓扑都学
过,捡捡还能继续;从 Newton 法、梯度下降法、Lagrange 乘子法(包括对偶问题、
二次规划)到 Levenberg-Marquardt 法、BFGS 法等非线性最优化算法都能手推。
以我个人的经验,懂这些有个屁用!
手推更是变态!!又不是作发考题。就是当教书匠,大牛 Ng 讲课还拿着稿呢。
所以,我尊重你的学识,鄙视你的几乎致人内伤的考题!!!
老子花了很长时间总结失败的面试,基本与智商无关。最关键的是情商,得会幽默着侃
晕你的考官,得有一个阳光健康的外型。
至于工业界里的数学,计算机系或物理系本科的就够了。我们组的一个白人老油条,虽
... 阅读全帖 |
|
f*********2 发帖数: 48 | 11 老大,做ML的这些都是入门要求,您所提到的这些俺都能手推。
还能顺着 Fisher information 侃一点 information geometry;吹吹 MCMC 的几个经
典算法,包括 reversible jump MCMC;大谈主观贝叶斯和客观贝叶斯,以及和频率派
的那些恩恩怨怨;解常微方程不敢,聊一聊它的定性与稳定性理论,像 Lyapunov的几
个定理还是可以的;耍矩阵是一方面,另外还懂点张量分析;微分几何和微分拓扑都学
过,捡捡还能继续;从 Newton 法、梯度下降法、Lagrange 乘子法(包括对偶问题、
二次规划)到 Levenberg-Marquardt 法、BFGS 法等非线性最优化算法都能手推。
以我个人的经验,懂这些有个屁用!
手推更是变态!!又不是作发考题。就是当教书匠,大牛 Ng 讲课还拿着稿呢。
所以,我尊重你的学识,鄙视你的几乎致人内伤的考题!!!
老子花了很长时间总结失败的面试,基本与智商无关。最关键的是情商,得会幽默着侃
晕你的考官,得有一个阳光健康的外型。
至于工业界里的数学,计算机系或物理系本科的就够了。我们组的一个白人老油条,虽
... 阅读全帖 |
|
C****a 发帖数: 6593 | 12 别yy这个了
哪里都有笨的,哪里都有聪明的
上一门计算机课,mcmc配上Bayesian tree,头都他妈的炸了,小白ta娓娓道来,说得
又简单又明白。灵感来了问了几个问题,人家想都没想,一边写一边推导就给解决了,
还说这个问题问得有点意思,要整理一下加到明年的homeworkset里边去。
白人聪明的有的是 |
|
x*****8 发帖数: 10683 | 13 我认为1到69出现的机会不是均等的。
E(X)=35
历史上35出现的机会应该是很高的。
准备把以前弄不明白的MCMC捡起来,然后先在自家超级电脑上模拟几个星期,再挑号码
。 |
|
m**i 发帖数: 9848 | 14 你歇歇吧,现在算概率分布就是numerical integration,MCMC, Metropolis-Hastings
algorithm
最后写到程序里就是一大坨矩阵运算。 |
|
f**********d 发帖数: 4960 | 15 ai还用中文聊天
alphago有一两个清华的
他们那个高效mcmc算法的论文就发在icml2014上
如果没猜错的话 那个至少是他们技术突破的一个重要部分
当年那篇文章我也去听了 我的paper也做了报告
不过我不想在ml里混了 工程的论文垃圾太多 |
|
d********m 发帖数: 3662 | 16 你们在运行了一圈MCMC后,找到global IQ minimum了吗? |
|
|
d********m 发帖数: 3662 | 18 MCMC就不就是个sampling,和初值啥关系? |
|
d********m 发帖数: 3662 | 19 就是,比如,mcmc如火如荼,但是其收敛性质连个门都没入 |
|
d********m 发帖数: 3662 | 20 不能这么说
现在的mcmc加上算力,已经基本解决了missing data分布的问题
关键还是看谁来用 |
|
o****o 发帖数: 8077 | 21 速度随处理器数目线性增长的算法或者项目不多吧,MCMC算一个。
大多数科学计算效率衰减都很厉害 |
|
s*******n 发帖数: 1474 | 22 社会科学,code?
我是不是土了,难道现在搞社会科学都要做simulation
优化解,MCMC啥的? |
|
|
C******n 发帖数: 284 | 24 Take a look at Goldstein and Browne's work on cross-classified and multiple
membership model, for example:
Browne, William and Harvey Goldstein. 2010. "MCMC Sampling for a Multilevel
Model With Nonindependent Residuals Within and Between Cluster Units."
Journal of Educational and Behavioral Statistics 35:453-473.
rate. |
|
s******n 发帖数: 226 | 25 近似的话,sampling就好了,MCMC应该可以? |
|
m**********r 发帖数: 122 | 26 But MCMC can be very slow. |
|
g**********t 发帖数: 475 | 27 PhD到高年级了,要考虑毕业找工作的事情了。以前一直打算在学术界混,不过这年头
学术界太难找到faculty位置了,我们实验室我导师欣赏的u一个博士后,就因为英语不
好(法国人,有很重的口音),面试n个学校都没有拿到offer,黯然去英国做资深博士
后了。我老英语比他只差不好,实在很难在这边找到教职。原本打算回国做青教的,但
是女朋友喜欢国外,不想回国,所以还得考虑在这边找工作。个人有一定的编程底子,
也比较喜欢编程。本科生物背景,有6年perl编程经验,三年C++编程经验,入门级R/
MySQL经验(最近用的太少,忘的差不多了),做的都是bioinformatics相关的学术项
目。现在做的东西比较偏统计模型,熟悉基本的统计模型,用C++写过较复杂的MCMC程
序。比较想做模型/程序的开发,不太想捣鼓几个pipelines做纯粹的bioinformatics数
据分析。
现在越来越觉得还是编程和统计模型比较有意思,生物的东西除了有模型的都不大想看
了。觉得以后找工作可以有以下几个选择:
1)找bioinformatics公司。对工业界比较不太了解,只知道几个著名的公司,比如
gene... 阅读全帖 |
|
t******g 发帖数: 2253 | 28 上周五第一次onsite,波士顿附近的小公司。刚收到信通知我说,他们决定还是不要我
,特此自我反省也分享下经验吧:-)
背景:Statistics Ph.D.,之前在另外一个小公司做过一个暑假实习,总体来说背景不
算特别强,但也还不错。
之前那家公司就跟我说让我准备半个小时到一个小时左右的presentation,没有告诉我
当天其他安排,我也第一次onsite,对于onsite具体流程不太熟悉,所以准备的确有点
不充分。onsite前主要就准备了下presentation的内容,也基本上是基于自己research
。这家公司是做marketing analytics的小公司,用些统计中Bayesian的方法。我
onsite前看了篇关于Bayesian方法在marketing中应用的introductory paper,也稍微
复习了下MCMC和Gibbs sampling。除去这些,我也没做其他方面的准备。
onsite当天,主要就是跟不同的人聊天,对方会根据你的简历也会基于他现在的工作问
些问题考察你的知识的背景。跟最后一个人聊天之前给了个presentation。我觉得我总
体... 阅读全帖 |
|
|
c*****9 发帖数: 4247 | 30 我记得 什么 MCMC 不就是 做采样 用简单的分布 模拟复杂的分布吗? |
|
q********y 发帖数: 66 | 31 因为心脏总是莫名其妙的跳得很快,去年8月份经朋友介绍去一家大医院C看医生S(他
是中国人)。在做了血检和心脏的Holter monitor之后,医生S便说要做CT才能确诊病
因。
起先我自己并不愿意做这个CT, 可S执意要我做,并说不做CT的话他不能给我任何的后
续诊疗。由于医生S是我朋友的朋友,且他在cardiology算是比较有名医生, 医院C也
是一家大医院且是In network,所以就在他医院做了CT。
后面噩梦就来了。
医院C给我的保险公司(Blue Cross Blue Shield)为这次CT寄了$3547的帐单。可保险
公司认为这个CT is not medical necessity thus is not covered by my plan. 这意
味着保险公司不会支付一分钱给医院。
如果保险cover的话,这样的CT检查保险公司跟医院的协议价应该是$1000左右,按照我
的plan,保险公司付$800, 我自己最多只要付$200. 可现在保险公司说不cover,医院
就把送给保险公司的总额$3547的帐单送给了我。
接下来的几个月里,我给医院和保险公司打过无数... 阅读全帖 |
|
v******y 发帖数: 4134 | 32 中国留学生加拿大斗殴致死,女主在新加坡就有先例
2017-02-12
魂断加拿大
前几天,加拿大两位留学生斗殴致一人死亡的事件震惊了整个留学生圈子。
2月7日晚上有两名中国留学生在多伦多街头发生争吵,升级为肢体冲突,最后一人重伤
不治身亡。
加拿大警方发布通告,两名中国学生分别是19岁的Haozhi Wang 以及Boqiao Fan。知情
人很快披露,如此年纪轻轻却爆发死亡斗殴,原因居然是因为一名“红颜祸水” Kiki。
在案情细节被披露之后,更多与当事人相关的细节被身边的熟人披露出来。
动手打死人的Kay(范博桥)是Kiki(谭佳琪)的现男友,练过泰拳,可以说激怒之下
将人打死有其身体优势。
死者Max(王浩志)则是Kiki的前男友,是1米92的长腿花美男,朋友圈和微博最后一条
都是讲述和Kiki(曾经)的恩爱。
死者Max与打人的Kay就读于同一所高中,据爆料当晚Kiki教唆Kay先和Max打了一次。之
后Kiki还不满意,又让Kay上楼殴打死者,还告诉Kay另一条上楼的捷径,最终他在街头
失手将Max打死。
▲(最终出事地点)
有不少人指出,Kiki私生活混乱,个人社交媒体主页... 阅读全帖 |
|
v******y 发帖数: 4134 | 33 中国留学生加拿大斗殴致死,女主在新加坡就有先例
2017-02-12
魂断加拿大
前几天,加拿大两位留学生斗殴致一人死亡的事件震惊了整个留学生圈子。
2月7日晚上有两名中国留学生在多伦多街头发生争吵,升级为肢体冲突,最后一人重伤
不治身亡。
加拿大警方发布通告,两名中国学生分别是19岁的Haozhi Wang 以及Boqiao Fan。知情
人很快披露,如此年纪轻轻却爆发死亡斗殴,原因居然是因为一名“红颜祸水” Kiki。
在案情细节被披露之后,更多与当事人相关的细节被身边的熟人披露出来。
动手打死人的Kay(范博桥)是Kiki(谭佳琪)的现男友,练过泰拳,可以说激怒之下
将人打死有其身体优势。
死者Max(王浩志)则是Kiki的前男友,是1米92的长腿花美男,朋友圈和微博最后一条
都是讲述和Kiki(曾经)的恩爱。
死者Max与打人的Kay就读于同一所高中,据爆料当晚Kiki教唆Kay先和Max打了一次。之
后Kiki还不满意,又让Kay上楼殴打死者,还告诉Kay另一条上楼的捷径,最终他在街头
失手将Max打死。
▲(最终出事地点)
有不少人指出,Kiki私生活混乱,个人社交媒体主页... 阅读全帖 |
|
s*********k 发帖数: 1989 | 34 50%.
Intuition, yes or no.
MCMC, 50%. |
|
s*****n 发帖数: 3416 | 35 good,
teach me how to do MCMC simulation in matlab |
|
c******s 发帖数: 18 | 36 【 以下文字转载自 Statistics 讨论区 】
发信人: critmass (80), 信区: Statistics
标 题: 招人
发信站: BBS 未名空间站 (Mon Dec 17 22:49:45 2012, 美东)
Cincinnati, OH。R熟练。RODBC熟练。至少会mixed effect modeling和MCMC,会其它
machine learning那方面的models更好 |
|
c******s 发帖数: 18 | 37 【 以下文字转载自 Statistics 讨论区 】
发信人: critmass (80), 信区: Statistics
标 题: 招人,贴被钻风删了,再来一次
发信站: BBS 未名空间站 (Thu Jan 10 22:26:42 2013, 美东)
没空去研究钻风的和谐器。只好贴原来不详细的内容
Cincinnati, OH。R熟练。至少会generalized mixed effect modeling和
MCMC,会其它machine learning那方面的models更好 |
|
x*****8 发帖数: 10683 | 38 【 以下文字转载自 Military 讨论区 】
发信人: xiaxie8 (我爱高雅拉), 信区: Military
标 题: 准备复习统计买Powerball
发信站: BBS 未名空间站 (Sun Jan 10 01:06:30 2016, 美东)
我认为1到69出现的机会不是均等的。
E(X)=35
历史上35出现的机会应该是很高的。
准备把以前弄不明白的MCMC捡起来,然后先在自家超级电脑上模拟几个星期,再挑号码
。 |
|
x*****8 发帖数: 10683 | 39 【 以下文字转载自 Military 讨论区 】
发信人: xiaxie8 (我爱高雅拉), 信区: Military
标 题: 准备复习统计买Powerball
发信站: BBS 未名空间站 (Sun Jan 10 01:06:30 2016, 美东)
我认为1到69出现的机会不是均等的。
E(X)=35
历史上35出现的机会应该是很高的。
准备把以前弄不明白的MCMC捡起来,然后先在自家超级电脑上模拟几个星期,再挑号码
。 |
|
m******t 发帖数: 1171 | 40 saddle很有可能的。
还有就是MCMC遇到大坑跳不出来。 |
|
|
|
g********r 发帖数: 8017 | 43 这东西要看路的形状,优化起来很困难。要是搁北京,用曼哈顿距离就行了,还好算。
美国的路弯弯绕饶的。不能简单的什么least squares吧。估计要MCMC了。 |
|
p*****i 发帖数: 2019 | 44 我有朋友喜欢经济学
他跟我讲他不看数学,就看conceptual的东西,比如新制度经济学
我当时不知道是什么东西
我以为经济学就是regression,就是MCMC,就是各种数理模型
因为在咱们理工科wsn的世界里,一样东西不能被数理模型所描述,基本就是瞎忽悠
但后来从人民币升值这事情,我发现制度,对经济的影响远远大于数理模型
例如国家一个小小的规定,可以把国家经济改头换面
错。 |
|
g**********t 发帖数: 475 | 45 学术男+宅男+愤青的完美组合要不要考虑一下,愿就如下内容进行精神交流:
Computer science (programming + algorithm)
Statistical modelling (Classical,Bayesian,MCMC ...)
Biology (every branch)
Physics (statistical physics)
TV game
Animation
Philosophy (西方,非马列主义)
History (中国 + 西方)
武器装备
东北亚局势
台湾问题
... |
|
j**********e 发帖数: 1615 | 46 google了一哈是传说中的mcmc?
膜拜教主
统计盲电脑盲 飘过 |
|
|
h******e 发帖数: 468 | 48 作computer vision/pattern recognition的研究有时会用 Probabilistic framework,
例如 Bayesian framework, MCMC。
请问大家都怎么实现, 网上有没有可下载的code?
请大家指点, 谢谢!!! |
|