|
h***z 发帖数: 233 | 2
Thanks for your reply. So what makes preconditioning difficult for BFGS?
In any case, my problem doesn't need preconditioning and only an approximate
solution is needed. What would be the advantage of using CG type of
methods (if any) in this case?
I don't know if there's any definitive studies, but it's a widely-held folk-
wisdom in the fields (EE/CS) that I've worked in that BFGS is faster and
more robust than CG. My own limited experience with CG and BFGS agrees with
this as well, though |
|
|
|
|
m***w 发帖数: 404 | 6 网上搜索了好多,也尝试了很多,感觉都不行,很多太复杂,不知道怎么用。
我用matlab,只想解一个非常简单的问题:
U = a^T*K^(-1)*a
想要minimize U, K是N*N的connivance matrix,由一些hyperparameters决定;a是N*1
的vector,已知。想要通过optimize U来求解最优的hyperparameter。
我希望的是函形式是 [U, hyperparameters]= BFGS(func)。
包子求。 |
|
t******i 发帖数: 35 | 7 那样的话,我感觉除非能够把问题近似活着转化成Convex Optimization,一般也就是
用迭代类的解法,像你说的BFGS,Gaussian-Newton等。很多算法就是找个比较好的
initial values, 或者多找一些initial values,找最好的local optimum. |
|
h***z 发帖数: 233 | 8 It seems like most of the iterative linear solvers out there are either
based on or closely related to the conjugate gradient method. I know it's
commonly believed that BFGS is superior to CG as an unconstrained
optimization algorithm, so I'm wondering why all the iterative solvers are
based on CG type of algorithms? |
|
l*****i 发帖数: 3929 | 9 You can do preconditioning in CG, while it's not so straightforward in the c
ase of BFGS or LBFGS. Who said BGFS is superior to CG as an unconstrained op
timization algorithm?
are |
|
m***w 发帖数: 404 | 10 网上搜索了好多,也尝试了很多,感觉都不行,很多太复杂,不知道怎么用。
我用matlab,只想解一个非常简单的问题:
U = a^T*K^(-1)*a
想要minimize U, K是N*N的connivance matrix,由一些hyperparameters决定;a是N*1
的vector,已知。想要通过optimize U来求解最优的hyperparameter。
我希望的是函形式是 [U, hyperparameters]= BFGS(func)。
包子求。 |
|
R********3 发帖数: 2 | 11 BFGS需要gradient的信息,难不成要用差分算导数? |
|
m***w 发帖数: 404 | 12 网上搜索了好多,也尝试了很多,感觉都不行,很多太复杂,不知道怎么用。
我用matlab,只想解一个非常简单的问题:
U = a^T*K^(-1)*a
想要minimize U, K是N*N的connivance matrix,由一些hyperparameters决定;a是N*1
的vector,已知。想要通过optimize U来求解最优的hyperparameter。
我希望的是函形式是 [U, hyperparameters]= BFGS(func)。
包子求。 |
|
w*******y 发帖数: 60932 | 13 TigerDirect
BFG Tech GeForce GT 220 1GB DDR2 PCI Express Video Card
$65 - $15 Instant Savings - $20 code LQS3412 - $10 Rebate
= $20 with free shipping
Don't forget BCB if eligible.
|
|
|
|
|
f*******r 发帖数: 5301 | 17 1. 四驱vs.轮胎。有人说四驱没用,好轮胎才有用。其实好的四驱提供200%的牵引力
和发动机制动力。一般雪胎只要求在雪地上能达到普通轮胎110%附着力。所以我觉着
四驱普通胎还是比普通车加雪胎牛多了。当然最牛还是全时四驱加雪胎,这时候雪地
通行能力相当于普通车的220%。所以轮胎还是很重要的。几万块的四驱车都买了还舍
不得几百块的轮胎吗。
2. 雪胎 vs 普通轮胎。一个轮胎是不是雪胎,不只是看设计,而是要通过标准测试:
http://www.tirerack.com/winter/tech/techpage.jsp?techid=125
也就是说,和标准普通轮胎相比,雪地附着力超过110%才算雪胎,也就是满足所谓
的"severe snow" service rating。过了这个测试,轮胎上才可以有mountain
snowflake标志。一般来说,看一个轮胎是不是雪胎,最简单的就是到侧壁上找这个
标志:
一般来说,雪胎和四季胎是不能互换的,雪胎不能当四季胎用,但是也有极少数例
外,比如说Nokian WR以及下文提到的BFG All-Terrain T/A KO。
3. 全地形... 阅读全帖 |
|
f*******r 发帖数: 5301 | 18 1. 四驱vs.轮胎。有人说四驱没用,好轮胎才有用。其实好的四驱提供200%的牵引力
和发动机制动力。一般雪胎只要求在雪地上能达到普通轮胎110%附着力。所以我觉着
四驱普通胎还是比普通车加雪胎牛多了。当然最牛还是全时四驱加雪胎,这时候雪地
牵引力相当于普通车的220%。所以轮胎还是很重要的。几万块的四驱车都买了还舍不
得几百块的轮胎吗。
2. 雪胎 vs 普通轮胎。一个轮胎是不是雪胎,不只是看设计,而是要通过标准测试:
http://www.tirerack.com/winter/tech/techpage.jsp?techid=125
也就是说,和标准普通轮胎相比,雪地附着力超过110%才算雪胎,也就是满足所谓
的"severe snow" service rating。过了这个测试,轮胎上才可以有mountain
snowflake标志。一般来说,看一个轮胎是不是雪胎,最简单的就是到侧壁上找这个
标志:
一般来说,雪胎和四季胎是不能互换的,雪胎不能当四季胎用,但是也有极少数例
外,比如说Nokian WR以及下文提到的BFG All-Terrain T/A KO。
3. 全地形轮... 阅读全帖 |
|
q********g 发帖数: 10694 | 19 Sobereva
Department of Chemistry, University of Science and Technology Beijing,
Beijing 100083, China
前言:本文主要介绍过渡态、反应路径的计算方法,并讨论相关问题。由于这类算法极
多,可以互相组合,限于精力不可能面面俱到展开,所以只介绍常用,或者实用价值有
限但有启发性的方法。文中图片来自相关文献,做了一定修改。由于本文作为帖子发布
,文中无法插入复杂公式,故文中尽量将公式转化为文字描述并加以解释,这样必然不
如公式形式严谨,而且过于复杂的公式只能略过,但我想这样做的好处是更易把握方法
的梗概,有兴趣可以进一步阅读原文了解细节。对于Gaussian中可以实现的方法,文中
对其在Gaussian中的使用进行了一些讨论,希望能纠正一些网上流传的误区。虽然绝大
多数人不专门研究计算方法,其中很多方法也不会用到,但多了解一下对开阔思路是很
有好处的。
文中指的“反应”包括构象变化、异构化、单分子反应等任何涉及到过渡态的变化过程
。“反应物”与“产物”泛指这些过程的初态和末态。“优化”若未注明,... 阅读全帖 |
|
G******d 发帖数: 364 | 20 it is true.
Hans-Peter Richter 2007, August
(German Peace Council)
Foreign Military Bases in Germany
Today there are 72 locations in Germany used by the US military Forces and
about 68,000 soldiers. The British Forces use 5 locations and have 25,000
soldiers in Germany. In the summer of this year about 8,500 soldiers will be
withdrawn from Germany and three basses will be given up. All this soldiers
have their home base in Germany. At no time all this soldiers are in
Germany, because always some... 阅读全帖 |
|
f*******r 发帖数: 5301 | 21 是KO
FJ上口碑比较好的,主要是BFG和nitto (toyo是同一家)
BFG是传统老牌 nitto是新技术的代表 性能据说更好
但是BFG很多AT KO型号有severe snow service rating 侧壁也更厚 |
|
wh 发帖数: 141625 | 22 (二)推荐作品:《Charlie and the Chocolate Factory》和《The BFG》
好在我和领导在《Charlie and the Chocolate Factory》和《The BFG》上达到共鸣,
这两本书的温情最多,想象力最丰富活泼。
《Charlie and the Chocolate Factory》讲一个穷苦人家的孩子,食不果腹,每年生
日时全家凑足一毛钱给他买一块巧克力做礼物。他把它在盒子里放上几天,直到忍不住
,就掀起a tiny bit of 包装纸,露出a tiny bit of 巧克力,咬上a tiny nibble,
全身心享受从舌尖流到心里的巧克力味道。每天一小口,一块巧克力能吃一个多月。我
把这段讲给领导听,我俩共同唏嘘,争相忆苦思甜,穷人家的孩子最懂得吃的美好。
Dahl擅长描写口舌之欲,《Fantastic Mr Fox》里Badger喝一口苹果酒后喃喃道:“It
’s like melted gold… It’s like drinking sunbeams and rainbows”,尽显酒鬼
心中的灿烂天堂。
这个小说被Ti... 阅读全帖 |
|
l*******s 发帖数: 1258 | 23 这些都是码工类型题目,兄弟我发一个research scientist\developer 类的题目吧,
ML和NLP方向的:
幼儿园:给一堆字符串,比如 {apple, bananab, beard, piep, pear},然后给一个
Regex,找出开头结尾相同字母的单词,比如output是piep,bananab。请问能不能?为
什么?。
小学:用一堆正则表达式实现一个简单的tokenizer。
初中:请实现Shortest Edit Distance算法
高中:说说Beam Search+MaxEntropy 和 CRF在做POS tagging时的区别,各自在什么情
况下适用,为什么。
大学:请实现Naive Bayes的training和decoding,包括 multinomial and
multivariate Bernoulli.
研究生:请实现IIS和GIS,并指出复杂度和区别。
博士:实现l-BFGS,注意,一定是limited哦,不能光是BFGS。说说哪些地方可以改进
? |
|
f*******r 发帖数: 5301 | 24 首先恭喜购车
1. 轮子毫无疑问是最基本也最重要的配置
17"的没问题,也可以考虑换16"的rim,一旦需要降气压行驶,调整范围稍大
不走泥地上all-terrain全地形胎就够了, 公路表现都很好
大路货有BFG all-terrain t/a ko(可做雪胎,超厚侧壁),Nitto terra grappler/toyo
open country at(非雪胎,驾驶性能更好)
我用265/75R16 BFG AT因为我跑雪地
2. FJ可选的shock太多了,原厂货包括bilstein都很一般,白菜货有OME,顶级货有
ICON, FOX, KING之类,还是要看具体需求,不用盲目升级
我就用bilstein的,没觉着多好也没觉着需要升级
3. FJ上大胎不但要lift还要切割车身金属,lift如不妥协其它方面性能要巨额投资,
比如更换coilover, upper control arm, sway bar relocate(2010之后的车身我还没
发现有完美解决方案,很多redneck就直接把sway bar拆了,高速危险性可想而知),
differential re-gea... 阅读全帖 |
|
g****n 发帖数: 7494 | 25 xbox 360:
Doom 3: BFG Edition $12.99
Prototype 2 $12.99
Spec Ops: The Line $12.99
Dead or Alive 5 $14.99
Transformers: Fall of Cybertron $14.99
Resident Evil 6 $17.99
Assassin's Creed Revelations $9.99
Assassin's Creed: Brotherhood $9.99
Max Payne 3 $9.99
Medal of Honor Warfighter $9.99
Risen 2: Dark Waters $9.99
Syndicate $9.99
Tom Clancy's Ghost Recon: Future Soldier $9.99
Batman: Arkham City $12.99
Borderlands $12.99
Call of Duty: Modern Warfare 3 ... 阅读全帖 |
|
wh 发帖数: 141625 | 26 mr fox还好的。你看了其他几本没有,像magic finger, the twits, matilda那些,那
些真是unmistakable的很强的复仇心理。charlie and the chocolate factory整体很
搞笑,但其中wonka对小孩和小孩父母的种种斥责常很牵强,没有理由,很偏狭。所以
电影改编的时候添加一段wonka和父亲不和、从小有心理阴影、所以对parents这个词很
敏感厌恶的情节,给小说打个圆场。然后再读读他的传记,就发现他小时候有很多
traumatic experiences. wiki说他的小说以unsentimental, often very dark humor
见长,的确如此。这些东西有它吸引人的地方,比如很sharp;老是写光明面的会像迪
斯尼一样沦为甜腻。尤其他的语言天才和想象力非常赞,你要是喜欢fox的歌谣,肯定
会喜欢巧克力工厂里的歌谣和各种匪夷所思的巧克力,还有bfg里的各种笑料。bfg说很
破的英语,但常常一针见血。里面写女王、写女王的butler等都非常出色,很体现英国
人的情怀。
giant peach我很喜欢他的... 阅读全帖 |
|
wh 发帖数: 141625 | 27 我都没看过tolkien,看了两集电影不是特别感兴趣。我看lord of the ring感觉更差
。不过别人都说这两本书不错。
dahl的bfg和巧克力工厂还是比较光明的,而且想象力丰富语言精彩,值得一看。喜欢
英国的尤其要看bfg,素问。抄一段写女王butler的:
"A man does not rise to become the Queen’s butler unless he is gifted with
extraordinary ingenuity, adaptability, versatility, dexterity, cunning,
sophistication, sagacity, discretion and a host of other talents that
neither you nor I possess. Mr Tibbs had them all."
Tolkien |
|
L******h 发帖数: 358 | 28 那就p7p55d好了
GTX260 是BFG得好点还是PNY得好点
BFG Technologies GeForce® GTX 260 OC MAXCORE 55 896MB GDDR3 PCIe 2.0 Graphics Card 151.99$
PNY Technologies XLR8 GeForce GTX 260 896MB GDDR3 PCIe 2.0 Graphics Card (Core 216) 171.99$ |
|
d********e 发帖数: 1468 | 29 当然是BFG ,还是OC版。
N 卡里公认最好的是EVGA 和BFG。 |
|
|
m****o 发帖数: 31 | 31 我现在在使用optim来求最大值,
optim(par, fn, gr = NULL, ...,
method = c("Nelder-Mead", "BFGS", "CG", "L-BFGS-B", "SANN"),
lower = -Inf, upper = Inf,
control = list(), hessian = FALSE)
但是在求解的过程中,产生了一大堆warning,这些warning里面提到在“fn”里面某些
位置产生了NaN,所以想请问朋友们,如何来识别这个NaN在哪里产生的?已经如何来
delete他们,因为感觉在运行程序的时候,一旦碰到NaN,这个程序就立即停止运转了
,想问下如果我不顾及这个NaN,想让程序继续运转下去,有没有什么方法?太感谢了! |
|
e**y 发帖数: 51 | 32 陈不像是民科。
关于spline model的缺陷的讨论是对的,陈的这一点没错。大部分民科是不会站在一个
已知的理论缺陷上来提出自己的观点的。后面的修正部分,我很赞赏用概率推断的办法
去找临界点的思路。这一点,就我所知,在spline model里面还没有人讨论过。但是在
工程应用上,概率推断的办法已经广泛应用了。从这一点来说,陈的思路也并非非常新
颖。除非,陈能像whaba那样,建立一个reproducing kernel hilbert space的理论来
justify spline model一样来justify他的模型,那今天的这些所谓争论就可以归结为
粪土了。
陈虽然不是统计学家,但是就他自己所说,“我对统计学仅仅懂得一丁点的皮毛,尽管
我在这个领域干了20多年了,而且我的经历从数据输入员到现场调查员到调查设计者、
组织者和管理者再到数据库的建立与维护者最后到统计分析人员等几乎贯穿了一个应用
统计研究的全过程。”我完全相信,这个经历是板上绝大部分人所没有的。绝大部分人
甚至都不知道数据是怎么一个收集来的。而绝大部分人甚至还在相信,统计学的最有价
值部分在后面的分析,而不是前... 阅读全帖 |
|
c***z 发帖数: 6348 | 33 【 以下文字转载自 DataSciences 讨论区 】
发信人: chaoz (没钱也任性), 信区: DataSciences
标 题: [请教]一个R问题
发信站: BBS 未名空间站 (Sat Apr 25 14:31:06 2015, 美东)
我最近做life time value,用的BTYD包
http://cran.r-project.org/web/packages/BTYD/vignettes/BTYD-walk
里面主要的方程是
pnbd.EstimateParameters 它会call optim,使用L-BFGS-B method
pnbd.LL 这是Pareto/NBD的likelihood function
我能够replicate原文章的结果,但是公司自己的数据有这么三个issue
1. L-BFGS-B method requires a finite value for fn 应该是likelihood function
overflow了,我对所有数据先取一次log,基本上解决了这个问题
2. 非常非常的慢,即使我使用十分之一的数据,把data... 阅读全帖 |
|
|
c***z 发帖数: 6348 | 35 我最近做life time value,用的BTYD包
http://cran.r-project.org/web/packages/BTYD/vignettes/BTYD-walk
里面主要的方程是
pnbd.EstimateParameters 它会call optim,使用L-BFGS-B method
pnbd.LL 这是Pareto/NBD的likelihood function
我能够replicate原文章的结果,但是公司自己的数据有这么三个issue
1. L-BFGS-B method requires a finite value for fn 应该是likelihood function
overflow了,我对所有数据先取一次log,基本上解决了这个问题
2. 非常非常的慢,即使我使用十分之一的数据,把data frame变成matrix也没有帮助
3. 结果不stable,几乎总是取得local optimal,我试着用了 mothod = SANN (
simulated annealing) 也没有帮助
有点stuck了,所以想问问大家
多谢多谢!
cha... 阅读全帖 |
|
f********r 发帖数: 3155 | 36 给4Runner换套AT胎,偏向offroad性能。主要跑高速和沙漠土路,偶尔走点石头路,原
厂轮子265/65/R17,这个大小好像不容易配hardcore一点的胎。研究了一下,主要如下
几个选择
BFG AT KO,$225一个,口碑很好,雨雪traction一般,但是我这里不怎么下雨下雪
Cooper Discoverer S/T MAXX,$233,看pattern比A/T3凶残一些,接近MT胎,这个牌
不熟悉
Goodyear Duratrac,$190
Nitto Terra Grappler G2,$175,据说磨损后噪声很大
Toyo open country AT II,$152,看着像公路胎
目前倾向于BFG AT和Cooper S/T,如果有漏网的请推荐,谢谢 |
|
|
s********l 发帖数: 439 | 38 靠,你应该早点把具体的问题说出来。你这样子当然要sample一个simplex(中文叫单
纯形)上面的均匀分布,具体做法前面已经给了,或者用N个i.i.d 指数分布做
rescaling,或者就是N-1个均匀分布排序做[0 1]之间的等分点。
你sample 10000个当然是看不到这种1个0.99,其他9个都特别小的情况的。要知道维数
越高,单纯形的一个角占总体积的比例越小。如果是10个的话这种正好在单纯形一个角
上的概率大概是10^-18这个量级。
另外return和投资组合之间总应该有一点连续性的。随机取一个点然后用BiCG或者BFGS
之类的方法去找这个点周围的局部最优。多选几个随机的出发点,找到整体最优不会太
困难,至少比你这种在高维空间做穷举法简单太多了。
sample |
|
s*****l 发帖数: 7106 | 39 L-BFGS uses too much memory with not enough performance gain to justify its
usage in deep NN. |
|
发帖数: 1 | 40 你在混淆视听。该法案最后没有成功是因为 Edward Hernandez 主动撤销他的提案。之
前三读投票都已经通过。但是之后华人反对声音 还是被听到。三个华人议员去信
Edward 让他 hold 住该提案。
就是因为华人议员最后站在华人立场的这个态度 Ted Lieu 在之后的国会竞选的时候都
丢失掉了六个其他民主党议员的 endorsement. 遭到报复。
毕竟华人议员还是倾听华人群体声音 甚至还有为此牺牲了自己政治前途。 毕竟为此做
了努力和贡献。到你嘴里 就大放厥词 全面抹黑。你好意思 当着 Ted Lieu 的面 敢对
他说同样的话?
[在 bfg2000 (BFG) 的大作中提到:]
:放你奶奶的屁,在这里装腔作势大放厥词想糊弄谁呢?
:SCA5最后没过是因为主党没拿到修宪要求的2/3席,只差那么一点点,跟华人强力支持
推上的几个共和党议员有关,跟这些个民主党政客有P的关系,所有这些主党议员投的都
:是赞成票,事后表表姿态安抚下愤怒的群众顺便继续给主党拉票而已。
:主党的这些个黄皮政客就是踩自己族裔上位的,也是主党提拔他们唯一的原因。早在
投票前就有无数华人给这些个黄... 阅读全帖 |
|
发帖数: 1 | 41 。照你说法 上街游行根本没必要。签名请愿没必要。华人议员抗议也没必要。只要抱
着 共和党选举翻盘以后的大腿, 赶上运气好就能占便宜了。
那么多华人白出力流汗上街游行了。就你共和党是大救星
如果真是像你说的 失去supermajority 是 Hernandez 撤案的决定性因素的话 那么 今
年 如果民主党今年再次拿回 supermajority, 那么 Hernandez 应该会重提此案喽?
[在 bfg2000 (BFG) 的大作中提到:]
:扯淡,Hernandez的提案十几个西裔议员联署,差不多所有主党议员投的赞成票,就TM
:因为三个华人议员投赞成票后略微表达了一下下“反对”意见就主动撤销了?
:LOL,好大的面子啊
:还是天大的笑话?
:Hernandez自己在支持者的会议上都说了撤销是因为达不到关键多数2/3的票数。为什
么拿不到2/3,因为几个选区包括Baker的AD16打掉了主党几个关键席位。你这大嘴一张
到成了这几个黄皮议员的功劳了。
:后面亚裔细分法案同样愤怒的华人抗议不绝,为什么这些黄皮们一声不吭的投了赞成
票?不倾听华人群体声音了?因为只要半数就能过,党派第... 阅读全帖 |
|
p******r 发帖数: 6213 | 42 贵店。
要便宜还是得在discounttire、tirerack等网站买,然后找店比如discounttire的
local network或walmart装。有时候如果你能找到double or trible coupon,local店
可能会便宜些。如果不想网上买,去costco、BJ等店换也可以,经常有70 off 4 BFG
tires 的coupon。 |
|
c******k 发帖数: 170 | 43 今儿看见Bridgestone在discounttire上有$70rebate
正好轮胎不剩多少了,就跑过去换了
回来看到firestone的传单上还加了bridgestone的标志,查了网上价格也好像便宜一点
点,觉得这两个是不是一家啊?
就像Michelin和BFG一样? |
|
f****t 发帖数: 15913 | 44 Do not blindly trust michelin and costco.
Michelin is way overpriced for what it is. google reviews online and you
will see what I mean.
You can get the same price as costco's with free rotation/balancing at tire
stores. Costco only sells michelin/BFG and bridgestone tires. You have
more choices at a tire store. They will honor the lowest price you can find
if it is real. |
|
d*******s 发帖数: 15155 | 45 记得朋友那个加高的cherokee,用的是Michelin的AT,不知道有没有BFG好? |
|
d*******s 发帖数: 15155 | 46 记得朋友那个加高的cherokee,用的是Michelin的AT,不知道有没有BFG好? |
|
|
|