g****t
发帖数: 31659 | 1 根据说明。pytorch的autograd是动态的。
就是说你写计算图的时候，计算图被记录下来，然后自动生成autograd。
tensorflow是写入固定的计算图。计算图的梯度根据这个固定的计算图生成。
大致上，类似于动态数组吧。
所谓的autograd就是符号微分upto预先写好的几个导数表。
例如多项式，1／（1+exp（－x）），ReLU等等的导数是存起来的。不是数值计算，
也不是像mathematica那样符号代数计算求微分。
我说的对吗？求批评指正。 |
|
g****t
发帖数: 31659 | 2 来自主题: Programming版 - 可微分编程 也可以链式数值微分。尽管还是不如autograd快。autograd是把一些函数的导数存起来
了，所以不用算exp. |
|
t**********s
发帖数: 930 | 3 GPA已经很底了.这门课不能再有闪失.
自己已经努力做了很多了,但是还是不放心.
哪位高人有获得过高分的解答. 就是Autograder测试时不要出错.
万分感谢. |
|
t**********s
发帖数: 930 | 4 【 以下文字转载自 CS 讨论区 】
发信人: tennisalways (tennisforever), 信区: CS
标 题: 急求操作系统课的Nachos Project in Java的答案!
发信站: BBS 未名空间站 (Wed Sep 30 18:54:05 2009, 美东)
GPA已经很底了.这门课不能再有闪失.
自己已经努力做了很多了,但是还是不放心.
哪位高人有获得过高分的解答. 就是Autograder测试时不要出错.
万分感谢. |
|
t*s
发帖数: 1504 | 5 像程序竞赛用的，提交程序，当场判断对错
配置起来越简单越好的，哪里有？只要c语言地
我知道有HUSTOJ，但没有root权限配置起来头大 |
|
l*******m
发帖数: 1096 | 6 frequentists 数学微积分加线性代数就够了，不是很难。Bayesian比较复杂，不过由
于大数据的压力，现在也minibatch sampling/ inference，不少投靠Tensorflow用其
autograd. |
|
g****t
发帖数: 31659 | 7 From my understanding, the dynamic autograd was quite different
since the prediction error can be used to adjust the computational graph. |
|
c*******v
发帖数: 2599 | 8 我原来phd论文写过求导算法。原理如下：
把一个map g(x,t) 写成一系列 (Identity 加上 f )的迭代。
f是多项式和Fourier 项的混合。
然后进行链式求导。那时候不知道和autograd是一样的。
然后我写了求逆映射的算法。以及逆映射导数的算法。
但是我卡在求积分的算法上。
当时在数学版问过人。最后还是没搞定。
积分代数似乎比微分难很多。
当时所有代码都是Mathematica (Lisp的一种)
我要是有时间，就研究下可积分编程。 |
|
g****t
发帖数: 31659 | 9 恭喜你。你自己搞定了麦卡锡lisp文章里面的一个段落。
scheme的作者还给这个trick起了个牛X的名字，好像又写了个名著。
这个思路是lift up到了多一个参数的函数。和数学里的传统continuation技术是一样
的。谁给的这个名字“continuation pass style”似乎已不可考。但给这个名字的，
我觉得一定是algorithm的大能。
=====================================================
例如x+2=3你会求解。
但是
x**2 + x + 2 =3 ....(1)
如何求解？
牛顿的办法就是引入一个参数p。
let y = x+p
replace y into (1), omit the higher order terms of p.
Then let z = y +q
....
===============================
In modern DNN system, a number 1 is lifted up to 1+p.
That is the root of the ... 阅读全帖 |
|
发帖数: 1 | 10 雖然我不是總設計師，但我見過真正的完整系統，你們說的都是其中一小小模塊，還不
是核心模塊，更不是完整系統。
然後就根據powertrain的一個小模塊來推測全車系統，這不是誤導是什麼。
我開篇就問這個問題：
自動駕駛需不需要OS？
需要OS到底哪個會勝出：Autograde Linux？QNX？Integrity？VxWorks？為什麼？
你們東拉西扯，回答我這個問題了麼？
? |
|
发帖数: 1 | 11 雖然我不是總設計師，但我見過真正的完整系統，你們說的都是其中一小小模塊，還不
是核心模塊，更不是完整系統。
然後就根據powertrain的一個小模塊來推測全車系統，這不是誤導是什麼。
我開篇就問這個問題：
自動駕駛需不需要OS？
需要OS到底哪個會勝出：Autograde Linux？QNX？Integrity？VxWorks？為什麼？
你們東拉西扯，回答我這個問題了麼？
? |
|
|
发帖数: 1 | 13 我自己在转行，也认识了很多CS朋友，谈谈感受。
原因就不说了，生物是死路。过去经常听说什么CS有泡沫，呵呵，生物这行呢？连泡沫
这个概念都不会有，因为压根没有市场没有盈利。
我觉得我最大的收获和改变就是：思维方式。
学术界，尤其生物学术界：
0. 钱。这个就不用说了。
1. 奴隶/人身依附制度。大家要攀附大牛，生死都是大牛说的算；
2. 也因此充满着“人情”，“出身”，“牛推”各种非绝对公平的因素；
3. 一个project要做很多年，各种pathway；而且无法重复
4. 学校从来不会教你如何招工就业，反正毕业没工作，大部分只能postdoc；
5. 人和人之间很冷漠，因为我和你做的project完全不同，无非交流；network非常单一
6. 压根没有什么机会
对应着，CS呢？：
0. 钱多。
1. 民主的多，因为工作机会多，不需要一群人围着一个老头；
2. 相对公平太多，因为OA都是autograde
3. 一个project做的很快，学起来也很快，而且重复率几乎100%
4. 基本上CS的同学一来美国就找工作，他们目的性极强，什么master就是为了工作；
找intern就是他... 阅读全帖 |
|
w*******y
发帖数: 60932 | 14 Advance Auto Parts (AAP) has the Peak 900 Amp Jump Starter for $49.99
Add a Small filler such as a nut (Dorman - Autograde Speed Nuts Part No:
45423)
Use Coupon A123 for $20 of $50
Total ~ $30 ( to jsmiley1127 on FW)
Peak 900 Amp Jump Starter $49.99 + Filler - $20 Coupon = $30
advanceautoparts.com:
http://shop.advanceautoparts.com/webapp/wcs/stores/servlet/prod
#utm_source=aff&utm_medium=cj&utm_campaign=361116&utm_content=10716090"
target="_blank">Link to the Peak Jump Starter [advanceautoparts.... 阅读全帖 |
|
