由买买提看人间百态

topics

全部话题 - 话题: 神经网络
1 2 3 4 5 6 7 8 9 10 下页 末页 (共10页)
L****8
发帖数: 3938
1
来自主题: Joke版 - Google人工智能 攻破了围棋,然后呢? 雷锋网 study875 39分钟41秒前 Google日前宣布其程序AlphaGo击败了欧洲围棋职业选手,这意味着人工智能技术又或得了极大的突破。计算机目前已经在许多智力游戏比赛上战胜了人类顶级选手,包括国际象棋、五子棋、黑白棋、拼字游戏等等。而对于有着2500年历史的东方游戏围棋——比国际象棋要复杂得多——人类始终能够保持在和计算机对决中的胜利。不过,Google人工智能专家表示, 这个壁垒或许很快将要被打破。随着AlphaGo在没有任何让子的情况下以5:0完胜法国围棋职业二段棋手樊麾,AlphaGo将在三月份对战韩国九段棋手李世乭。 今天早上,《自然》杂志发表了一篇Google DeepMind团队——程序AlphaGo的创造者撰写的关于深度学习系统的论文。根据论文描述,在AlphaGo中,DeepMind研究员在程序中录入了大量职业棋手的棋谱——加起来多达3000万步——他们用增强学习的方法训练AI,让它自己下棋,研习棋谱。不过这只是第一步。理论上,这样的训练只能让这个人工智能系统无法突破人类的计算。为了获得更好的成绩,研究员随后让系统进行自我博弈,计算出比基础棋谱更多新的打点。也就是说,战胜人类就要靠这些新的东西。 “这其中最重要的是,AlphaGo不仅记录着大量的棋谱,还有一系列规则来指导‘思考’,”DeepMind CEO Demis Hassabis说道,“事实上,该程序能够通过机器学习的方式掌握比赛技巧。” DeepMind的技术核心结合了“强化学习”及其他人工智能手段,这种技术能够用于解决现实机器人执行物理任务和对环境作出回应的技术问题。就是说,要让机器人变得更“自然”。 视觉判断 2014年初, Coulom的围棋程序“疯石(Crazystone)”在一次比赛中战胜九段棋手依田纪基。但是当时是在人类棋手让出4子的情况下赢得比赛,而这次AlphaGo并没有被让子,可以说比赛很公平。 人工智能战胜人类围棋到底有多难?即使是最强大的计算机系统也无法在合理的时间内分析出下一步最优的走法。1997年IBM超级计算机“深蓝”则利用了蒙特卡洛搜索树的方式做到了这一点。“深蓝”能够预测出对手下一步会怎么走,而且计算力远高于人类。但是,围棋要复杂得多。国际象棋每一步平均只有35种可能性的走法,但是围棋呢——在19*19的棋盘内,共有361个点,就机器学习的角度而言,围棋的计算最大有3361种局面,大致的体量是10170,而已经观测到的宇宙中,原子的数量才1080。国际象棋最大只有2155种局面,称为香农数,大致是1047。 使用蒙特卡洛树搜索技术,Crazystone等系统能够进行更长远的计算。而结合其他技术的话,它们能够对可能性走法进行刷选,然后选择出最优的策略。在大多数情况下,它们能够战胜人类选手,但不是最厉害的那一个。顶级大师中,走法很多时候依靠直觉——做棋除了需要计算,还有棋感——棋手能够根据棋形分析攻防线路。“好的棋形看起来顺手多了,”Hassabis本身也是一名围棋手,“这其中不只有计算角力,还有审美。这也是围棋几千年来都让人着迷的原因。” 因此,从2014年至2015年间,包括Facebook、爱丁堡大学、DeepMind等人工智能研究团队都将围棋人工智能系统的突破方向瞄准为——使得程序能够模仿人类的直觉式思维。 自我强化 深度学习要依靠神经网络技术,它是可以模拟人脑中神经元网络的软硬件网络。神经网络不会依靠蛮力或预先输入的规则,而是会分析大量数据,“学习”特定的任务。给神经网络提供足够的喵星人照片,它就能学习识别喵星人;提供足够的语音,它也会学习理解人类的语言;提供足够的围棋走法,它也会学会围棋。 在DeepMind,爱丁堡和Facebook,研究人员希望神经网络能像人类选手一样,通过观看棋盘学习围棋。Facebook在最新的研究中表明,这种方法确实可行。结合深度学习与蒙特卡洛树搜索方法,Facebook打败了一些人类选手,虽然并非是Crazystone和其他顶尖选手。 但DeepMind走得更远。在经过3000万步人类走法的训练后,它的神经网络能以57%的准确度(此前记录是44%)预测人类的下一步。然后Hassabis和团队通过强化学习技术,让这一神经网络与它自己的另一个稍有区别的版本对战。两者互搏中,系统会评估哪一步效果最好,即占领更多棋盘区域。最终,神经网络在判断哪一步更好时会越来越优秀。 DeepMind的研究者David Silver表示,“在与其它神经网络和它自己对战数百万局后,AlphaGo学会了自己发现新策略,并逐渐提高了水平。” 正是这种方法帮AlphaGo超越了其它围棋AI系统,包括Crazystone。但事情还没完,研究人员随后将结果再反馈给第二个神经网络。了解前任的走法了,第二个神经网络会使用许多相同的技术来判断每一步的后果。这一过程与深蓝等旧系统在国际象棋上的做法类似,只是它会在下棋过程中学习,分析更多数据,而非暴力破解所有可能的步骤。这样,AlphaGo不仅能战胜AI,还能战胜顶尖人类选手了。 计算机网络 http://static.cnbetacdn.com/article/2016/0128/7bfcf7e43c9064b.jpg 李世乭 与其它神经网络一样,DeepMind的系统运行在配备了GPU的机器上。GPU最初用于渲染游戏图像,但后来有人发现,它们很适合深度学习。Hassabis表示,DeepMind系统在装备了一定数量GPU芯片的单一电脑上也可以用,但与樊麾对战中,他们用上了更大的计算机网络,其包括170个GPU和1200个标准CPU。大的计算机网络训练了同样的系统并进行了实际对战,还借鉴了训练的结果。 尽管Hassabiss会不断改善系统,但待AlphaGo与韩国选手李世乭对战时,他们会使用相同的配置。比赛中系统也需要网络连接,而且他们会“自己铺设光纤”。 挑战世界冠军比挑战樊麾难得多,但Coulom还是认为DeepMind会赢。他过去数十年一直在开发能打败最好选手的系统,现在他认为这一目标已经实现了,他买GPU会赢。 接下来…… AlphaGo的重要性不言而喻。同样的技术还能用于机器人和科学研究,以及类似于Siri的数字助理和金融系统。深度学习创业Skymind的创始人Chris Nicholson就认为,技术“能用于任何对抗性问题,任何类似于游戏且需要策略的事情,包括战争、商业和交易”。 对有些人来说,这是一件值得忧虑的事,特别是DeepMind的系统还能自己学会下围棋。它不仅能从人类提供的数学中学习,还能生成自己的数据,在与自己下棋中学习。特斯拉创始人埃隆·马斯克等大佬多次声明,这类AI系统会最终超越人类智能,脱离掌控。 幸而DeepMind的系统还在Hassabis等人的控制之下。虽然他们用系统破解了复杂的游戏,但这仍只是个游戏。AlphaGo离人类智能还很远,更不论超级智能了。下棋是一种高度结构化的情景,系统也没有人类级别的理解力。但它代表了一种方向,即如果AI能理解围棋,它也会理解更多事。如果宇宙就是一局超大型的围棋呢? via Wired
不就是把棋谱数据库增大了么 然后欺负人的记忆力
算个屁的人工智能

在合理的时间内分析出下一步最优的走法。1997年IBM超级计算机“深蓝”则利用了蒙
特卡洛搜索树的方式做到了这一点。“深蓝”能够预测出对手下一步会怎么走,而且计
算力远高于人类。但是,围棋要复杂得多。国际象棋每一步平均只有35种可能性的走法
,但是围棋呢——在19*19的棋盘内,共有361个点,就机器学习的角度而言,围棋的计
算最大有3361种局面,大致的体量是10170,而已经观测到的宇宙中,原子的数量才
1080。国际象棋最大只有2155种局面,称为香农数,大�: 率�1047。
使用蒙特卡洛树搜索技术,Crazystone等系统能够进行更长远的计算。而结合其他技术
的话,它们能够对可能性走法进行刷选,然后选择出最优的策略。在大多数情况下,它
们能够战胜人类选手,但不是最厉害的那一个。顶级大师中,走法很多时候依靠直觉—
—做棋除了需要计算,还有棋感——棋手能够根据棋形分析攻防线路。“好的棋形看起
来顺手多了,”Hassabis本身也是一名围棋手,“这其中不只有计算角力,还有审美。
这也... 阅读全帖
M********t
发帖数: 5032
2
来自主题: Joke版 - Google人工智能 攻破了围棋,然后呢? 雷锋网 study875 39分钟41秒前 Google日前宣布其程序AlphaGo击败了欧洲围棋职业选手,这意味着人工智能技术又或得了极大的突破。计算机目前已经在许多智力游戏比赛上战胜了人类顶级选手,包括国际象棋、五子棋、黑白棋、拼字游戏等等。而对于有着2500年历史的东方游戏围棋——比国际象棋要复杂得多——人类始终能够保持在和计算机对决中的胜利。不过,Google人工智能专家表示, 这个壁垒或许很快将要被打破。随着AlphaGo在没有任何让子的情况下以5:0完胜法国围棋职业二段棋手樊麾,AlphaGo将在三月份对战韩国九段棋手李世乭。 今天早上,《自然》杂志发表了一篇Google DeepMind团队——程序AlphaGo的创造者撰写的关于深度学习系统的论文。根据论文描述,在AlphaGo中,DeepMind研究员在程序中录入了大量职业棋手的棋谱——加起来多达3000万步——他们用增强学习的方法训练AI,让它自己下棋,研习棋谱。不过这只是第一步。理论上,这样的训练只能让这个人工智能系统无法突破人类的计算。为了获得更好的成绩,研究员随后让系统进行自我博弈,计算出比基础棋谱更多新的打点。也就是说,战胜人类就要靠这些新的东西。 “这其中最重要的是,AlphaGo不仅记录着大量的棋谱,还有一系列规则来指导‘思考’,”DeepMind CEO Demis Hassabis说道,“事实上,该程序能够通过机器学习的方式掌握比赛技巧。” DeepMind的技术核心结合了“强化学习”及其他人工智能手段,这种技术能够用于解决现实机器人执行物理任务和对环境作出回应的技术问题。就是说,要让机器人变得更“自然”。 视觉判断 2014年初, Coulom的围棋程序“疯石(Crazystone)”在一次比赛中战胜九段棋手依田纪基。但是当时是在人类棋手让出4子的情况下赢得比赛,而这次AlphaGo并没有被让子,可以说比赛很公平。 人工智能战胜人类围棋到底有多难?即使是最强大的计算机系统也无法在合理的时间内分析出下一步最优的走法。1997年IBM超级计算机“深蓝”则利用了蒙特卡洛搜索树的方式做到了这一点。“深蓝”能够预测出对手下一步会怎么走,而且计算力远高于人类。但是,围棋要复杂得多。国际象棋每一步平均只有35种可能性的走法,但是围棋呢——在19*19的棋盘内,共有361个点,就机器学习的角度而言,围棋的计算最大有3361种局面,大致的体量是10170,而已经观测到的宇宙中,原子的数量才1080。国际象棋最大只有2155种局面,称为香农数,大致是1047。 使用蒙特卡洛树搜索技术,Crazystone等系统能够进行更长远的计算。而结合其他技术的话,它们能够对可能性走法进行刷选,然后选择出最优的策略。在大多数情况下,它们能够战胜人类选手,但不是最厉害的那一个。顶级大师中,走法很多时候依靠直觉——做棋除了需要计算,还有棋感——棋手能够根据棋形分析攻防线路。“好的棋形看起来顺手多了,”Hassabis本身也是一名围棋手,“这其中不只有计算角力,还有审美。这也是围棋几千年来都让人着迷的原因。” 因此,从2014年至2015年间,包括Facebook、爱丁堡大学、DeepMind等人工智能研究团队都将围棋人工智能系统的突破方向瞄准为——使得程序能够模仿人类的直觉式思维。 自我强化 深度学习要依靠神经网络技术,它是可以模拟人脑中神经元网络的软硬件网络。神经网络不会依靠蛮力或预先输入的规则,而是会分析大量数据,“学习”特定的任务。给神经网络提供足够的喵星人照片,它就能学习识别喵星人;提供足够的语音,它也会学习理解人类的语言;提供足够的围棋走法,它也会学会围棋。 在DeepMind,爱丁堡和Facebook,研究人员希望神经网络能像人类选手一样,通过观看棋盘学习围棋。Facebook在最新的研究中表明,这种方法确实可行。结合深度学习与蒙特卡洛树搜索方法,Facebook打败了一些人类选手,虽然并非是Crazystone和其他顶尖选手。 但DeepMind走得更远。在经过3000万步人类走法的训练后,它的神经网络能以57%的准确度(此前记录是44%)预测人类的下一步。然后Hassabis和团队通过强化学习技术,让这一神经网络与它自己的另一个稍有区别的版本对战。两者互搏中,系统会评估哪一步效果最好,即占领更多棋盘区域。最终,神经网络在判断哪一步更好时会越来越优秀。 DeepMind的研究者David Silver表示,“在与其它神经网络和它自己对战数百万局后,AlphaGo学会了自己发现新策略,并逐渐提高了水平。” 正是这种方法帮AlphaGo超越了其它围棋AI系统,包括Crazystone。但事情还没完,研究人员随后将结果再反馈给第二个神经网络。了解前任的走法了,第二个神经网络会使用许多相同的技术来判断每一步的后果。这一过程与深蓝等旧系统在国际象棋上的做法类似,只是它会在下棋过程中学习,分析更多数据,而非暴力破解所有可能的步骤。这样,AlphaGo不仅能战胜AI,还能战胜顶尖人类选手了。 计算机网络 http://static.cnbetacdn.com/article/2016/0128/7bfcf7e43c9064b.jpg 李世乭 与其它神经网络一样,DeepMind的系统运行在配备了GPU的机器上。GPU最初用于渲染游戏图像,但后来有人发现,它们很适合深度学习。Hassabis表示,DeepMind系统在装备了一定数量GPU芯片的单一电脑上也可以用,但与樊麾对战中,他们用上了更大的计算机网络,其包括170个GPU和1200个标准CPU。大的计算机网络训练了同样的系统并进行了实际对战,还借鉴了训练的结果。 尽管Hassabiss会不断改善系统,但待AlphaGo与韩国选手李世乭对战时,他们会使用相同的配置。比赛中系统也需要网络连接,而且他们会“自己铺设光纤”。 挑战世界冠军比挑战樊麾难得多,但Coulom还是认为DeepMind会赢。他过去数十年一直在开发能打败最好选手的系统,现在他认为这一目标已经实现了,他买GPU会赢。 接下来…… AlphaGo的重要性不言而喻。同样的技术还能用于机器人和科学研究,以及类似于Siri的数字助理和金融系统。深度学习创业Skymind的创始人Chris Nicholson就认为,技术“能用于任何对抗性问题,任何类似于游戏且需要策略的事情,包括战争、商业和交易”。 对有些人来说,这是一件值得忧虑的事,特别是DeepMind的系统还能自己学会下围棋。它不仅能从人类提供的数学中学习,还能生成自己的数据,在与自己下棋中学习。特斯拉创始人埃隆·马斯克等大佬多次声明,这类AI系统会最终超越人类智能,脱离掌控。 幸而DeepMind的系统还在Hassabis等人的控制之下。虽然他们用系统破解了复杂的游戏,但这仍只是个游戏。AlphaGo离人类智能还很远,更不论超级智能了。下棋是一种高度结构化的情景,系统也没有人类级别的理解力。但它代表了一种方向,即如果AI能理解围棋,它也会理解更多事。如果宇宙就是一局超大型的围棋呢? via Wired
Google人工智能
攻破了围棋,然后呢?
雷锋网
study875
39分钟41秒前
Google日前宣布其程序AlphaGo击败了欧洲围棋职业选手,这意味着人工智能技术又或
得了极大的突破。计算机目前已经在许多智力游戏比赛上战胜了人类顶级选手,包括国
际象棋、五子棋、黑白棋、拼字游戏等等。而对于有着2500年历史的东方游戏围棋——
比国际象棋要复杂得多——人类始终能够保持在和计算机对决中的胜利。不过,Google
人工智能专家表示, 这个壁垒或许很快将要被打破。随着AlphaGo在没有任何让子的情
况下以5:0完胜法国围棋职业二段棋手樊麾,AlphaGo将在三月份对战韩国九段棋手李
世乭。
今天早上,《自然》杂志发表了一篇Google DeepMind团队——程序AlphaGo的创造者撰
写的关于深度学习系统的论文。根据论文描述,在AlphaGo中,DeepMind研究员在程序
中录入了大量职业棋手的棋谱——加起来多达3000万步——他们用增强学习的方法训练
AI,让它自己下棋,研习棋谱。不过这只是第一步。理论上,这样的训练只能让这个人
工智能系统无法突破人类的计算。为了获得更好的... 阅读全帖
a****l
发帖数: 8211
3
记得以前上学的时候,老师们提起神经网络的文章都是非常不屑的,似乎当时公认的就
是说神经网络就是一个已经被人用烂了的骗文章的伎俩,基本谁要写些什么水文,就是
套一个神经网络发个什么东西.
现在alphago真的广泛应用神经网络的算法,作出了非常大的成果,那么看来神经网络还
是有些作用的.这么以来我就有点搞不懂了,到底神经网络在工程上有没有用处?还是说
alphago的用法和以前那些水文的用法是不同的?还是说现在的神经网络和以前的不一样?
谁对这方面比较了解的,是不是探讨一下?
a****l
发帖数: 8211
4
记得以前上学的时候,老师们提起神经网络的文章都是非常不屑的,似乎当时公认的就
是说神经网络就是一个已经被人用烂了的骗文章的伎俩,基本谁要写些什么水文,就是
套一个神经网络发个什么东西.
现在alphago真的广泛应用神经网络的算法,作出了非常大的成果,那么看来神经网络还
是有些作用的.这么以来我就有点搞不懂了,到底神经网络在工程上有没有用处?还是说
alphago的用法和以前那些水文的用法是不同的?还是说现在的神经网络和以前的不一样?
谁对这方面比较了解的,是不是探讨一下?
w***f
发帖数: 903
5
神经网络是数学模型。一种神经网络就是一个数学模型。
CS的关键是用来解决问题的。那么神经网络能解决实际问题就是有用的,反之就是没有
用。神经网络起起落落几十年,其实关键就是神经网络能否解决当时的热点问题。
简单说神经网络肯定不是伪科学,毕竟数学基础在那里。有没有用要看具体问题。至于
你那些老师,属于半瓶水晃悠的误人子弟者。

样?
m****s
发帖数: 1481
6
来自主题: Programming版 - 神经网络研究的致命伤
需要那么多层主要是工程问题,理论上已经证明了只需一层的浅网络就可以模拟任何数
学模型,但是实际中没有有效的算法能学出来适合解决问题的模型,所以才用很深的网
络分层学习特征,才能达到解决实际问题的效果。
另外神经网络只是受到人脑的启发,实际上和人脑的工作原理是不是一样根本没有人说
得清,因为人脑是怎么工作的现在还没弄明白,所以说什么真相,都是压根儿没学明白
的,根本没有所谓的真相,只有基于具体问题的performance好不好。
深度学习现在主要两大块,generative和discriminative,也就是无监督和有监督,
CNN只是一种模型,其他还有很多种模型,而且神经网络很多时候也不是单独在用,和
其他机器学习模型结合也是扩展业务的一个大的发展方向。
深度神经网络现在是处于hype之中,但是真正搞这个领域的还是很清楚它的优缺点和接
下来的研究重点的。hinton一直致力于继续研究人脑的机理来改进神经网络模型,其他
一些大牛则不过分拘泥于模拟自然脑,而是利用已经发掘的神经网络的原理另辟蹊径开
发应用,比如lecun的抛弃语法,词,句完全从字母学习语言的应用。在某些课题上确
实进步空... 阅读全帖
m****s
发帖数: 1481
7
来自主题: Programming版 - 神经网络研究的致命伤
需要那么多层主要是工程问题,理论上已经证明了只需一层的浅网络就可以模拟任何数
学模型,但是实际中没有有效的算法能学出来适合解决问题的模型,所以才用很深的网
络分层学习特征,才能达到解决实际问题的效果。
另外神经网络只是受到人脑的启发,实际上和人脑的工作原理是不是一样根本没有人说
得清,因为人脑是怎么工作的现在还没弄明白,所以说什么真相,都是压根儿没学明白
的,根本没有所谓的真相,只有基于具体问题的performance好不好。
深度学习现在主要两大块,generative和discriminative,也就是无监督和有监督,
CNN只是一种模型,其他还有很多种模型,而且神经网络很多时候也不是单独在用,和
其他机器学习模型结合也是扩展业务的一个大的发展方向。
深度神经网络现在是处于hype之中,但是真正搞这个领域的还是很清楚它的优缺点和接
下来的研究重点的。hinton一直致力于继续研究人脑的机理来改进神经网络模型,其他
一些大牛则不过分拘泥于模拟自然脑,而是利用已经发掘的神经网络的原理另辟蹊径开
发应用,比如lecun的抛弃语法,词,句完全从字母学习语言的应用。在某些课题上确
实进步空... 阅读全帖
h***s
发帖数: 1716
8
说说我老的个人体验,作为参考:
(1) 就像上面有人指出的,精确叫“人工”神经网络,所以从科学角度讲,没有任何
确立的事实,证实人脑的神经网络是以流行的算法运作的。所以,这是手艺(art)和
科学(science)大幅度重叠的一门研究课题和工程技术。
(2) 作为一项工程技术,人工神经网络有很广的应用,老黄历的SVM,RBF,SOM等照样
有用,如果用地得当。新黄历的名词,大家都在热播,就不多说了。
(3) 说到新黄历,和BP有关的,有三点提一下:其一,BP深度训练的一个基本理论问
题,通过一些技术手段(比如CNN,RBM/stacking)来绕过,获得显著的实用效果;其
二,这些技术手段中的某些,提供了很多新的理论灌水机会,是好是坏,点赞叫骂,属
于个人爱好,和科学与手艺都无关。其三,这些技术手段给出了人工神经网络研究和应
用的新思路,尤其在无目标自动学习方面。

样?
h*h
发帖数: 27852
9
【 以下文字转载自 Military 讨论区 】
发信人: hsh (三胡), 信区: Military
标 题: zt 作为一个有接触过机器学习和神经网络的学生说一句
发信站: BBS 未名空间站 (Wed Mar 9 21:59:53 2016, 美东)
作为一个有接触过机器学习和神经网络的学生说一句
神经网络 真的能模拟量化棋感
我看直播的时候 狗之前几步“臭棋” 从我逆向分析看来 并不是臭 可能对于人类来说
下那几步棋算臭的 因为不争优势 可对于狗来说 只要开局不崩得一塌糊涂 就是稳赢的
就一开始右上一拖 都说看不懂 我却觉得对于狗来说是定海神针 这大局观说实话几个
九段并不能理解因为他们不了解编程 量化计算 价值网络 还觉得程序没有远见 其实狗
可能这手棋下完了整盘的一半
狗最让我吃惊的是它主动往下一堵墙直接打到底 李必须跟
一开始只是觉得普通的圈地 后来发现狗这堵墙才是真正的关键 刚打下来九段都觉得李
大优势胜20目不止 可这堵墙联通上面定海神针 最后全面威压右方 在占够之后 主动撤
出 补足左上 人类这样一看 胜局已定
为什么李优势角会被占尽便宜而狗的全收
就是因为李... 阅读全帖
f****n
发帖数: 355
10
来自主题: Biology版 - 第十三章 神经网络
第十三章 神经网络
“……我相信,对一个模型的最好的检验是它的设计者能否回答这些问题:‘现在你
知道哪些原本不知道的东西?’以及‘你如何证明它是否是对的?’”
——詹姆斯·鲍尔(James M. Bower)
神经网络是由具有各种相互联系的单元组成的集合。每个单元具有极为简化的神经元
的特性。神经网络常常被用来模拟神经系统中某些部分的行为,生产有用的商业化装置以
及检验脑是如何工作的一般理论。
神经科学家们究竟为什么那么需要理论呢?如果他们能了解单个神经元的确切行为,
他们就有可能预测出具有相互作用的神经元群体的特性。令人遗憾的是,事情并非如此轻
而易举。事实上,单个神经元的行为通常远不那么简单,而且神经元几乎总是以一种复杂
的方式连接在一起。此外,整个系统通常是高度非线性的。线性系统,就其最简单形式而
言,当输入加倍时,它的输出也严格加倍——即输出与输入呈比例关系。①例如,在池塘
的表面,当两股行进中的小湍流彼此相遇时,它们会彼此穿过而互不干扰。为了计算两股
小水波联合产生的效果,人们只需把第一列波与第二列波的效果在空间和时间的每一点上
相加即可。这样
T*****e
发帖数: 247
11
生物千老来请教大神heyes:
你提到Hebbian学习算法。这个正是(生物)神经塑性的一个基础模型。大神能不能简
单展开说两句在人工神经网络上Hebbian学习算法是个什么概念?
生物学中Hebb是个心理学家,但他写了一本牛书,预测神经网络如何建立。有一句后人
总结的名言:『cells that fire together, wire together』。就是说如果有A和B两
个神经细胞连接在一起,且存在A-》B的方向性。如果A细胞放电后,B细胞紧接着也放
电(先后次序和时间间隔非常重要),那么A-》B的连接会增强。反之,如果A放电没有
得到B细胞的响应(放电),那么AB之间的连接会变弱。A或者B放电代表了神经间的信
号,但是这种信号如何被保存下来并且改变整个网络结构(增强或者减弱神经之间的连
接),这是大脑学习和记忆的一个基本问题。Hebb大牛在没有实验的基础上早在1940年
代大胆提出的假设,现在正逐渐被各种验证。
小弟是做生物的,恰巧对神经网络的强弱调控比较感兴趣。看到大神提到Hebb的大名,
希望能被科普几句。
谢谢!
T*****e
发帖数: 247
12
生物千老来请教大神heyes:
你提到Hebbian学习算法。这个正是(生物)神经塑性的一个基础模型。大神能不能简
单展开说两句在人工神经网络上Hebbian学习算法是个什么概念?
生物学中Hebb是个心理学家,但他写了一本牛书,预测神经网络如何建立。有一句后人
总结的名言:『cells that fire together, wire together』。就是说如果有A和B两
个神经细胞连接在一起,且存在A-》B的方向性。如果A细胞放电后,B细胞紧接着也放
电(先后次序和时间间隔非常重要),那么A-》B的连接会增强。反之,如果A放电没有
得到B细胞的响应(放电),那么AB之间的连接会变弱。A或者B放电代表了神经间的信
号,但是这种信号如何被保存下来并且改变整个网络结构(增强或者减弱神经之间的连
接),这是大脑学习和记忆的一个基本问题。Hebb大牛在没有实验的基础上早在1940年
代大胆提出的假设,现在正逐渐被各种验证。
小弟是做生物的,恰巧对神经网络的强弱调控比较感兴趣。看到大神提到Hebb的大名,
希望能被科普几句。
谢谢!
h***s
发帖数: 1716
13
我所知道的,有试验数据、有具体结果的证据是,ImageNet的分类识别竞赛中,最有效
的算法都是基于卷积神经网络(CNN)的。在计算机视觉的很多问题里,基于卷积神经
网络的算法有广泛实用价值。
再比如,2007还是2008年,deep belief nets用到文本特征提取,分类效果远远好过很
多传统的线性特征提取算法。
当然,什么算法都是有局限的,有些常规算法在极其多的实用问题里足够用了,不必、
也不能用神经网络算法。但依据这个,毫无逻辑理由就否定上面问题里,神经网络算的
实用性和优越性。
至于你说,”用其他普通算法的话,只要数据到一定程度,不是照样下棋赢人类的么“
,我不清楚你是否有具体的证据支持这个说法。什么是”普通算法“的定义?至少随便
派脑袋想个heuristic的算法是不可能下好棋的。算法没有绝对高级、低级,能高效实
用、解决问题就是好算法。
S*****P
发帖数: 323
14
美国华裔研究员:成功研制人工神经网络
信源:苹果日报|编辑:2011-07-30| 网址:http://www.popyard.org 抄送朋友|打印保留
【八阕】一个劳动人民群众喜闻乐见的好地方:http://www.popyard.org
【八阕】郑重声明:本则消息未经严格核实,也不代表《八阕》观点。--[服务使用须
知]【八阕】一个劳动人民群众喜闻乐见的好地方:http://www.popyard.org
加州理工学院华裔研究员成功利用脱氧核糖核酸( DNA)分子,製造出全球首个人工神
经网络,更证明浸在试管液体中的神经网络有思考能力,懂得正确回答问题,令电影里
的人工智能或会成真。
钱璐璐利用 112条 DNA片段,组成四个可以互动的人工神经元(而人类大脑拥有 1,000
亿个神经元),并「训练」四个神经元「认识」四名科学家,方法是输入他们的简单资
料,如某人是否英国人等等,然后向人工神经元发问,要它回答是或否, 27条问题全
部答对。
钱璐璐说︰「这个实验让我们得悉事情发展的模式︰形成记忆、做决定、然后採取行动
。我们要问,除了实质上相互连接、由神经细胞组成的... 阅读全帖
h*h
发帖数: 27852
15
作为一个有接触过机器学习和神经网络的学生说一句
神经网络 真的能模拟量化棋感
我看直播的时候 狗之前几步“臭棋” 从我逆向分析看来 并不是臭 可能对于人类来说
下那几步棋算臭的 因为不争优势 可对于狗来说 只要开局不崩得一塌糊涂 就是稳赢的
就一开始右上一拖 都说看不懂 我却觉得对于狗来说是定海神针 这大局观说实话几个
九段并不能理解因为他们不了解编程 量化计算 价值网络 还觉得程序没有远见 其实狗
可能这手棋下完了整盘的一半
狗最让我吃惊的是它主动往下一堵墙直接打到底 李必须跟
一开始只是觉得普通的圈地 后来发现狗这堵墙才是真正的关键 刚打下来九段都觉得李
大优势胜20目不止 可这堵墙联通上面定海神针 最后全面威压右方 在占够之后 主动撤
出 补足左上 人类这样一看 胜局已定
为什么李优势角会被占尽便宜而狗的全收
就是因为李不明智的跟狗对摆中盘 中盘任何一步不完美的棋都会导致一个黑先角被蚕
食 狗抓住一个机会 目标已经设定为 (右角做活 右边捞几目 在黑棋匆忙应付时 见好
就收补足左上全捞)而那时墙都没打完 在人类看来还在中盘 其实狗已经下完了
现在看来 如果人类要赢狗 必须做到下面... 阅读全帖
d*****u
发帖数: 17243
16
神经网络学习是利用一些神经元来做拟合
所谓训练就是根据正确和错误的判断来调整神经元之间的连接强度(weights)
中医理论还是symbolic的,rule-based
这个跟神经网络有本质不同
s*****V
发帖数: 21731
17
https://www.jiqizhixin.com/articles/2015-09-02-4
模拟神经网络的原创文章发表于1943年,两位作者都是传奇人物,麦卡洛可(
McCulloch)和皮茨(Pitts)。话分两头。皮茨打小就喜欢数学和哲学,初中时还读过
罗素的《数学原理》,还和罗素通信,罗素爱才,邀请他到英国跟随自己学习逻辑。但
皮茨家里是苦出身,连高中都读不起,英国留学自然未果。他十五岁时,他爸强行要他
退学上班,就像所有爱读书的穷孩子,皮茨一怒就离家出走了。
他打听到偶像罗素那时要到芝加哥大学任教,就只身来到芝加哥,还真见到了罗素,老
罗遂把他推荐给那时也在芝加哥任教的卡尔纳普。 卡尔纳普想看看这孩子到底有多聪
明,就把自己的《语言的逻辑句法》一书送给皮茨,没过一个月,皮茨就看完了,把写
满笔记的原书还给卡尔纳普。
老卡惊为天人,于是给他在芝加哥大学安排了份打扫卫生的工作。别看不起打扫卫生,
电影《心灵捕手》(Good Will Hunting)里马特·达蒙饰演的角色也是在知名大学打
扫卫生时,不小心解了道数学难题,引起老师的注意。扫马路至少可避免流浪街头。
皮茨后来结识... 阅读全帖
H********g
发帖数: 43926
18
【 以下文字转载自 Military 讨论区 】
发信人: gc01 (gc01), 信区: Military
标 题: 马化腾:去年打掉用AI神经网络犯罪团伙,国内网络犯罪水平“领先”zt
发信站: BBS 未名空间站 (Sun Jan 14 00:04:24 2018, 美东)
马化腾:去年打掉用AI犯罪团伙,国内网络犯罪水平“领先”
澎湃新闻记者 杨鑫倢 实习生 安琪
2018-01-14 11:46 来源:澎湃新闻
字号
1月14日,公安部、最高人民法院、最高人民检察院、工业和信息化部、中国人民银行
、中国银联、顺丰控股股份有限公司、中国联通集团加入腾讯守护者计划。
1月14日,腾讯董事会主席兼首席执行官马化腾在“2018守护者计划大会”表示,新型
网络犯罪正在升级迭代,日益呈现出产业化、智能化、国际化等新特点。“可以说,国
内的犯罪团伙已处于全球领先水平。他们利用AI人工智能、神经网络破解网络登录验证
码的技术,AI技术加快了他们从企业数据库中窃取用户数据的速度。”
当天,主题为“开放共享 携手共治”的2018年守护者计划大会将在北京举行。公安部
、最高人民法院、最高人民检... 阅读全帖
c*****w
发帖数: 50
19
来自主题: Programming版 - 神经网络研究的致命伤
convolution enables weight sharing。否则干嘛用convolution,直接上full
connection不久好了。convolution限制了神经网络的结构,减少了参数数量,减少了
overfitting的可能。实际上神经网络最大的问题之一就是overfitting,说明网络结构
还不是最优。
c*****w
发帖数: 50
20
来自主题: Programming版 - 神经网络研究的致命伤
convolution enables weight sharing。否则干嘛用convolution,直接上full
connection不久好了。convolution限制了神经网络的结构,减少了参数数量,减少了
overfitting的可能。实际上神经网络最大的问题之一就是overfitting,说明网络结构
还不是最优。
c*******v
发帖数: 2599
21
来自主题: Programming版 - [bssd] 广义相对论=>神经网络几何化?
(1)
我的意思不是视觉那种应用。
视觉那种应用:
例如识别数字0,那么这个图旋转不论多少角度,都是一个洞。
然后你发现分辨率不够,加点权值,包装成黎曼几何的垃圾论文。
只要你不用x1××2+x2××2,而是用别的正定二次型,你都能
说自己是黎曼几何。
(2)
我的意思是,现在多维数组都是随便用的。
但是物理和几何中的张量,有别的附加要求。
assuming未来发现,对一类问题A,有用的神经网络必须是遵从
某个性质B。不管你是什么描述的神经网,都要遵从这个性质。
那就是神经网络几何化了。这个性质是坐标free的。那么(A,B)就是几何
例如,deep就是一个几何化的性质。坐标free的。
不管谁家的做视觉ANN,首要足够deep。
那有没有别的性质呢?有没有办法发现别的几何性质呢?
这个东西就是做题容易,出题难。黎曼当初的论文提出了
几个性质,让大家遵守,说这几条就是几何。
所以开创了黎曼几何。他没有具体workout别的东西。

发帖数: 1
22
来自主题: Programming版 - 神经网络的开窍现象

我没有说神经网络没用,只是现在没人知道它为什么有用,只是猜猜,试试,然后给个
拓铺网络,这就是一篇文章了。神经元本身就是个非线性函数,神经网络可以逼近任何
非线性系统,当然可以建模。但我不知道它什么时候进入饱和状态,什么时候不可激励
,一个黑箱而已。这和中医没什么区别。
s***n
发帖数: 678
23
传说九十年代时候不太火了。近十年又火起来主要是大规模并行计算起来了,可以用比
较大的神经网络了。最近就有了这个炒起来的概念deep learning, Google这个网络有
13层好像,每层25个神经元。
工程控制流程应该用处不大。一般的流程优化或者anomaly detection大概比较有用。
神经网络是个黑箱,我的理解就是它是一个高维极其复杂非线性的函数拟合,应用在那
些你搞不懂预测目标和input之间有什么关系的问题上比较有效,比如图像识别。

样?
c****y
发帖数: 11
24
06年之前基本是伪科学,只能做到4~5层,不直观,难以控制。06年,现在
deeplearning开始出现了,搞出了更多层的神经网络,可以训练出复杂模型,超越了其
他算法,也估计也可以超越人类大脑了。
alphago里面有两个12还是13层的神经网络。

样?
e***y
发帖数: 4307
25
神经网络要做到能模拟人脑必须要先弄清人脑思维的机制,现在的神经网络还是基于神
经科学的研究的。所以大家还是不要看不起千老啊。
T*****e
发帖数: 247
26
需要时间消化各位的回复。
“思考的高级智能”这个在科学上其实并不容易准确的定义。猩猩能思考吗?我认为可
以。老鼠能思考吗?你可能会打个问号。我问你你认为一只蛆能思考吗?你可能觉得我
在胡扯。但事实是,蛆确实可以思考。它走的每一步都是神经计算的结果,不断的分析
大量的数据,对比左右两侧不同的温度,气味,光线强度等,做出抉择。这有很多研究
了,我也不细说。这就涉及到摄取信号,分析信号作出决定和释放信号(产生相应行为
)几个过程了。人在摄取信号时并不是全能的,其他生物能获得比人类更多的信号,比
如蝙蝠的超声波,比如响尾蛇的红外线。但是我们大概可以认为,人的大脑的复杂程度
可能是所有已知物种中最高的,所以可能分析计算能力有若干数量级的差别。
于是这就过渡到另外一个观点:生物体的神经计算能力的强大在于神经回路大规模的并
行计算从而忍耐高背景噪音,使得不那么精确和敏感的信号能被精确的分析并快速产生
结果控制复杂的行为。那么高度复杂的人类大脑是不是计算能力最强呢?这可能就是所
谓的高级智能。
引申一点:我很有兴趣知道一下你说的普通算法是否在真实的生物神经计算中存在。它
和神经网络之间的关系是什么?
... 阅读全帖
s**********a
发帖数: 1853
27
前阵子不是说神经网络没前途了么?
看最近这形势,难道会有大事情要发生了?
a******9
发帖数: 20431
28
来自主题: Military版 - 版上谁写过神经网络?
到底啥是神经网络?
是用来做预测和分类的的ANN那玩意么?
B*Q
发帖数: 25729
29
来自主题: Military版 - 版上谁写过神经网络?
神经网络跟相机有啥必然联系?
c****t
发帖数: 5452
30
来自主题: Military版 - 版上谁写过神经网络?
你要这么比的话,你的rbf也很猥琐,kernel的一种而已, 这样说来所有非仿生的都很猥
琐,spiking neural network才是真正的神经网络
d*********u
发帖数: 2952
31
来自主题: Military版 - 神经网络,修厕所
本质都是一样的
相信我
我即修过厕所又写过神经网络。
就是个工具而已。
别提啥智能就好。
f**o
发帖数: 12685
32
来自主题: Military版 - 搭卷积神经网络看似是技术活呀
有什么创新吗?
神经网络和卷积都是几十几百年前的
C**********e
发帖数: 23303
33
哥不太懂中医理论
但是目前最火的深度学习人工神经网络就和中医理论很相似
能用 好用 但是对原理搞不清
最佳学习效果和特性不稳定也无法通过数学完全推导
这些都符合中医理论
未来的大趋势肯定是先挖掘中草药 中医理论太玄了
估计以后得靠计算机来学习完成

发帖数: 1
34
大脑神经网络是通信的,还是计算的,千老都不知道。连神经元里面信号怎么编码都不
知道。
很多码农确实素质很低,只知道如何吹牛。

发帖数: 1
35
【 以下文字转载自 Programming 讨论区 】
发信人: Caravel (克拉维尔), 信区: Programming
标 题: 生物学家测绘了线虫的全部神经网络链接
发信站: BBS 未名空间站 (Wed Jul 10 20:18:29 2019, 美东)
https://zhuanlan.zhihu.com/p/72157690
线虫只有1000个细胞,大约三分之一是神经细胞,他们之间的7000个链接被完全绘出。
可以分辨出男女线虫的区别,为什么不把这种简单系统研究清楚
x**8
发帖数: 1939
36
他的水平不是可以无限成长的,
多少年前搞过神经网络,
对不同的问题,要设计不同的网络结构,
网络学习也有好多参数要调整,
所以,这个alphaGo的棋力会有个极限,到了某个程度就会受限于他的网络结构的能力,
O**l
发帖数: 12923
37
你知道cnn吗
而且主要还是Mct 不要任何domain knowledge
Mct 9x9 早就无敌
19*19 state space太大 单纯Mct没发converge
Train 一个cnn prune一下 把每步 branch factor降到9*9的级别
然后Mct暴力求最优解
基本就是神了 李世石估计最多赢一盘 很有可能0:5
最后直接崩溃
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
O**l
发帖数: 12923
38
引征 这些都是heuristic knowledge
Mct 之前 就能排除 这都是多少年前的技术了
不要拿人的思维来看
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
O**l
发帖数: 12923
39
你做过几个naive nn
这种30年前的玩意
连auto encoder soft max 是啥估计都不知道 瞎鸡吧扯什么
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
O**l
发帖数: 12923
40
最搞笑的是 还有人说5盘棋质量不高 所以水平不高
Mct核心是选最大Ucb值
也就是赢半目99% Ucb 和屠龙98%Ucb
机器一定选前者 走的会非常缓
你越弱 他越像在下指导棋
那五盘棋根本看不出来alpha 狗的实力上限
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
O**l
发帖数: 12923
41
uCB 值就是对手犯错和自己犯错概率比值
Mct在落后的时候会下的非常aggressive
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
O**l
发帖数: 12923
42
ucb 值采集的montecarlo simulation结果只考虑输赢
根本不考虑赢多少只有0-1两个值
赢半目和赢100目 机器看起来都一样
Ucb值看重的是得到1的概率
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
O**l
发帖数: 12923
43
说老实话 goog 这玩意没啥新东西
这思路很多人提出过 只不过执行力不如他家强而已
最重要的mct和CNN 没有一个是Goog 搞出来的
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
w**a
发帖数: 3510
44
有见地!这些年的棋杀的激烈,都是在赌在短时间里谁不到,错进错出。这下好了,电
脑一来,都给我老老实实算吧,看不清楚蒙不过电脑,尤其是所谓的僵尸流,茅坑流,
在电脑前不堪一击。
[在 xy18 (家琪) 的大作中提到:]
:他的水平不是可以无限成长的,
:多少年前搞过神经网络,
:...........
w***g
发帖数: 5958
45
基本上就等于是放弃探索自然真理了。
神经网络其实是个仿生学,网络里传递的信号有什么意义其实谁都不清楚。
n******r
发帖数: 4455
46
来自主题: Go版 - 同样是神经网络
神经网络国内用的很多啊,特别图像方面
deep network热起来是这几年的事了
a****l
发帖数: 8211
47
本来不想回复的,不过看到另一篇文章抱怨这里的楼主不吭声对回复没有反应,就觉得不
好意思不写点什么了.
**********************************************************
**************下面高能负能量预警,不喜莫看*****************
其实这个问题我在别的版同时发过了,有很多的人热烈的讨论,而且提出了很多技术上很
有意义的见解,基本上回答了原文中所有的问题.
这里呢,快一个月了没有一个回复,好不容易有个回复,居然还是这么不着边际空洞无物
的车轱辘话."神经网络是数学模型"这么基础的101好歹我们也是看过文献的会不知道吗
?"能解决实际问题就是有用的"这谁不知道?可是问得关键是为什么以前的就不解决实际
问题."有数学基础"就"不是伪科学"了?拜托,大家都是混过学术界的,数学是灌水机器制
造伪科学最喜欢的工具这种小秘密大家也都是知道的."有没有用要看具体问题"等于是
废话,正确的解决一个问题自然需要正确的方法,这谁不知道?关键是要知道什么方法适
合于什么问题,这才是一个工程师值钱的地方.至于老师嘛,去理解以前的学者... 阅读全帖

发帖数: 1
48
比如NLP的language model, 用神经网络训练出来的model就很好用,可以用在语音识别
和机器翻译上面。比如youtube的自动字幕就靠这个。
还有自动驾驶的各种图像识别,也是靠这个。
工程方面的应用实在是太多了,下围棋仅仅是一个比较赚眼球的应用而已。

样?
x****u
发帖数: 44466
49
你老师说的没错。神经网络过去就是loser的同义词,以至于不改名叫dl文章都发不了
。三巨头在10年前也是被人耻笑的对象。这是当时学术界主流偏见。
主要原因还是人类对此的数学认识不够。现在的数学只能对一个隐藏层的网络做定性分
析,但从生物角度看只有5-10层的结构才是最自然的。
但现在风水完全反过来了,很多人CS机器学习phd毕业,2年博后14年出来找工作,惊奇
的发现苦学多年的ml工具被dl吊打,直接进入职业危机了。

样?
l******n
发帖数: 9344
50
来自主题: Programming版 - 神经网络研究的致命伤
wdong,干脆搞个神经网络的编程培训班,在中国肯定是高端大气的,市场大大的,将来
进BAT或者来去其他地方肯定有帮助。感觉比给人写code干事还靠谱点
何如?
1 2 3 4 5 6 7 8 9 10 下页 末页 (共10页)