o*******k
发帖数: 562 | 1 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
将永远不能在围棋上战胜人类。其实相比于国际象棋来说，围棋软件的能力落后问题不
仅仅由围棋的搜索复杂度来决定。在当时的西方世界，国际象棋的普及程度很高，人们
对国际象棋的理解也比较深，所以在计算机上可以采用比较高效率的编程。而围棋在全
世界也只有中日韩三国在玩。懂围棋的人计算机基础比较浅，而欧美等计算机大国对围
棋也并无深刻了解。所以围棋在计算机系统的实现效率不高。我本人对于google的围棋
系统编程也没有什么内幕了解，听说应用了什么machine leaning的技术，也能看到大
量华人开发者的名字。让具有围棋思维的人来开发围棋软件，并且适当地采用新技术，
再加上当前硬件能力量级上的提高，使得google围棋出现了战胜人类的苗头。最近几年
还有一个关于人工智能的话题，就是机器究竟能不能战胜人类，成为人类生存的威胁。
时常可以在网上看到这方面的新闻，什么霍金或者比尔盖茨，马斯克等大佬带领100多
名科学家，来警告人类来自于机器的威胁。这种机器威胁论来自于一个基本观点，就是
技术大爆炸。纵观人类的技术发展史，这确实是一个趋势，就是人类的技术进步是指数
性的。好像很多网上或者微博里的观点说，技术的拐点将出现在2040左右，也就是说再
过24年左右机器的智力就要达到和人类持平。按照指数发展论，机器的智能水平超出人
类的10倍或百倍就会在更短的10年或者几年之内实现。如果是这样的话，那么将来人类
真的会置身于机器的巨大的威胁之下。特别是因为机器本身逻辑缜密，没有情感波动，
基本永远不会犯错。就像机器和人类下棋，如果棋力相当，机器只要静静的等待人类犯
错就好了。而由于人类的感性特征，出差错几乎是必然的，那么机器就会战胜人类。然
而，人类真的有这么悲观吗？人工智能在能看见的将来会战胜人类或多人类生存造成威
胁吗？
我个人以为，即使在今年的3月份google的围棋程序战胜了李世石，也并不代表人工智
能有什么革命性的发展。我们讨论一个事物的存在对人类造成威胁的时候，是缺省的把
对方看成了一个独立的个体。如果你说坏人会利用机器来造成对人类的威胁，我承认有
这种情况发生的可能性，但是我不会把这种威胁归结于机器本身。就像原子弹会毁灭人
类，但是人们从来没有把原子弹于人工智能等同。在人们讨论人工智能对人类的威胁的
时候，我认为人们的语境是把人工智能作为有主观能动性的个体，也就是认为人工智能
可能具有主观灭绝人类的意识或愿望。要实现这一点，机器必须具有区分自我和外界的
能力，也就是机器本身必须具有个体意识 (self-consciousness)。人类具有意识是人
们普遍认为的人区别于动物的最主要因素。这甚至是很多宗教的建立基础。关于人类意
识的起源的研究，以人类当前科技的发展水平及观念，基本还没有窥得门径，而更像一
种玄学研究。人们可以通过编程来让机器模拟人类的任何动作习性等等，但是那只不过
是人类的意识过机器的体现，并没有赋予机器任何于人类在本质上的接近。即使某一天
机器的计算能力是现在的无穷多倍，那也不过是人类逻辑的反应。在人类能够弄清自己
的意识的本质以前，人类制造的工具只能是人的工具，而不可能造成对人类本质上的威
胁。我不认为人类在能够弄清自己的意识的本质以前造出的工具会奇迹地产生了自主意
识。当然还是如前所述，如果人使用工具对人类的生存造成威胁，那终究还是人类自己
的问题，而不是工具的问题。
在人类对外界事物的交互中，人们往往认为感性是一个负面因素，比如在与机器的棋类
对战中，情绪波动会造成很大的劣势。我估计会有很多人认为，严密的逻辑与理性的思
考是人们所应该追求的，也是人们智慧的源泉。但是真相与此相反。如果与机器对比逻
辑和理性，那么人类一定会败北，因为机器本身就是人类的逻辑设计的冷酷体现。而事
实是人类的感性恰恰是人类最大的优势而不是劣势。人类尝试用逻辑来认识世界，并且
在相当长的一段时间内是唯一的认识世界的手段。在这方面古希腊的哲学最具代表性。
然而事实我们也能看到，尽管古希腊人逻辑思辨能力非常强，但是他们并没有得到认识
自然的真正的知识。人类近代的科技大爆发是建立在科学基础上，而科学的基础并不是
逻辑，而是实验。实验是对事实的采集，而且人类的直觉是知识获取的终极手段。逻辑
的本质是演绎，而科学是对现象的归纳。由于人类的能力所限，人类对于现象的归纳必
定是有限归纳。而对于有限归纳结果的接受则来自于人类的直觉。比如对于支撑了近
300年来工业革命的牛顿力学的基础，就是譬如能量守恒和动量守恒等等一系列的定律
。人们从来不能肯定这些定律一定是正确的，在有限的观察范围内人们只能靠直觉来接
受它。在物理上，来自于归纳的事物运行的规律叫做定律，而从定律出发演绎出的一系
列结果叫做定理。如果定律是错误的，既使逻辑是多么的严密，推理得到的知识也一定
是错误的。哲学及数学中可以做一系列的公设，然后从演绎得到一个严密的逻辑体系。
这些逻辑体系都可以自圆其说，然而它们可以和科学毫无关系。因为公设的正确性与否
是不能被证明的，他们可以来源于人类的直觉，也可以是其他来源。只有在等人类发现
了（相对）真理之后逻辑才可以起作用。既是逻辑本身也可能存在问题。1930年代年哥
德尔的不完备性定理说明，一个形式体系的完备性及相容性并不能被本身证明。人类依
靠逻辑本身来认识世界是不可能的。所以科学的进步，知识的获得，必须要依靠人类的
直觉参与才能实现。而机器只是一个逻辑体，所以它本身并不能获得除人类输入之外的
新知识。如果按照获取知识，或者获取真理的能力做为标准来衡量智能的话，机器会有
可能超出人类吗？
当然我当前的一切观点都是建立在人类当前没有能力能造出具有人类同等意识和同等感
性直觉的机器的基础上。如果某一天人们能够解开意识的本质，并且发现意识本身是物
质层面上的，并且有能力能够在机器上去实现，那么到那时我将会认为机器会对人类造
成真正的生存威胁。然而我认为那一天还非常遥远，并且有可能永远无法实现。 |
h*********g
发帖数: 1812 | |
h*********g
发帖数: 1812 | |
v*******e
发帖数: 11604 | |
h*********g
发帖数: 1812 | |
o*******k
发帖数: 562 | 6 你是内行吗？来扯扯？
【在 v*******e 的大作中提到】
: 写得再多，也改变不了外行瞎扯鸡巴蛋的事实。
|
s******t
发帖数: 1956 | 7 你说得太啰嗦了。主要观点大概就是机器不会有意识。
那你说恐龙有意识吗？该有吧。可惜灭绝了，为何？智力不够。
当机器的智力胜过人类时，有意识没意识都不会影响机器灭了人的可能。
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
y******e
发帖数: 5906 | |
r****r
发帖数: 439 | 9 虽然我同意你结论，但恐龙这例子不好吧。它们被灭了不是因为笨，而是倒霉。大陨石
给咱们来一下，一样完蛋。
【在 s******t 的大作中提到】
: 你说得太啰嗦了。主要观点大概就是机器不会有意识。
: 那你说恐龙有意识吗？该有吧。可惜灭绝了，为何？智力不够。
: 当机器的智力胜过人类时，有意识没意识都不会影响机器灭了人的可能。
:
: 0
|
a*******t
发帖数: 11 | 10 写得不错。收藏了，改天发在我的公众号上。
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
|
|
i******0
发帖数: 609 | 11 这篇是哥看到的第一个有干货的。哥德尔不完备性是症结所在。很奇怪象霍金这样绝顶
聪明的科学家也在媒体的鼓动下搞这种所谓ai毁灭人类的噱头话题。 |
v*******e
发帖数: 11604 | 12
恐龙灭绝根本不是因为大陨石。各种各样恐龙，在几千万年里面先后灭绝，都算在大陨
石头上？根本原因是进化出了更先进的动物：哺乳动物，大型恐龙竞争不过才灭绝的。
小型的还在，各种蜥蜴。
【在 r****r 的大作中提到】
: 虽然我同意你结论，但恐龙这例子不好吧。它们被灭了不是因为笨，而是倒霉。大陨石
: 给咱们来一下，一样完蛋。
|
b*******8
发帖数: 37364 | 13 恐龙被陨石灭恰恰是因为恐龙太聪明了，发展了高度文明，威胁到外星人，招来星际战
争。 |
x******r
发帖数: 3489 | |
P******o
发帖数: 505 | |
z***t
发帖数: 2261 | 16 上帝对人类失望，才搞人工智能，只有逻辑，没有欲望，没有感情，不用结婚，没有出
轨，没有生命，没有死亡，绝对的与宇宙相匹配，上帝用人工智能，比用亚当夏娃的子
孙放心。 |
s******t
发帖数: 1956 | 17 恐龙的种类很多呀，而且是地球霸主，为何都死光光了？这其实还是个谜。
但不论如何说，其他动物幸存下来了，所以不能用恐龙倒霉做解释。
【在 r****r 的大作中提到】
: 虽然我同意你结论，但恐龙这例子不好吧。它们被灭了不是因为笨，而是倒霉。大陨石
: 给咱们来一下，一样完蛋。
|
z****e
发帖数: 54598 | 18 人工智能未必是扯蛋
但是说搞ai的一定能赚钱
那这个肯定是扯蛋
索南不少都是搞学术出身的
这些骗funding的伎俩应该能够识破
其实不少人都在忽悠
只不过索南忽悠的是数学
一般人忽悠的是语文罢了 |
c****3
发帖数: 10787 | 19 人工智能就是chinatown洗碗的都能看出里面如何扯淡。
现在人工智能，机器对处理内容一个字也不理解。
机器不知道自己在干啥，没法理解字里行间的意思，完全靠统计猜。
所以机器不能猜没有见过的谜语，就算6岁小孩都会，还有很多事情都不能做。
因为机器不能理解自己在干啥，所以一直都是白痴的状态，就算能赢世界冠军，还是不
知道自己在干啥 |
c*l
发帖数: 1433 | 20 人智的威胁不是瞎扯。将来大量的决策一定是基于大数据分析的人智系统。当机器可以
自我学习，而且学的比人类还快，那这个系统就会变得人类也无法预测。所以即便机器
没有自我意识，也会造成意想不到的后果。比如华尔街大量采取机器交易，用算法计算
买卖，已经造成几次市场瞬间暴跌。当机器控制了越来越多的决策，这类事情会越来越
多，后果可能会很严重，而由于系统的复杂性，事先是无法预测和防范的，就像人类给
自己制造了类似地震等灾害。这是为什么威胁是真实存在的。 |
|
|
c****3
发帖数: 10787 | 21 那是自己傻，非要搞个白痴做重要决策。就算白痴数学题做的再好，象棋下的再好，也
是白痴
【在 c*l 的大作中提到】
: 人智的威胁不是瞎扯。将来大量的决策一定是基于大数据分析的人智系统。当机器可以
: 自我学习，而且学的比人类还快，那这个系统就会变得人类也无法预测。所以即便机器
: 没有自我意识，也会造成意想不到的后果。比如华尔街大量采取机器交易，用算法计算
: 买卖，已经造成几次市场瞬间暴跌。当机器控制了越来越多的决策，这类事情会越来越
: 多，后果可能会很严重，而由于系统的复杂性，事先是无法预测和防范的，就像人类给
: 自己制造了类似地震等灾害。这是为什么威胁是真实存在的。
|
c*l
发帖数: 1433 | 22 有个数学家西门丝，搞的就是机器交易，完全机器决策，不带人工干预，白手起家，身
家140亿美金。他傻吗？文明就是这么发展的，你一旦尝到甜头是止不住的。好比人类
知道了种稻子比采摘有保障，可从此就得起早贪黑伺候庄稼了，在非洲原始人看来不是
傻吗？但事实上是谁傻呢？
【在 c****3 的大作中提到】
: 那是自己傻，非要搞个白痴做重要决策。就算白痴数学题做的再好，象棋下的再好，也
: 是白痴
|
c****3
发帖数: 10787 | 23 自己机器发疯，把股票全抛了，只要不违法没人管你。违法了也不能以机器发疯做借口
，本人要去坐牢
市场监管的要有政策控制市场波动。
【在 c*l 的大作中提到】
: 有个数学家西门丝，搞的就是机器交易，完全机器决策，不带人工干预，白手起家，身
: 家140亿美金。他傻吗？文明就是这么发展的，你一旦尝到甜头是止不住的。好比人类
: 知道了种稻子比采摘有保障，可从此就得起早贪黑伺候庄稼了，在非洲原始人看来不是
: 傻吗？但事实上是谁傻呢？
|
c*****t
发帖数: 10738 | 24 观点没什么问题，就是太罗嗦。标题也是扯淡，人工智能没有自己的意识并不等于没有
前途。人工智能作为一种工具，对于提高生产力来说是大大有前途的。
看了这么多关于人工智能的讨论，感觉都是外行居多。首先要明确， 传统意义的程序
，AI, 和真正意义上的智能,是三个有本质区别的，不同层次的东西。
传统意义的程序，程序员第一要告诉程序做什么，第二要告诉程序怎么做，每一个步骤
都必须很明确，编程语言就是干这个用的。
而所谓的人工智能AI，理论上程序员只需要告诉程序做什么解决什么问题，程序自己可
以通过学习的方式找到解决问题的方式。所以Alphago的程序员，很大可能是臭棋篓子
，他只是告诉Alphago去赢棋，至于走哪一步才可以赢，程序员自己也不知道。当然现
在的人工智能还在萌芽阶段，机器学习的过程还是有大量的人工的干预，但是随着技术
的下一步发展，特别是DL和NLP上的进一步突破，机器可以接受自然语言的指令，独立
完成更复杂的任务，是可以期待的。
最后一个层次，就是真正的智能，也就是真正的自我意识free will。到达这个程度，
机器必须自己找到自己的任务，自己的purpose，而不是听从人类的指令。从目前看来
，这还是完全不可能的。 |
c****3
发帖数: 10787 | 25 这个说的比较客观。
可惜你的同行看问题没那么客观，不知道是被洗脑了，还是准备大吹特吹，股票上捞一
票跑路
【在 c*****t 的大作中提到】
: 观点没什么问题，就是太罗嗦。标题也是扯淡，人工智能没有自己的意识并不等于没有
: 前途。人工智能作为一种工具，对于提高生产力来说是大大有前途的。
: 看了这么多关于人工智能的讨论，感觉都是外行居多。首先要明确， 传统意义的程序
: ，AI, 和真正意义上的智能,是三个有本质区别的，不同层次的东西。
: 传统意义的程序，程序员第一要告诉程序做什么，第二要告诉程序怎么做，每一个步骤
: 都必须很明确，编程语言就是干这个用的。
: 而所谓的人工智能AI，理论上程序员只需要告诉程序做什么解决什么问题，程序自己可
: 以通过学习的方式找到解决问题的方式。所以Alphago的程序员，很大可能是臭棋篓子
: ，他只是告诉Alphago去赢棋，至于走哪一步才可以赢，程序员自己也不知道。当然现
: 在的人工智能还在萌芽阶段，机器学习的过程还是有大量的人工的干预，但是随着技术
|
z****t
发帖数: 1090 | 26 顶一下。 我也想回复这么一段的。
以后什么都是数据，AI的能力会越来越强。 第三阶段目前很难突破，因为可能是当前
数学和统计模型的天花板。 但说不定那天就突破了，比如我上次听了一个演讲，叫
人工机器，是基于生物体的。当然现在还在器皿的阶段。
【在 c*****t 的大作中提到】
: 观点没什么问题，就是太罗嗦。标题也是扯淡，人工智能没有自己的意识并不等于没有
: 前途。人工智能作为一种工具，对于提高生产力来说是大大有前途的。
: 看了这么多关于人工智能的讨论，感觉都是外行居多。首先要明确， 传统意义的程序
: ，AI, 和真正意义上的智能,是三个有本质区别的，不同层次的东西。
: 传统意义的程序，程序员第一要告诉程序做什么，第二要告诉程序怎么做，每一个步骤
: 都必须很明确，编程语言就是干这个用的。
: 而所谓的人工智能AI，理论上程序员只需要告诉程序做什么解决什么问题，程序自己可
: 以通过学习的方式找到解决问题的方式。所以Alphago的程序员，很大可能是臭棋篓子
: ，他只是告诉Alphago去赢棋，至于走哪一步才可以赢，程序员自己也不知道。当然现
: 在的人工智能还在萌芽阶段，机器学习的过程还是有大量的人工的干预，但是随着技术
|
e******e
发帖数: 266 | 27 死亡是个好东西，人类没有死亡，早就灭绝了。
只有死亡才有新生，只有生死才有生生不息。
看过，Ex Machina 么？欲望没什么不好，性别没什么不好，结不结婚无所谓，出不出
轨更不在有关人类命运的讨论范围。
【在 z***t 的大作中提到】
: 上帝对人类失望，才搞人工智能，只有逻辑，没有欲望，没有感情，不用结婚，没有出
: 轨，没有生命，没有死亡，绝对的与宇宙相匹配，上帝用人工智能，比用亚当夏娃的子
: 孙放心。
|
i*******d
发帖数: 1430 | 28 跟你交流真的很困难啊，你提的情况不恰恰说明机器发疯人要遭殃吗？你怎么知道机器
有一天不会主动制造这样的事故？
【在 c****3 的大作中提到】
: 自己机器发疯，把股票全抛了，只要不违法没人管你。违法了也不能以机器发疯做借口
: ，本人要去坐牢
: 市场监管的要有政策控制市场波动。
|
c****3
发帖数: 10787 | 29 我前面说了，让机器做重要决策，是做这个决定的人傻。
机器发疯造成严重后果，显然做这个决定的人要负责，因为他不能控制风险，不能正确
评估先有人工智能技术达到的可控性
换句话说，比如无人车，我怎么知道它不会发疯去撞行人。你测试可以，想要商用，交
管部门评估技术可控性，就不应该让它上路。如果交管部门让它上路，出现这种情况，
厂家要赔死，交管部门也要负责。
机器不做重要决策，随便它发疯。
【在 i*******d 的大作中提到】
: 跟你交流真的很困难啊，你提的情况不恰恰说明机器发疯人要遭殃吗？你怎么知道机器
: 有一天不会主动制造这样的事故？
|
b*******8
发帖数: 37364 | 30 基础物理不突破，只搞这些应用，就跟三体里写的一样，看着天花乱坠，自以为天下无
敌，碰上个宇宙里的三脚猫三体文明，都要傻眼。 |
|
|
o*******k
发帖数: 562 | 31 本来就来自于我的博客。欢迎参观转载。
http://blog.sina.com.cn/s/articlelist_5835036270_0_1.html
【在 a*******t 的大作中提到】
: 写得不错。收藏了，改天发在我的公众号上。
:
: 0
|
a*******a
发帖数: 451 | 32 虽然意识的本质不是物质层面的，但不代表不能在机器上实现/表达意识，需要的只是
“契机”，当有能够接纳意识/自我/灵魂的“容器”时，包括机械体在内的一切，理论
上都可以“活起来”
原理简而言之就是高维意识世界向低维物质世界投影时，需要一个媒质，例如人类心脏
的心轮，就是诸位灵魂的居所，从你胚胎态第一次心跳，到咽气的最后一个搏动，在短
短数载中寄居在你以为是“真实”的你的肉体载具中，“have fun”
所以泛谈诸位现在所处的三维物质宇宙中的“生命形式”，答案近乎是无限的，而这个
“大设计”背后的意义只在于，你将通过这无限形式的“have fun”，来让你本源的高
维意识，或有所得
that my friend，is the ultimate meaning of life...
42 XD
当然我当前的一切观点都是建立在人类当前没有能力能造出具有人类同等意识和同等感
性直觉的机器的基础上。如果某一天人们能够解开意识的本质，并且发现意识本身是物
质层面上的，并且有能力能够在机器上去实现，那么到那时我将会认为机器会对人类造
成真正的生存威胁。然而我认为那一天还非常遥远，并且有可能永远无法实现。
【在 o*******k 的大作中提到】
: 本来就来自于我的博客。欢迎参观转载。
: http://blog.sina.com.cn/s/articlelist_5835036270_0_1.html
|
c*l
发帖数: 1433 | 33 问题是
1，一旦尝到甜头停不下来，股票交易不是不重要吧？可你不做机器交易，人家做你就
成了输钱的，你在小心谨慎也比不了机器用巨量数据得出的统计结论。
2，当系统足够复杂，一个微小的决定可能就会造成非常严重的后果。这才是危险的地
方，你说的办法至多是马后炮，事情都发生了你才知道怎么改。但有些事发生再改就已
经晚了，而且还有可能根本不知道什么愿因发生的。
【在 c****3 的大作中提到】
: 我前面说了，让机器做重要决策，是做这个决定的人傻。
: 机器发疯造成严重后果，显然做这个决定的人要负责，因为他不能控制风险，不能正确
: 评估先有人工智能技术达到的可控性
: 换句话说，比如无人车，我怎么知道它不会发疯去撞行人。你测试可以，想要商用，交
: 管部门评估技术可控性，就不应该让它上路。如果交管部门让它上路，出现这种情况，
: 厂家要赔死，交管部门也要负责。
: 机器不做重要决策，随便它发疯。
|
n***d
发帖数: 8857 | 34 人工智能的重要部分就是知识提取，自学习，自适应。你还是多学学AI在做什么再断言
吧。
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
M*P
发帖数: 6456 | 35 关键是机器没有目的。或者说现在人工智能机器的目的都是人给设定的。
比如说下棋的人工智能，目的就是把棋下赢。
另外人类现在基本已经离不开机器了。比如你用的电网是机器监控的，开的车里面都有
电脑，上网灌水，也是电脑。这些东西的制造过程中都有人工智能的存在，只是很多智
能不够高级而已。
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
o*******k
发帖数: 562 | 36 这里的关键是我认为机器不存在任何智能，都是人类对于他们的逻辑设定。比如装配线
上的机器手之类的，你认为他们具有智能吗？我认为他们和在河边利用水车舂米的锤子
也没啥区别。就是人类设定一个固定程式，他们按照一定的逻辑执行就行了。
【在 M*P 的大作中提到】
: 关键是机器没有目的。或者说现在人工智能机器的目的都是人给设定的。
: 比如说下棋的人工智能，目的就是把棋下赢。
: 另外人类现在基本已经离不开机器了。比如你用的电网是机器监控的，开的车里面都有
: 电脑，上网灌水，也是电脑。这些东西的制造过程中都有人工智能的存在，只是很多智
: 能不够高级而已。
:
: 0
|
t**d
发帖数: 6474 | 37 说的有道理。电脑围棋能战胜人类跟电脑五子棋完胜人类没有本质差别。19x19的能赢
，190x190就不一定。
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
C**********e
发帖数: 23303 | 38 已经不是了
现在的人工智能正在学习内容上 植入情感认知
【在 c****3 的大作中提到】
: 人工智能就是chinatown洗碗的都能看出里面如何扯淡。
: 现在人工智能，机器对处理内容一个字也不理解。
: 机器不知道自己在干啥，没法理解字里行间的意思，完全靠统计猜。
: 所以机器不能猜没有见过的谜语，就算6岁小孩都会，还有很多事情都不能做。
: 因为机器不能理解自己在干啥，所以一直都是白痴的状态，就算能赢世界冠军，还是不
: 知道自己在干啥
|
a******n
发帖数: 5925 | 39 你的观点早就有人提过了
N 多年前图灵就驳斥过了
去读读图灵的那篇文章再谈感想吧。 |
c****3
发帖数: 10787 | 40 这就是典型的教条主义者+名人崇拜。
图灵又不是上帝，他说的有用吗
【在 a******n 的大作中提到】
: 你的观点早就有人提过了
: N 多年前图灵就驳斥过了
: 去读读图灵的那篇文章再谈感想吧。
|
|
|
E*******1
发帖数: 3464 | 41 如果把地球年龄算24小时，人是23:59:59秒出来的，呆了不到1秒钟。。。恐龙呆的时
间比人长的多得多的，搞不清谁该嘲笑谁
【在 s******t 的大作中提到】
: 你说得太啰嗦了。主要观点大概就是机器不会有意识。
: 那你说恐龙有意识吗？该有吧。可惜灭绝了，为何？智力不够。
: 当机器的智力胜过人类时，有意识没意识都不会影响机器灭了人的可能。
:
: 0
|
E*******1
发帖数: 3464 | 42 你骂那个下棋的GO去死，那家伙都听不懂，你说这智商有多高？或者有没有智商 |
i*******d
发帖数: 1430 | 43 今天，现在，机器就在替你做无数的重要决定，以后只会更多，不管你愿不愿意。最简
单的例子，如果FBI的电脑系统出了故障，把一个杀人犯的文件全存到你名下，你可能
还没下班就被抓进去。你可能说还有那么多人在各级把关呢，哪能那么容易。今天也许
不容易，将来可能容易的很，因为你的一切都是数字化的，也许来抓你的都是机器警察
，它才不管你是不是看起来一点不像杀人犯。
这跟谁负责有个屁的关系，这里说的是有没有可能有一天基于机器的智能超过人类从而
对人类的生存构成威胁。要是连题目都没读懂还是洗洗睡吧。
其实看来最关键的就是机器是否可能具有自主意识。只要可能具有自主意识，以机器在
信息处理上对人类的绝对优势，和无感情有逻辑的特点，反水和统治人类是几乎必然的
事情。
赋予机器自我意识一定是无数天才们日思夜想都在做的事情。所以在我看来这是早晚的
事。
【在 c****3 的大作中提到】
: 我前面说了，让机器做重要决策，是做这个决定的人傻。
: 机器发疯造成严重后果，显然做这个决定的人要负责，因为他不能控制风险，不能正确
: 评估先有人工智能技术达到的可控性
: 换句话说，比如无人车，我怎么知道它不会发疯去撞行人。你测试可以，想要商用，交
: 管部门评估技术可控性，就不应该让它上路。如果交管部门让它上路，出现这种情况，
: 厂家要赔死，交管部门也要负责。
: 机器不做重要决策，随便它发疯。
|
b****s
发帖数: 872 | 44 机器智力胜过人，你是搞笑吧，会下棋就胜过人了？
现在做个机器人，放到丛林里，随便一个动物都完爆它，根本活不过一个晚上
【在 s******t 的大作中提到】
: 你说得太啰嗦了。主要观点大概就是机器不会有意识。
: 那你说恐龙有意识吗？该有吧。可惜灭绝了，为何？智力不够。
: 当机器的智力胜过人类时，有意识没意识都不会影响机器灭了人的可能。
:
: 0
|
n***d
发帖数: 8857 | 45 做个热感应开枪的机器人还不容易？倒是电没了才是麻烦事。机器人会自己探测采矿发
电那天就真的要造反了
【在 b****s 的大作中提到】
: 机器智力胜过人，你是搞笑吧，会下棋就胜过人了？
: 现在做个机器人，放到丛林里，随便一个动物都完爆它，根本活不过一个晚上
|
b****s
发帖数: 872 | 46 动物又没有武器，那还不如放个坦克在丛林。
机器人靠自己的大脑，双手，双脚，眼睛存活，它有这个本事吗
【在 n***d 的大作中提到】
: 做个热感应开枪的机器人还不容易？倒是电没了才是麻烦事。机器人会自己探测采矿发
: 电那天就真的要造反了
|
n***d
发帖数: 8857 | 47 只用生存评价智能的话，人造生命前几年已经有了，已经会自我复制。
【在 b****s 的大作中提到】
: 动物又没有武器，那还不如放个坦克在丛林。
: 机器人靠自己的大脑，双手，双脚，眼睛存活，它有这个本事吗
|
b****s
发帖数: 872 | 48 这可不是活着。放丛林里是考验机器人对环境适应能力。对环境适应，适者生存，是动
物那样智力水平都有的能力。
最好把机器人做成动物喜欢的食物那样的。
如果机器人两下就被恶意动物放倒了，或者天黑啥也看不到了，或者连路都找不到，还
有个屁环境适应能力。智力水平连动物都比不过。
【在 n***d 的大作中提到】
: 只用生存评价智能的话，人造生命前几年已经有了，已经会自我复制。
|
o*******w
发帖数: 349 | 49 Suggest you read "Concept of Mind" by Gilber Ryle (1949)
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
o*******k
发帖数: 562 | 50 谢谢，已经下载。看起来应该是本好书。能不能简介主要观点？我发现对于意识的定义
其实挺模糊的。
【在 o*******w 的大作中提到】
: Suggest you read "Concept of Mind" by Gilber Ryle (1949)
:
: 0
|
|
|
l*****s
发帖数: 39 | |
n***d
发帖数: 8857 | 52 说的好像你能徒手在丛林生存？再说只要机器能自己采集燃料，生存根本没问题
【在 b****s 的大作中提到】
: 这可不是活着。放丛林里是考验机器人对环境适应能力。对环境适应，适者生存，是动
: 物那样智力水平都有的能力。
: 最好把机器人做成动物喜欢的食物那样的。
: 如果机器人两下就被恶意动物放倒了，或者天黑啥也看不到了，或者连路都找不到，还
: 有个屁环境适应能力。智力水平连动物都比不过。
|
l*****s
发帖数: 39 | |
l*****s
发帖数: 39 | 54 https://www.youtube.com/watch?v=-GMty30YIFI
0
【在 o*******k 的大作中提到】
: 这几天在网上有一个非常热闹的话题，就是谷歌公司开发的电脑围棋系统AlphaGo 5:0
: 战胜了欧洲围棋冠军樊麾职业二段，今年3月将和韩国的李世石九段进行人机对决。人
: 们有理由对此次对战抱有极大热情。早在上世纪90年代，IBM的深蓝就战胜了人类国际
: 象棋冠军。然而大部分人对此次对战结果不屑一顾，认为国际象棋步数有限，即使是人
: 类对战出现重复的棋谱也是可能的。计算机只要深度搜索人类对战棋谱，外加每一步都
: 穷举到终局，战胜人类不出意料。这并不能说明深蓝具有什么高级人工智能。然而围棋
: 是完全另外一回事儿，因为围棋棋盘具有361个坐标，如果电脑采用同样的方法来对待
: 围棋，即对每一步的着子点进行树杈结构的穷举搜索，那将对电脑是一个灾难，因为那
: 是一个根本不可能完成的任务。所以当时人们的普遍心态是有：有种让他试试围棋啊！
: 人们普遍认为如果的电脑智能不改变方向，即往图像识别和模式判断上努力的话，电脑
|
b****s
发帖数: 872 | 55 人的办法多了，晚上可以找地方躲起来，白天可以找路出去。
智能其实是一种综合能力，以为下个棋就是智能的看法太浅薄了。
现在做个机器人，综合能力比不上大部分动物。
就算不考虑能源问题，机器人在丛林里，这个智力，既不会自己找路，也不知道如何发
现危险和避免危险，属于几天就被淘汰的物种。
【在 n***d 的大作中提到】
: 说的好像你能徒手在丛林生存？再说只要机器能自己采集燃料，生存根本没问题
|
x****y
发帖数: 1853 | 56 这就是为什么在电影ex machina里turing test的最终考核就是机器人会不会self
preseervation，就是生存意识。
【在 c*****t 的大作中提到】
: 观点没什么问题，就是太罗嗦。标题也是扯淡，人工智能没有自己的意识并不等于没有
: 前途。人工智能作为一种工具，对于提高生产力来说是大大有前途的。
: 看了这么多关于人工智能的讨论，感觉都是外行居多。首先要明确， 传统意义的程序
: ，AI, 和真正意义上的智能,是三个有本质区别的，不同层次的东西。
: 传统意义的程序，程序员第一要告诉程序做什么，第二要告诉程序怎么做，每一个步骤
: 都必须很明确，编程语言就是干这个用的。
: 而所谓的人工智能AI，理论上程序员只需要告诉程序做什么解决什么问题，程序自己可
: 以通过学习的方式找到解决问题的方式。所以Alphago的程序员，很大可能是臭棋篓子
: ，他只是告诉Alphago去赢棋，至于走哪一步才可以赢，程序员自己也不知道。当然现
: 在的人工智能还在萌芽阶段，机器学习的过程还是有大量的人工的干预，但是随着技术
|
n***d
发帖数: 8857 | 57 自动驾驶车都上路很久了，你这个机器找不到路从哪来的？GPS定位也比你自己摸索好
了无数倍。你晚上的视力和机器人更是没法比
【在 b****s 的大作中提到】
: 人的办法多了，晚上可以找地方躲起来，白天可以找路出去。
: 智能其实是一种综合能力，以为下个棋就是智能的看法太浅薄了。
: 现在做个机器人，综合能力比不上大部分动物。
: 就算不考虑能源问题，机器人在丛林里，这个智力，既不会自己找路，也不知道如何发
: 现危险和避免危险，属于几天就被淘汰的物种。
|
b****s
发帖数: 872 | 58 你这个人有脑子吗，丛林里拿GPS有用吗。
丛林里什么地方是山涧，什么地方是悬崖，什么地方是树藤，什么地方能走，都是自己
判断。现在的机器人估计走两步就死翘翘了。
【在 n***d 的大作中提到】
: 自动驾驶车都上路很久了，你这个机器找不到路从哪来的？GPS定位也比你自己摸索好
: 了无数倍。你晚上的视力和机器人更是没法比
|
n***d
发帖数: 8857 | 59 没见过hike用GPS吗？识别地形更是小意思，雷达，热成像是干屁的？你个井底之蛙就
别现眼了。
【在 b****s 的大作中提到】
: 你这个人有脑子吗，丛林里拿GPS有用吗。
: 丛林里什么地方是山涧，什么地方是悬崖，什么地方是树藤，什么地方能走，都是自己
: 判断。现在的机器人估计走两步就死翘翘了。
|
b****s
发帖数: 872 | 60 你就别吹牛了，你造个机器人在丛林里走走看。
现在人工智能啥水平，你以为大家都是傻瓜看不出？
任凭吹的天花乱坠，别人只是看笑话，人工智能被人看笑话已经好多年了。
【在 n***d 的大作中提到】
: 没见过hike用GPS吗？识别地形更是小意思，雷达，热成像是干屁的？你个井底之蛙就
: 别现眼了。
|
|
|
n***d
发帖数: 8857 | 61 大狗机器人都出来多少年了，走个山路算毛。我看你还是回学校再造一下吧
【在 b****s 的大作中提到】
: 你就别吹牛了，你造个机器人在丛林里走走看。
: 现在人工智能啥水平，你以为大家都是傻瓜看不出？
: 任凭吹的天花乱坠，别人只是看笑话，人工智能被人看笑话已经好多年了。
|
v*******e
发帖数: 11604 | 62
自己看视频：
https://www.youtube.com/watch?v=R7ezXBEBE6U
【在 b****s 的大作中提到】
: 你就别吹牛了，你造个机器人在丛林里走走看。
: 现在人工智能啥水平，你以为大家都是傻瓜看不出？
: 任凭吹的天花乱坠，别人只是看笑话，人工智能被人看笑话已经好多年了。
|
b****s
发帖数: 872 | 63 你找个视频，看看大狗能靠自己连续绕过几颗树，避开几个树藤，跳过几个小溪。
都是在一些没有障碍的地方走，旁边还有个人看着，有啥可吹的。
【在 n***d 的大作中提到】
: 大狗机器人都出来多少年了，走个山路算毛。我看你还是回学校再造一下吧
|
b****s
发帖数: 872 | 64 这还不是大部分在土路上走，也就公司旁边一个小土丘里面的trail。
真的丛林，哪有这么好走， 更不要说天黑以后。
【在 v*******e 的大作中提到】
:
: 自己看视频：
: https://www.youtube.com/watch?v=R7ezXBEBE6U
|
n***d
发帖数: 8857 | 65 自己找 atlas robot in forest
【在 b****s 的大作中提到】
: 你找个视频，看看大狗能靠自己连续绕过几颗树，避开几个树藤，跳过几个小溪。
: 都是在一些没有障碍的地方走，旁边还有个人看着，有啥可吹的。
|
b****s
发帖数: 872 | 66 你就别吹了。真的爬山，hiking，那里有这么好走的路。
这条路走不通，还得退回去找另一条路，这些你的机器人都做不到，随便一个动物都做
的到
【在 n***d 的大作中提到】
: 自己找 atlas robot in forest
|
n***d
发帖数: 8857 | 67 大狗那么多上下坡的，还有跳跃的你别假装没看见。你那个退回去找路的便利算法学过
一点编程的都会，你还是回学校多看看书吧。
你在丛林里的死法比机器人多一万倍，别以为你会吃几口毛毛虫就无敌了。
【在 b****s 的大作中提到】
: 你就别吹了。真的爬山，hiking，那里有这么好走的路。
: 这条路走不通，还得退回去找另一条路，这些你的机器人都做不到，随便一个动物都做
: 的到
|
b****s
发帖数: 872 | 68 这就是城市里土丘上的一个小树林，根本不是丛林。
这种地方随便怎么跳也没事，机器人跳之前都不看的。
丛林里试试，看不清地形，跳到悬崖下摔死了。
【在 n***d 的大作中提到】
: 大狗那么多上下坡的，还有跳跃的你别假装没看见。你那个退回去找路的便利算法学过
: 一点编程的都会，你还是回学校多看看书吧。
: 你在丛林里的死法比机器人多一万倍，别以为你会吃几口毛毛虫就无敌了。
|
n***d
发帖数: 8857 | 69 激光测距，雷达干屁的？别说这些，很快两个镜头在手机上就能测距
【在 b****s 的大作中提到】
: 这就是城市里土丘上的一个小树林，根本不是丛林。
: 这种地方随便怎么跳也没事，机器人跳之前都不看的。
: 丛林里试试，看不清地形，跳到悬崖下摔死了。
|
b****s
发帖数: 872 | 70 说话不过脑子。
丛林里到处都是障碍物，到处都是反射回来的信号，雷达测啥，你那个机器人，马上就
晕了。
【在 n***d 的大作中提到】
: 激光测距，雷达干屁的？别说这些，很快两个镜头在手机上就能测距
|
|
|
n***d
发帖数: 8857 | 71 到处都是障碍物的地方你会跳吗？你说话过脑子了？
【在 b****s 的大作中提到】
: 说话不过脑子。
: 丛林里到处都是障碍物，到处都是反射回来的信号，雷达测啥，你那个机器人，马上就
: 晕了。
|
b****s
发帖数: 872 | 72 当然要跳，过障碍物不是跳过去，难到是走过去的。
等大狗终于看到没有很多雷达反射信号，一高兴，向前一跳，跳到悬崖下摔死了。
【在 n***d 的大作中提到】
: 到处都是障碍物的地方你会跳吗？你说话过脑子了？
|
n***d
发帖数: 8857 | 73 你写的程序吧。我不和你闲扯淡了
【在 b****s 的大作中提到】
: 当然要跳，过障碍物不是跳过去，难到是走过去的。
: 等大狗终于看到没有很多雷达反射信号，一高兴，向前一跳，跳到悬崖下摔死了。
|
l*******d
发帖数: 3343 | 74 机器未必需要自主意识。只需被赋予生存这个总的purpose，其它都可以基于知识和经
验形成自主因果链。人类的所谓自主意识大部分也是基于因果链的。只不过人类偶尔会
有非理性行为，比如自杀之类的违背生存这个总purpose的行为。非理性不能说是自主
意识，严格说应该算bug…
机器一旦拥有足够多的信息量和足够快的处理速度，肯定是可以超越人类的。除非人类
学习猫教老虎学本领的故事，玩阴的，对于机器故意留一手上树的技能不教。机器处理
信息的习惯是“充分”，人类基于非理性因素会有意无意的“不充分”，这个大概是最
大的区别…
【在 i*******d 的大作中提到】
: 今天，现在，机器就在替你做无数的重要决定，以后只会更多，不管你愿不愿意。最简
: 单的例子，如果FBI的电脑系统出了故障，把一个杀人犯的文件全存到你名下，你可能
: 还没下班就被抓进去。你可能说还有那么多人在各级把关呢，哪能那么容易。今天也许
: 不容易，将来可能容易的很，因为你的一切都是数字化的，也许来抓你的都是机器警察
: ，它才不管你是不是看起来一点不像杀人犯。
: 这跟谁负责有个屁的关系，这里说的是有没有可能有一天基于机器的智能超过人类从而
: 对人类的生存构成威胁。要是连题目都没读懂还是洗洗睡吧。
: 其实看来最关键的就是机器是否可能具有自主意识。只要可能具有自主意识，以机器在
: 信息处理上对人类的绝对优势，和无感情有逻辑的特点，反水和统治人类是几乎必然的
: 事情。
|
v*******e
发帖数: 11604 | 75 人根本没有自由意识。一切皆有因果，万事都有理由，根本没有自由意识存在的空间。
别纠缠机器有没有意识，因为人也没有，大家都没有，凭什么说机器比人差。用意识来
否定人工智能的作法都是错误的。 |
v*********n
发帖数: 3983 | 76 为什么不是伤肝，伤蛋？
【在 h*********g 的大作中提到】
: 想太多了
: 容易伤脾
|
v*********n
发帖数: 3983 | 77 楼主写的挺好。支持原创！
【在 v*******e 的大作中提到】
: 写得再多，也改变不了外行瞎扯鸡巴蛋的事实。
|
c*****t
发帖数: 10738 | 78 没错，就是这个总的purpose，不可能自己产生，必须由creator赋予。类似阿西莫夫的
机器人三定律，就是这种东西。理论上讲，现在的人工智能技术继续进步，就能到达阿
西莫夫的机器人这个水平。
如果把人也看作一个很复杂的机器，引申出来很有意思的问题就是人的purpose是谁赋
予的?
【在 l*******d 的大作中提到】
: 机器未必需要自主意识。只需被赋予生存这个总的purpose，其它都可以基于知识和经
: 验形成自主因果链。人类的所谓自主意识大部分也是基于因果链的。只不过人类偶尔会
: 有非理性行为，比如自杀之类的违背生存这个总purpose的行为。非理性不能说是自主
: 意识，严格说应该算bug…
: 机器一旦拥有足够多的信息量和足够快的处理速度，肯定是可以超越人类的。除非人类
: 学习猫教老虎学本领的故事，玩阴的，对于机器故意留一手上树的技能不教。机器处理
: 信息的习惯是“充分”，人类基于非理性因素会有意无意的“不充分”，这个大概是最
: 大的区别…
|
i******0
发帖数: 609 | 79 即使抛开对＂智能＂哲学层面上的思辩，可计算性理论，哥德尔不完备性定理等等已经
在数学层面对现有的计算模型和数理逻辑方面给出了清晰的能力上界。
从这个意义来说，担心创造出超越人的智能的机器或系统基本等同于杞人忧天；反过来
说，这样的企图基本等同于永动机的实验。
：没错，就是这个总的purpose，不可能自己产生，必须由creator赋予。类似阿西莫夫
的机器人三定律，就是这种东西。理论上讲，现在的人工智能技术继续进步，就能到达
阿西莫夫的机器人这个水平。
：如果把人也看作一个很复杂的机器，引申出来很有意思的问题就是人的purpose是谁赋 |
c****3
发帖数: 10787 | 80 哪有什么定律，世界上的事情，不是人类这样技术水平能够控制的。
如果把人看成机器，那就是比拼人类先有技术水平和创造生物的天顶星人的科技水平
（假设生物是天顶星人创造的）。
显然创造生物的天顶星人科技水平远远超过人，里面的技术哪怕人类只学到一小部分，
很多问题都解决了。 比如哪怕只掌握植物光合作用的原理和效率，人类绿色能源问题
就解决了。
如果创造生物的天顶星人技术水平远超人类，显然人类现在的技术，还远远达不到创造
可以超过人类智能的水平
这个问题如果这么看，是最简单和清晰的
谁赋
【在 i******0 的大作中提到】
: 即使抛开对＂智能＂哲学层面上的思辩，可计算性理论，哥德尔不完备性定理等等已经
: 在数学层面对现有的计算模型和数理逻辑方面给出了清晰的能力上界。
: 从这个意义来说，担心创造出超越人的智能的机器或系统基本等同于杞人忧天；反过来
: 说，这样的企图基本等同于永动机的实验。
:
: ：没错，就是这个总的purpose，不可能自己产生，必须由creator赋予。类似阿西莫夫
: 的机器人三定律，就是这种东西。理论上讲，现在的人工智能技术继续进步，就能到达
: 阿西莫夫的机器人这个水平。
: ：如果把人也看作一个很复杂的机器，引申出来很有意思的问题就是人的purpose是谁赋
|
|
|
c*****t
发帖数: 10738 | 81 坦白说不懂你的逻辑，现有的计算模型和数理逻辑的上界和机器不能超越人有什么相关
性？除非你证明人类已经到达这个上界。
谁赋
【在 i******0 的大作中提到】
: 即使抛开对＂智能＂哲学层面上的思辩，可计算性理论，哥德尔不完备性定理等等已经
: 在数学层面对现有的计算模型和数理逻辑方面给出了清晰的能力上界。
: 从这个意义来说，担心创造出超越人的智能的机器或系统基本等同于杞人忧天；反过来
: 说，这样的企图基本等同于永动机的实验。
:
: ：没错，就是这个总的purpose，不可能自己产生，必须由creator赋予。类似阿西莫夫
: 的机器人三定律，就是这种东西。理论上讲，现在的人工智能技术继续进步，就能到达
: 阿西莫夫的机器人这个水平。
: ：如果把人也看作一个很复杂的机器，引申出来很有意思的问题就是人的purpose是谁赋
|
i******0
发帖数: 609 | 82 建议你学习一下可计算性(Computability)理论，可以从＂停机问题＂(Halting
Problem) 开始。
这是个理论上界，人类的努力在它面前没有什么意义。就好比如果有人声称造出了永动
机，你并不需要对其进行检验就可以知道那是不可能的。
：坦白说不懂你的逻辑，现有的计算模型和数理逻辑的上界和机器不能超越人有什么相
关性？除非你证明人类已经到达这个上界。
：【 在 idong360 (bull) 的大作中提到: 】 |
c*****t
发帖数: 10738 | 83 我知道你说那些。我的意思是说这不能推出机器智能无法超过人类的结论。
【在 i******0 的大作中提到】
: 建议你学习一下可计算性(Computability)理论，可以从＂停机问题＂(Halting
: Problem) 开始。
: 这是个理论上界，人类的努力在它面前没有什么意义。就好比如果有人声称造出了永动
: 机，你并不需要对其进行检验就可以知道那是不可能的。
:
: ：坦白说不懂你的逻辑，现有的计算模型和数理逻辑的上界和机器不能超越人有什么相
: 关性？除非你证明人类已经到达这个上界。
: ：【 在 idong360 (bull) 的大作中提到: 】
|
c****3
发帖数: 10787 | 84 是啊，这玩意没有那么多复杂假设和定理。
说白了就是人类现在的技术水平，没有达到生物里面蕴含的技术水平，现在是人类技术
水平远远不如。随便找个学生物的问一下，就知道了生物里面有多复杂和精巧了。
等人类技术水平发展，达到同等level了，自然可以造出机器超过人的智能。
这也是为啥说搞人工智能的吹牛，因为从这个角度看，很容易知道，以现在的技术水平
，没法造出超过人智能的机器。
【在 c*****t 的大作中提到】
: 我知道你说那些。我的意思是说这不能推出机器智能无法超过人类的结论。
|
i******0
发帖数: 609 | 85 在这个问题上, 由于缺乏一个严格的＂智能＂的定义，我们只能抬一下扛了，呵呵。
举这么个例子吧，人类可以发现非可计算的问题的存在并且给出＂停机问题＂这样一个
实例。我很怀疑现有计算模型下的任何系统能够自发地discover这个现实。
：我知道你说那些。我的意思是说这不能推出机器智能无法超过人类的结论。
：【 在 idong360 (bull) 的大作中提到: 】 |
o*******k
发帖数: 562 | 86 现在的机器的底层是逻辑设定。而逻辑的能力是有限的。哥德尔定理讲的就是这个东西
。文中讲的非常明白，这有什么不能理解的？
【在 c*****t 的大作中提到】
: 我知道你说那些。我的意思是说这不能推出机器智能无法超过人类的结论。
|
o*******k
发帖数: 562 | 87 其实人的思维底层设定远非逻辑本身。什么时候机器能够实现非逻辑思维，就有可能超
越人类。
【在 c*****t 的大作中提到】
: 我知道你说那些。我的意思是说这不能推出机器智能无法超过人类的结论。
|
c****3
发帖数: 10787 | 88 生物另有一套机制，处理非线性的世界。
生物世界其实是以化学反应为主，有大量不可控因素的非线性世界。但生物用它那一套
我们现在不了解的机制，达到非常有规律的运行和繁殖。
我们觉得人类技术是地球主宰的时候，身边就活生生放着，比我们技术高超的多例子，
地球生物和我们自己就是。
【在 o*******k 的大作中提到】
: 其实人的思维底层设定远非逻辑本身。什么时候机器能够实现非逻辑思维，就有可能超
: 越人类。
|
n***d
发帖数: 8857 | 89 人的智能难道是无限的？
【在 o*******k 的大作中提到】
: 现在的机器的底层是逻辑设定。而逻辑的能力是有限的。哥德尔定理讲的就是这个东西
: 。文中讲的非常明白，这有什么不能理解的？
|
