霍金等签发公开信：警惕人工智能潜在风险…双刃剑出鞘 - Talk版

本页内容为未名空间相应帖子的节选和存档，一周内的贴子最多显示50字，超过一周显示500字访问原贴

Talk版 - 霍金等签发公开信：警惕人工智能潜在风险…双刃剑出鞘

相关主题
● 出不了马斯克？	● 北美华人足球冠军杯上写给中国国家足球队的公开信
● 亿万富翁成功的10个秘诀	● 明慧网发表《关于韩国金正皓公开信的声明》
● 香港应该“出鞘”了	● 谁能保证明慧网的声明不是假
● 霍金又老了	● 致锦州市公安局白宁之妻李峰的公开信
● 霍金最新报告：黑洞根本不存在　只有灰洞	● 《今日点击》党媒转载公开信：要求习近平辞去党和国家领导职务(转载)
● 霍金是一个坚定的无神论者	● 陆媒记者实名控告中共网络媒体主管部门 (转载)
● 霍金的预言与邪教所宣扬的“世界未日”有什么区别？	● 《今日点击》要习近平辞职“公开信事件” 中共内斗新高度（2016 (转载)
● [转载] 给各位热心挖掘大陆阴暗面的人们的公开信	● 汪兆钧给现政权公开信呼吁给刘云山挪位置(图) (转载)

相关话题的讨论汇总
话题: 人工智能话题: 人类话题: 公开信话题: 霍金话题: 研究

进入Talk版参与讨论

(共1页)

b*********n
发帖数: 540

人类真是太牛了，本人最喜欢看的就是科幻电影，没想到电影里的东西都会在现实中被发明跟实现。这才几年的光景，人类已经进入只能时代了，前些天看了一部电影就叫《人工智能》，讲述了科技达到一定智能时就完全不受人类控制，可以自控，看了真是心有余悸，而且现在人类智能的发展已经初见苗头了。
在这方面，人类真应该慎重，未雨绸缪。据国外媒体报道，在一些人眼里，人工智能对人类构成的威胁甚至超过核武器。日前，包括物理学巨匠斯蒂芬-霍金和PayPal创始人伊隆-马斯克在内的一群科学家和企业家签发了一封公开信，承诺确保人工智能研究造福人类。这封由未来生活研究所草拟的公开信警告称，如果智能机器缺乏监管，人类将迎来一个黑暗的未来。
未来生活研究所的公开信指出科学家需要采取措施，避免人工智能研究出现可能导致人类毁灭的风险。公开信作者表示人们普遍认为人工智能研究正快速取得进步，将对整个社会生越来越大的影响。信中称语言识别、图像分析、无人驾驶汽车、翻译和机器人运动都成为人工智能研究的受益者。
作者们表示：“潜在的效益是巨大的。文明的每一个物都是人类智慧的结晶。我们无法预测在人工智能技术大幅提高机器智商时我们的文明将达到怎样的程度，但根除疾病和贫困是一个难以预测的过程。”他们同时也警告称在进行人工智能研究的同时必须相应地采取防范措施，避免人工智能给人类社会造成潜在伤害。在短期内，人工智能技术将让数百万人失业。在长期内，人工智能可能潜在地让社会走向反乌托邦，机器的智商远远超过人类，做出违背编程的举动。
公开信：“我们研发的人工智能系统必须做我们希望它们做的事情。很多经济学家和计算机学家认为非常有必要进行研究，确定如何在让人工智能所能带来的经济效益实现最大化的同时减少负面影响，例如加剧不公平和失业。”除了霍金和马斯克外，在公开信上签名的人还包括机器智能研究所的执行理事卢克-穆豪瑟尔，麻省理工学院物理学教授和诺贝尔奖得主弗朗克-韦尔切克。
在这封公开信发表前几周，霍金教授曾警告称人工智能将在未来的某一天取代人类。他在伦敦接受英国广播公司采访时表示：“人工智能技术的研发将敲响人类灭的警钟。这项技术能够按照自己的意愿行事並且以越来越快的速度自行进行重新设计。人类受限于缓慢的生物学进化速度，无法与之竞争和对抗，最终将被人工智能取代。”
霍金曾在2014年初指出成功研发人工智能将成为人类历史上犯的最大错误。不幸的是，这也可能是最後一个错误。2014年11月，特斯拉汽车公司和SpaceX公司掌门人马斯克警告称由于机器采用人工智能，“一些极为危险的事情即将发生”，最快将在5年内。此前，他还曾将研制自治可思考机器的做法描述为“召唤恶魔”。
10月，马斯克在麻省理工学院AeroAstro百年学术研讨会上发表讲话将人工智能称之为“我们面临的最大威胁”。他：“我认为我们必须对人工智能抱非常谨慎的态度。在我看来，人工智能可能是我们面临的最大威胁。因此，我们必须非常谨慎地进行人工智能研究。我越发坚信我们需要对人工智能的研究进行适当监管，可能是在国家层面和国际层面，确保我们不会做出一些非常愚蠢的事情。随人工智能的发展，我们将召唤出恶魔。也许你会认为我们可以用类似五芒星和圣水的东西控制恶魔，但事实根本不是这样。”

(共1页)

进入Talk版参与讨论

相关主题
● 汪兆钧给现政权公开信呼吁给刘云山挪位置(图) (转载)	● 霍金最新报告：黑洞根本不存在　只有灰洞
● 《今日点击》公开信继续发酵宁见阎王不见老王（2016/03/27） (转载)	● 霍金是一个坚定的无神论者
● 回击江派陆媒发公开信建议延长习任职期限 (转载)	● 霍金的预言与邪教所宣扬的“世界未日”有什么区别？
● 财新刊文助阵回击无界新闻威胁习事件 (转载)	● [转载] 给各位热心挖掘大陆阴暗面的人们的公开信
● 出不了马斯克？	● 北美华人足球冠军杯上写给中国国家足球队的公开信
● 亿万富翁成功的10个秘诀	● 明慧网发表《关于韩国金正皓公开信的声明》
● 香港应该“出鞘”了	● 谁能保证明慧网的声明不是假
● 霍金又老了	● 致锦州市公安局白宁之妻李峰的公开信

相关话题的讨论汇总
话题: 人工智能话题: 人类话题: 公开信话题: 霍金话题: 研究

#	版面	帖数(主题数)
-	全站	4871 (796)
1	Military	3777 (569)
2	Stock	341 (51)
3	Joke	117 (17)
4	History	116 (3)
5	Automobile	100 (9)
6	USANews	55 (9)
7	Midlife	45 (1)
8	Headline	41 (41)
9	Dreamer	33 (13)
10	FleaMarket	32 (20)
11	Living	30 (7)

boards

未名新帖统计// 7月16日

历史上的今天