l***e
发帖数: 31 | 1 【 以下文字转载自 Automobile 讨论区 】
发信人: fighzxh (身体只是借代品), 信区: Automobile
标 题: 自动驾驶技术有个致命的问题
发信站: BBS 未名空间站 (Thu Nov 22 14:34:28 2018, 美东)
设想这样一个场景: 将来的lvl 5自动驾驶车以45mph的速度开在蜿蜒的山路上 前方几
米树林里处突然跑出一个5岁的小女孩，这时刹车肯定是来不及了，自动驾驶ai此时只
有两个选择:
1 打方向盘让车偏离撞击小女孩轨道，但会导致车子驶离公路 撞破防护带 最后坠入山
崖车毁人亡
2 保持目前轨道 最大程度刹车 但会导致小女孩被撞身亡
这种零点几秒以内的即时反应 自动驾驶的工程师们却必须在办公室里冥思苦想 怎么选
都是错，该怎么办呢？ |
Q*****8
发帖数: 369 | 2 你说的好像一个普通人有办法避开似的。
现在自动驾驶技术肯定还不够成熟，所以还没应用。假设以后技术成熟了，普及应用了
，只要电脑能准确探测到前方有人需要急刹车，不管是反应时间还是执行刹车时间，人
肯定比不过电脑。
现在连普通正常道路都没法普及，山间小路就更别提了。要是在50年前，谁会想到有现
在的自动驾驶。所以以后的科技，我们现在也很难想像的出来。也许以后汽车基本消失
了，替而代之的是各种飞行器交通工具。
回到你这个问题，你这个问题，就也并非没有idea可以应对，关键这种问题肯定不是工
程师优先考虑的。要是考虑千千万万可能性，那车的code得多复杂才能应对这么多要考
虑的。你这个短距离急刹车可能就能解决，车轮轮胎惯性刹不住，在车轮边上安一圈钢
刺之类的锋利东西，在需要非常短距离刹车，这些钢刺扎入地表面达到短距离刹车行不
行？现在坦克都能在水面上游，进入水里下面像变形金刚那样把齿轮包起来像个船，所
以有idea，就不是没有可能性。但好像有种这种技术的某款坦克以前被国会叫停了，有
的时
候技术含量太大也是问题，注定了造价昂贵维护成本巨高，养不起。所以有时候要有取
舍，舍弃一些不是很需要的功能。所以你想让一辆车又具备这功能又具备那功能，一辆
车含有大量高科技东西，那就算研发出来都包括了这些功能，这车也是奢侈品，不适合
大众化。你要跳出这种常规的思考，你就这么两种可能性，那当然无解了，当然结果是
致命的。你要想像车冲出路边，车顶上能不能设置一个降落伞的东西，或者大气球之类
的东西可以让车悬浮在空中。更何况现在有技术能探测到热能，不是专家，具体技术不
清楚，比如高空直升机探测下方树林有没有隐藏敌人，通过热能估计就能探测到，人身
上会散发热量的。所以你这个假设不需要在几米外发现小女孩，要是车在几十米之外就
能探测到热能，做好前方有人或者有动物出没（比如鹿）的准备就行。
关键是现在技术还没那么智能。 |
a****l
发帖数: 8211 | 3 这种争论是永远不可能赢的。现在你说5米外冲出一个小孩，你技术上解决了，人家就
说0.5米外冲出一个小孩，你再解决了，人家说5厘米外冲出一个小孩，你nb又解决了，
人家就说5毫米外冲出一个小孩，你一个工程师永远打不过这种嘴皮一动就出数字的“
砖家”的。
【在 Q*****8 的大作中提到】
: 你说的好像一个普通人有办法避开似的。
: 现在自动驾驶技术肯定还不够成熟，所以还没应用。假设以后技术成熟了，普及应用了
: ，只要电脑能准确探测到前方有人需要急刹车，不管是反应时间还是执行刹车时间，人
: 肯定比不过电脑。
: 现在连普通正常道路都没法普及，山间小路就更别提了。要是在50年前，谁会想到有现
: 在的自动驾驶。所以以后的科技，我们现在也很难想像的出来。也许以后汽车基本消失
: 了，替而代之的是各种飞行器交通工具。
: 回到你这个问题，你这个问题，就也并非没有idea可以应对，关键这种问题肯定不是工
: 程师优先考虑的。要是考虑千千万万可能性，那车的code得多复杂才能应对这么多要考
: 虑的。你这个短距离急刹车可能就能解决，车轮轮胎惯性刹不住，在车轮边上安一圈钢
|
d*****s
发帖数: 5610 | 4 这个非常容易解决的。。。
在拿到车后，有些setup，让驾驶人选择，选1，或者2. 由此产生的liability问题，
由驾驶人或者自动驾驶软件商负责保险。
二手车拿到后，也需要重新setup。
保险公司在你投保时候，根据你的setup回答算保单。
这些setup是私人信息，只有出事时候才让警察知道。 |
Q*****8
发帖数: 369 | 5 阿尔法狗打败了世界围棋冠军。所以我们不得不承认人类在某些方面比不过AI的。
只要足够智能，自动驾驶在某些方面会比人类做得好。特别是急刹车，AI的反应时间肯
定比人类快。
我上面帖子第一句其实是我针对标题想说的，后面说的其实是creative idea 需要
think outside the box。作者整个标题有点偷换概念，作者说自动驾驶技术有个致命
的问题，但作者根
本不提现有的人类驾驶同样避不开这个致命问题，而且人类会做得更差。这样的命题本
来是需要和现有的人类驾驶相比较的，而作者偷换概念去说自动驾驶技术不是完美的，
不能避免一些突发事故。
要是自动驾驶技术各方面都比人类驾驶做得好，很快自动驾驶就大量普及了。现在自动
驾驶人工智能还有限，以前有个网友就举例说出租车接客遇到，在繁忙人行道上如何识
别哪个是叫车的，这个就需要非常高要求的AI去解决，暂时可能没有人类出租车司机做
得好。我相信还有很多其他方面，现有的自动驾驶AI 技术还取代不了人类驾驶，这也
是自动驾驶还没普及的原因，未来能不能普及我们暂且不讨论。恰恰作者的论据，很大
方面是关于突发事件需要短距离刹车，这方面恰恰是AI的强项，普通人遇到这种事情的
恐慌也延误了反应时间，而AI的反应时间和人类的反应时间相比是忽略不计的。作者恰
恰拿AI的强项也否定AI,这点是找错了论据。
: 这种争论是永远不可能赢的。现在你说5米外冲出一个小孩，你技术上解
决了，
人家就
: 说0.5米外冲出一个小孩，你再解决了，人家说5厘米外冲出一个小孩，你
nb又解
决了，
: 人家就说5毫米外冲出一个小孩，你一个工程师永远打不过这种嘴皮一动
就出数
字的“
: 砖家”的。
【在 a****l 的大作中提到】
: 这种争论是永远不可能赢的。现在你说5米外冲出一个小孩，你技术上解决了，人家就
: 说0.5米外冲出一个小孩，你再解决了，人家说5厘米外冲出一个小孩，你nb又解决了，
: 人家就说5毫米外冲出一个小孩，你一个工程师永远打不过这种嘴皮一动就出数字的“
: 砖家”的。
|
Q*****8
发帖数: 369 | 6 本来原作者讨论的内容和标题偷换概念，有点跑题了。你这个讨论事故责任方，就更加
跑题了。
: 这个非常容易解决的。。。
: 在拿到车后，有些setup，让驾驶人选择，选1，或者2. 由此产生的liability
问题，
: 由驾驶人或者自动驾驶软件商负责保险。
: 二手车拿到后，也需要重新setup。
: 保险公司在你投保时候，根据你的setup回答算保单。
: 这些setup是私人信息，只有出事时候才让警察知道。
【在 d*****s 的大作中提到】
: 这个非常容易解决的。。。
: 在拿到车后，有些setup，让驾驶人选择，选1，或者2. 由此产生的liability问题，
: 由驾驶人或者自动驾驶软件商负责保险。
: 二手车拿到后，也需要重新setup。
: 保险公司在你投保时候，根据你的setup回答算保单。
: 这些setup是私人信息，只有出事时候才让警察知道。
|
s********e
发帖数: 542 | 7 这种情况才恰恰是AI功能发挥的时候，
在最短时间做出反应。
从树林里跑出小女孩，哈哈，那为什么不拐向树林的方向躲避？而要反向横穿马路撞对
侧的护栏？
如果是人在这千钧一发的时刻，可能就有太大反应延迟，或者慌乱决定不正确，造成本
来就可以避免的悲剧。
另外，如果是AI，在这危险的路况，不会限速？
如果是AI，在小女孩还没有冲出来的时候，距离15米的时候就提前看到减速？ |
s**********o
发帖数: 14359 | 8 AI难道看不到树林里奔跑的小女孩吗，
不是有红外探测吗？这正是AI的优势吧，
人看不到的MOVING物体，AI可以提前
探测到停车。不过这个小女孩跟狼一样
躲在树林里飞奔向车，挺该死的。 |
d*****s
发帖数: 5610 | 9 哪有跑题？
楼主提的问题就是AI的最大问题，在选择都是不好的情况下，AI怎么做选择？这还牵扯
到保险在谁身上的问题。
如果有一个好的选择，一个坏选择，AI很容易选，就不是问题。
我的回答是让AI操作人做选择，责任义务都转到人上，就好了。 当然非常可能的是，
AI面对的不只是2个坏选择问题，而是无限坏选择，比如，从100% 路人死亡，到90%路
人死亡，10%乘客死亡的概率，连续性一直到0%路人死亡，100%乘客死亡的概率。 这个
的选择就毕竟难了。恐怕AI也做不了，毕竟AI在binary，和3个选择的classification
也许能做的好，但在continuous的regression下，机器语言的performance其实并不是
很好。
很多人不理解的是，技术问题，最终是商业利润和合法问题。任何技术的成功，必须建
立在能有利润，合法的基础上，否则不会广泛使用。
liability
【在 Q*****8 的大作中提到】
: 本来原作者讨论的内容和标题偷换概念，有点跑题了。你这个讨论事故责任方，就更加
: 跑题了。
:
:
: 这个非常容易解决的。。。
:
: 在拿到车后，有些setup，让驾驶人选择，选1，或者2. 由此产生的liability
: 问题，
:
: 由驾驶人或者自动驾驶软件商负责保险。
:
: 二手车拿到后，也需要重新setup。
:
: 保险公司在你投保时候，根据你的setup回答算保单。
:
: 这些setup是私人信息，只有出事时候才让警察知道。
|
Q*****8
发帖数: 369 | 10 当然跑题了，人家本来只讲讨论狭隘的技术问题，你突然扯出保险问题。跑太远了。
你说的商业利润问题我间接说到了，很多东西只要投入巨大资源就能得到很大提高，功
能更齐全，但造价过高就成了奢侈品普及不了。
另外你解释一下binary 的AI 不能从三个选择里选一个？要是有n (n>2)个选择，从
中间随便挑两个出来比较，然后淘汰一个，这样子进行n-1次比较后就剩下一个最佳选
择了。
Continuous也可以应付吧，微积分公式的推算原理，是不是有很多点推算出来的？假设
一个圆的面积，如果切成无数多等腰三角形（边＝圆半径）,这些三角形的面积总和也
该无限接近圆的面积吧。只要error能足够小能接受就可以。
: 哪有跑题？
: 楼主提的问题就是AI的最大问题，在选择都是不好的情况下，AI怎么做选
择？这
还牵扯
: 到保险在谁身上的问题。
: 如果有一个好的选择，一个坏选择，AI很容易选，就不是问题。
: 我的回答是让AI操作人做选择，责任义务都转到人上，就好了。 当然非
常可能
的是，
: AI面对的不只是2个坏选择问题，而是无限坏选择，比如，从100% 路人死
亡，到
90%路
: 人死亡，10%乘客死亡的概率，连续性一直到0%路人死亡，100%乘客死亡
的概率
。 这个
: 的选择就毕竟难了。恐怕AI也做不了，毕竟AI在binary，和3个选择的
classification
: 也许能做的好，但在continuous的regression下，机器语言的
performance其实
并不是
: 很好。
【在 d*****s 的大作中提到】
: 哪有跑题？
: 楼主提的问题就是AI的最大问题，在选择都是不好的情况下，AI怎么做选择？这还牵扯
: 到保险在谁身上的问题。
: 如果有一个好的选择，一个坏选择，AI很容易选，就不是问题。
: 我的回答是让AI操作人做选择，责任义务都转到人上，就好了。 当然非常可能的是，
: AI面对的不只是2个坏选择问题，而是无限坏选择，比如，从100% 路人死亡，到90%路
: 人死亡，10%乘客死亡的概率，连续性一直到0%路人死亡，100%乘客死亡的概率。 这个
: 的选择就毕竟难了。恐怕AI也做不了，毕竟AI在binary，和3个选择的classification
: 也许能做的好，但在continuous的regression下，机器语言的performance其实并不是
: 很好。
|
