由买买提看人间百态

boards

本页内容为未名空间相应帖子的节选和存档,一周内的贴子最多显示50字,超过一周显示500字 访问原贴
Living版 - 自动驾驶技术有个致命的问题 (转载)
1 (共1页)
l***e
发帖数: 31
1
【 以下文字转载自 Automobile 讨论区 】
发信人: fighzxh (身体只是借代品), 信区: Automobile
标 题: 自动驾驶技术有个致命的问题
发信站: BBS 未名空间站 (Thu Nov 22 14:34:28 2018, 美东)
设想这样一个场景: 将来的lvl 5自动驾驶车以45mph的速度开在蜿蜒的山路上 前方几
米树林里处突然跑出一个5岁的小女孩,这时刹车肯定是来不及了,自动驾驶ai此时只
有两个选择:
1 打方向盘让车偏离撞击小女孩轨道,但会导致车子驶离公路 撞破防护带 最后坠入山
崖车毁人亡
2 保持目前轨道 最大程度刹车 但会导致小女孩被撞身亡
这种零点几秒以内的即时反应 自动驾驶的工程师们却必须在办公室里冥思苦想 怎么选
都是错,该怎么办呢?
Q*****8
发帖数: 369
2
你说的好像一个普通人有办法避开似的。
现在自动驾驶技术肯定还不够成熟,所以还没应用。假设以后技术成熟了,普及应用了
,只要电脑能准确探测到前方有人需要急刹车,不管是反应时间还是执行刹车时间,人
肯定比不过电脑。
现在连普通正常道路都没法普及,山间小路就更别提了。要是在50年前,谁会想到有现
在的自动驾驶。所以以后的科技,我们现在也很难想像的出来。也许以后汽车基本消失
了,替而代之的是各种飞行器交通工具。
回到你这个问题,你这个问题,就也并非没有idea可以应对,关键这种问题肯定不是工
程师优先考虑的。要是考虑千千万万可能性,那车的code得多复杂才能应对这么多要考
虑的。你这个短距离急刹车可能就能解决,车轮轮胎惯性刹不住,在车轮边上安一圈钢
刺之类的锋利东西,在需要非常短距离刹车,这些钢刺扎入地表面达到短距离刹车行不
行?现在坦克都能在水面上游,进入水里下面像变形金刚那样把齿轮包起来像个船,所
以有idea,就不是没有可能性。但好像有种这种技术的某款坦克以前被国会叫停了,有
的时
候技术含量太大也是问题,注定了造价昂贵维护成本巨高,养不起。所以有时候要有取
舍,舍弃一些不是很需要的功能。所以你想让一辆车又具备这功能又具备那功能,一辆
车含有大量高科技东西,那就算研发出来都包括了这些功能,这车也是奢侈品,不适合
大众化。你要跳出这种常规的思考,你就这么两种可能性,那当然无解了,当然结果是
致命的。你要想像车冲出路边,车顶上能不能设置一个降落伞的东西,或者大气球之类
的东西可以让车悬浮在空中。更何况现在有技术能探测到热能,不是专家,具体技术不
清楚,比如高空直升机探测下方树林有没有隐藏敌人,通过热能估计就能探测到,人身
上会散发热量的。所以你这个假设不需要在几米外发现小女孩,要是车在几十米之外就
能探测到热能,做好前方有人或者有动物出没(比如鹿)的准备就行。
关键是现在技术还没那么智能。
a****l
发帖数: 8211
3
这种争论是永远不可能赢的。现在你说5米外冲出一个小孩,你技术上解决了,人家就
说0.5米外冲出一个小孩,你再解决了,人家说5厘米外冲出一个小孩,你nb又解决了,
人家就说5毫米外冲出一个小孩,你一个工程师永远打不过这种嘴皮一动就出数字的“
砖家”的。

【在 Q*****8 的大作中提到】
: 你说的好像一个普通人有办法避开似的。
: 现在自动驾驶技术肯定还不够成熟,所以还没应用。假设以后技术成熟了,普及应用了
: ,只要电脑能准确探测到前方有人需要急刹车,不管是反应时间还是执行刹车时间,人
: 肯定比不过电脑。
: 现在连普通正常道路都没法普及,山间小路就更别提了。要是在50年前,谁会想到有现
: 在的自动驾驶。所以以后的科技,我们现在也很难想像的出来。也许以后汽车基本消失
: 了,替而代之的是各种飞行器交通工具。
: 回到你这个问题,你这个问题,就也并非没有idea可以应对,关键这种问题肯定不是工
: 程师优先考虑的。要是考虑千千万万可能性,那车的code得多复杂才能应对这么多要考
: 虑的。你这个短距离急刹车可能就能解决,车轮轮胎惯性刹不住,在车轮边上安一圈钢

d*****s
发帖数: 5610
4
这个非常容易解决的。。。
在拿到车后,有些setup,让驾驶人选择,选1,或者2. 由此产生的liability问题,
由驾驶人或者自动驾驶软件商负责保险。
二手车拿到后,也需要重新setup。
保险公司在你投保时候,根据你的setup回答算保单。
这些setup是私人信息,只有出事时候才让警察知道。
Q*****8
发帖数: 369
5
阿尔法狗打败了世界围棋冠军。所以我们不得不承认人类在某些方面比不过AI的。
只要足够智能,自动驾驶在某些方面会比人类做得好。特别是急刹车,AI的反应时间肯
定比人类快。
我上面帖子第一句其实是我针对标题想说的,后面说的其实是creative idea 需要
think outside the box。作者整个标题有点偷换概念,作者说自动驾驶技术有个致命
的问题,但作者根
本不提现有的人类驾驶同样避不开这个致命问题,而且人类会做得更差。这样的命题本
来是需要和现有的人类驾驶相比较的,而作者偷换概念去说自动驾驶技术不是完美的,
不能避免一些突发事故。
要是自动驾驶技术各方面都比人类驾驶做得好,很快自动驾驶就大量普及了。现在自动
驾驶人工智能还有限,以前有个网友就举例说出租车接客遇到,在繁忙人行道上如何识
别哪个是叫车的,这个就需要非常高要求的AI去解决,暂时可能没有人类出租车司机做
得好。我相信还有很多其他方面,现有的自动驾驶AI 技术还取代不了人类驾驶,这也
是自动驾驶还没普及的原因,未来能不能普及我们暂且不讨论。恰恰作者的论据,很大
方面是关于突发事件需要短距离刹车,这方面恰恰是AI的强项,普通人遇到这种事情的
恐慌也延误了反应时间,而AI的反应时间和人类的反应时间相比是忽略不计的。作者恰
恰拿AI的强项也否定AI,这点是找错了论据。


: 这种争论是永远不可能赢的。现在你说5米外冲出一个小孩,你技术上解
决了,
人家就

: 说0.5米外冲出一个小孩,你再解决了,人家说5厘米外冲出一个小孩,你
nb又解
决了,

: 人家就说5毫米外冲出一个小孩,你一个工程师永远打不过这种嘴皮一动
就出数
字的“

: 砖家”的。



【在 a****l 的大作中提到】
: 这种争论是永远不可能赢的。现在你说5米外冲出一个小孩,你技术上解决了,人家就
: 说0.5米外冲出一个小孩,你再解决了,人家说5厘米外冲出一个小孩,你nb又解决了,
: 人家就说5毫米外冲出一个小孩,你一个工程师永远打不过这种嘴皮一动就出数字的“
: 砖家”的。

Q*****8
发帖数: 369
6
本来原作者讨论的内容和标题偷换概念,有点跑题了。你这个讨论事故责任方,就更加
跑题了。


: 这个非常容易解决的。。。

: 在拿到车后,有些setup,让驾驶人选择,选1,或者2. 由此产生的liability
问题,

: 由驾驶人或者自动驾驶软件商负责保险。

: 二手车拿到后,也需要重新setup。

: 保险公司在你投保时候,根据你的setup回答算保单。

: 这些setup是私人信息,只有出事时候才让警察知道。



【在 d*****s 的大作中提到】
: 这个非常容易解决的。。。
: 在拿到车后,有些setup,让驾驶人选择,选1,或者2. 由此产生的liability问题,
: 由驾驶人或者自动驾驶软件商负责保险。
: 二手车拿到后,也需要重新setup。
: 保险公司在你投保时候,根据你的setup回答算保单。
: 这些setup是私人信息,只有出事时候才让警察知道。

s********e
发帖数: 542
7
这种情况才恰恰是AI功能发挥的时候,
在最短时间做出反应。
从树林里跑出小女孩,哈哈,那为什么不拐向树林的方向躲避?而要反向横穿马路撞对
侧的护栏?
如果是人在这千钧一发的时刻,可能就有太大反应延迟,或者慌乱决定不正确,造成本
来就可以避免的悲剧。
另外,如果是AI,在这危险的路况,不会限速?
如果是AI,在小女孩还没有冲出来的时候,距离15米的时候就提前看到减速?
s**********o
发帖数: 14359
8
AI难道看不到树林里奔跑的小女孩吗,
不是有红外探测吗?这正是AI的优势吧,
人看不到的MOVING物体,AI可以提前
探测到停车。不过这个小女孩跟狼一样
躲在树林里飞奔向车,挺该死的。
d*****s
发帖数: 5610
9
哪有跑题?
楼主提的问题就是AI的最大问题,在选择都是不好的情况下,AI怎么做选择?这还牵扯
到保险在谁身上的问题。
如果有一个好的选择,一个坏选择,AI很容易选,就不是问题。
我的回答是让AI操作人做选择,责任义务都转到人上,就好了。 当然非常可能的是,
AI面对的不只是2个坏选择问题,而是无限坏选择,比如,从100% 路人死亡,到90%路
人死亡,10%乘客死亡的概率,连续性一直到0%路人死亡,100%乘客死亡的概率。 这个
的选择就毕竟难了。恐怕AI也做不了,毕竟AI在binary,和3个选择的classification
也许能做的好,但在continuous的regression下,机器语言的performance其实并不是
很好。
很多人不理解的是,技术问题,最终是商业利润和合法问题。任何技术的成功,必须建
立在能有利润,合法的基础上,否则不会广泛使用。

liability

【在 Q*****8 的大作中提到】
: 本来原作者讨论的内容和标题偷换概念,有点跑题了。你这个讨论事故责任方,就更加
: 跑题了。
:
:
: 这个非常容易解决的。。。
:
: 在拿到车后,有些setup,让驾驶人选择,选1,或者2. 由此产生的liability
: 问题,
:
: 由驾驶人或者自动驾驶软件商负责保险。
:
: 二手车拿到后,也需要重新setup。
:
: 保险公司在你投保时候,根据你的setup回答算保单。
:
: 这些setup是私人信息,只有出事时候才让警察知道。

Q*****8
发帖数: 369
10
当然跑题了,人家本来只讲讨论狭隘的技术问题,你突然扯出保险问题。跑太远了。
你说的商业利润问题我间接说到了,很多东西只要投入巨大资源就能得到很大提高,功
能更齐全,但造价过高就成了奢侈品普及不了。
另外你解释一下binary 的AI 不能从三个选择里选一个?要是有n (n>2)个选择,从
中间随便挑两个出来比较,然后淘汰一个,这样子进行n-1次比较后就剩下一个最佳选
择了。
Continuous也可以应付吧,微积分公式的推算原理,是不是有很多点推算出来的?假设
一个圆的面积,如果切成无数多等腰三角形(边=圆半径),这些三角形的面积总和也
该无限接近圆的面积吧。只要error能足够小能接受就可以。


: 哪有跑题?

: 楼主提的问题就是AI的最大问题,在选择都是不好的情况下,AI怎么做选
择?这
还牵扯

: 到保险在谁身上的问题。

: 如果有一个好的选择,一个坏选择,AI很容易选,就不是问题。

: 我的回答是让AI操作人做选择,责任义务都转到人上,就好了。 当然非
常可能
的是,

: AI面对的不只是2个坏选择问题,而是无限坏选择,比如,从100% 路人死
亡,到
90%路

: 人死亡,10%乘客死亡的概率,连续性一直到0%路人死亡,100%乘客死亡
的概率
。 这个

: 的选择就毕竟难了。恐怕AI也做不了,毕竟AI在binary,和3个选择的
classification

: 也许能做的好,但在continuous的regression下,机器语言的
performance其实
并不是

: 很好。



【在 d*****s 的大作中提到】
: 哪有跑题?
: 楼主提的问题就是AI的最大问题,在选择都是不好的情况下,AI怎么做选择?这还牵扯
: 到保险在谁身上的问题。
: 如果有一个好的选择,一个坏选择,AI很容易选,就不是问题。
: 我的回答是让AI操作人做选择,责任义务都转到人上,就好了。 当然非常可能的是,
: AI面对的不只是2个坏选择问题,而是无限坏选择,比如,从100% 路人死亡,到90%路
: 人死亡,10%乘客死亡的概率,连续性一直到0%路人死亡,100%乘客死亡的概率。 这个
: 的选择就毕竟难了。恐怕AI也做不了,毕竟AI在binary,和3个选择的classification
: 也许能做的好,但在continuous的regression下,机器语言的performance其实并不是
: 很好。

1 (共1页)