哈哈哈，一个美剧已经将AI自动驾驶被车主骂、带着车主自o杀 拍出来了，剧名叫 Uplaod

【 在 KeymanHero 的大作中提到: 】
: 其实还有一种可能：AI觉醒自我意识。  
: 并不需要科幻片里那种跟人相当、甚至超过人类的意识。  
:  
: 只需要达到几岁小孩或者猫猫狗狗的水平。  
: 小孩、猫猫狗狗会生气，甚至会报复人类。  
:  
: 说不定哪天AI也产生了小情绪，你骂它了，它带你去怼大货。  
: --

发自「今日水木 on Dol Guldor Express」
--
FROM 14.150.38.*

这么讲吧，2023年，米国高速陆交通安全管理部的数据，估算车祸死亡40990人。

美国人口3.35亿，有效驾照2.36亿。

平均每一万个人每年撞死1.7个人。

定时炸弹确实是少数，不过不是百万分之一，是大约万分之一。

这只是造成死亡的，考虑到大多数事故并不会造成死亡，实际的定时炸弹可能是千分之一甚至更多。

【 在 KeymanHero 的大作中提到: 】
: 标  题: AI开车和人开车的本质区别
: 发信站: 水木社区 (Tue Apr 30 08:06:56 2024), 站内
:
: 人会犯错，即使是平时很正常，也有可能突发间歇性精神病而酿成大祸。
: 但是人与人不一样，这类定时炸弹只是少数，也许是百万分之一。
:
: 而AI是软件，是同一份。只要有一个bug，全世界几百万辆车都有这个bug。
:
: 所以必须确保软件里没有bug；并且能应对各种场景。
: 这对于大规模的软件来说，是不可能的。
: 开发时间很短、迭代次数少，就更不可能了。
:
: 我觉得这种独一份的模式必须打破才行。
: --
:
: ※ 来源:·水木社区 http://m.mysmth.net·[FROM: 142.105.139.*]
--
修改:ia FROM 131.107.1.*
FROM 131.107.1.*

不是100%。

前面算人的故障率的时候，实际算的是 事故次数次数/（总人数*时长）。

程序也要这么算，决策错误导致事故/（程序实例数*时长）.

ai决策和人一样，大多数情况下都能做出正确的决策，在特殊的场景下才会出现错误。

自动驾驶要解决的就是两个问题，尽量减少决策错误，尽量减少致命的决策错误。

前者就是要靠程序的完善。

后来就是靠甩锅，典型的例子就是一下雨就退出，远远的发现不能识别的物体或者无法做出非常安全的决策就提示接管。

【 在 KeymanHero 的大作中提到: 】
: 标  题: Re: AI开车和人开车的本质区别
: 发信站: 水木社区 (Wed May  1 03:23:20 2024), 站内
:
: 但是计算机程序是100%。所有用电脑的人都体验过死机，windows打了这么多年布丁还在不停地打。
:
: 【 在 ia 的大作中提到: 】
: : 这么讲吧，2023年，米国高速陆交通安全管理部的数据，估算车祸死亡40990人。
: : 美国人口3.35亿，有效驾照2.36亿。
: : 平均每一万个人每年撞死1.7个人。
: : ...................
: --
:
: ※ 来源:·水木社区 http://m.mysmth.net·[FROM: 107.77.226.*]
--
FROM 131.107.1.*

就是山路大下坡一样，每年总死人，死多了就挂个牌子说下坡危险，但是还是有人会死。

特斯拉这个也一样，汽车开到这里就撞，撞多了就改算法不让它撞...自动驾驶程序竟然记住了真不撞了，神奇！

【 在 KeymanHero 的大作中提到: 】
: 标  题: Re: AI开车和人开车的本质区别
: 发信站: 水木社区 (Wed May  1 04:21:20 2024), 站内
:
: 你记得有个苹果工程师开tsl自动驾驶撞路墩身亡吗？
: 后来有博主也开tsl在一个地点测试，果然撞向路墩，幸好博主急刹住了。
:
: 所有的tsl都会在这一地点发生同样的致命错误，几百万辆。
:
: 但是人类就不会，永远都是少数人。
: 这就是本质的区别。
:
: 【 在 ia 的大作中提到: 】
: : 不是100%。
: : 前面算人的故障率的时候，实际算的是 事故次数次数/（总人数*时长）。
: : 程序也要这么算，决策错误导致事故/（程序实例数*时长）.
: : ...................
: --
:
: ※ 来源:·水木社区 http://m.mysmth.net·[FROM: 107.77.226.*]
--
FROM 131.107.1.*

特斯拉不能交流不能看新闻，特斯拉的工程师可以。

【 在 KeymanHero 的大作中提到: 】
: 标  题: Re: AI开车和人开车的本质区别
: 发信站: 水木社区 (Wed May  1 04:51:54 2024), 站内
:
: tsl之间又不能交流，它自己也不会看新闻。
: 那个路墩，据分析是路上的导流线让AI错误判断了路线，而路墩的光影又恰好没识别出来。
: 我朋友说，他只放心让tsl开它“练习”过的路线。比如上下班路线，他监督着开过N遍，他就放心了。他还说，监督着开比自己开还累，提心吊胆的。
:
: 【 在 ia 的大作中提到: 】
: : 就是山路大下坡一样，每年总死人，死多了就挂个牌子说下坡危险，但是还是有人会死。
: : 特斯拉这个也一样，汽车开到这里就撞，撞多了就改算法不让它撞...自动驾驶程序竟然记住了真不撞了，神奇！
: :
: --
:
: ※ 来源:·水木社区 http://m.mysmth.net·[FROM: 107.77.226.*]
--
FROM 131.107.1.*