首先，现有的AI算法都是概率模型，不是基于逻辑或常识的模型，后者早在上世纪80年代就被证明行不通。

既然是概率模型，就有一定的几率出错，面对的场景越复杂，这个出错的概率会急剧上升。哪怕出错的几率再小，试验多了也一定会发生。

如今概率理论已经非常成熟，理论上已严格证明，所有的AI算法的预测误差都有一个下限，不可能无限逼近零。这个下限由模型性能导致的偏差、数据集扰动带来的方差和算法无关的噪声共同决定。其中由于过拟合的存在，偏差与方差还存在一个两难，也就是说到一定程度之后，一个的减小必然导致另一个的上升。

具有涌现能力的大模型似乎可以像人一样思考，但是现在的大模型动辄几十亿上百亿参数，Q8量化也要大几十GB的显存，想要部署在现有的车载平台上，还要有亚秒甚至毫秒级别的响应，无异于天方夜谭。

针对驾驶领域举一个简单的例子：要不要刹车？存在两种错误：1. 应该刹车却没刹车；2. 不需要刹车却刹车了。这两类错误只有在非常简单的任务中才有可能同时被压低。到一定水平后（比如说错误率5%甚至10%），一类错误率的降低通常会伴随另一类错误率的上升。按常理分析，第一类错误的后果太严重（比如说这次小米的事故，智驾如果不是提醒接管而是直接刹车，后果可能就没这么惨烈了），应该首先尽可能地降低，但这样就会导致幽灵刹车繁发，严重降低用户体验（不过或许有助于某品牌宣称它的智驾降低了更多的事故），甚至在高速上导致被追尾。是保守还是激进，与算法无关，完全由程序员决定。不过在现实中，智驾似乎还有第三条路就是直接退出甩锅，这样就会犯上面任何一种错误，岂不美哉。

所以说，现有的AI理论体根本就不足以支撑可靠的智能驾驶。某品牌也没有跳出三界超出五行，继续嚣张得瑟，回旋镖很快就会到来。OTA一手遮天的能力再强，也终有盖不住的一天。
--
FROM 139.226.175.*

只需要和人比，
不需要绝对安全
【 在 gdss 的大作中提到: 】
: 首先，现有的AI算法都是概率模型，不是基于逻辑或常识的模型，后者早在上世纪80年代就被证明行不通。  
:  
: 既然是概率模型，就有一定的几率出错，面对的场景越复杂，这个出错的概率会急剧上升。哪怕出错的几率再小，试验多了也一定会发生。  
:  
: 如今概率理论已经非常成熟，理论上已严格证明，
: ..................

发自「今日水木 on HBN-AL00」
--
FROM 101.90.11.21

智驾怎么可能比人脑靠谱，地球上最强的超算也没有人类三岁小孩的智商和判断力。
- 来自 水木社区APP v3.5.7
【 在 Xjt 的大作中提到: 】
: 人类大脑也是概率模型，只要智驾比人驾靠谱就行了
--
FROM 223.104.41.*

但是人可以依据常识、逻辑甚至本能做出反应，现阶段的AI模型永远也做不到。

【 在 anotherstone 的大作中提到: 】
:
: 只需要和人比，
: 不需要绝对安全
: 【 在 gdss 的大作中提到: 】
: : 首先，现有的AI算法都是概率模型，不是基于逻辑或常识的模型，后者早在上世纪80年代就被证明行不通。
--
FROM 139.226.175.*