转
Mobileye认为端到端没有抽象规则的注入,会产生Variance,会自行生成错误,而有人工定义的抽象规则注入,顶多是Bias偏差,偏差当然比错误要好,这就是说端到端数据少了容易过拟合,失去泛化能力,数据多了会因为错误示范数据产生错误。
Mobileye对端到端做了总结,第一条就指责transformer效率太低,完全是暴力拟合,拼的就是算力。
transformer对算力和存储的消耗惊人,即便是最低的10Hz帧率就要100TOPS算力,每个token高达100Mb,9600个tokens是9600*100/8=120GB。这个实际无需Mobileye提出,目前包括特斯拉都还是使用CNN骨干网,即便是用英伟达单张H100也无法实现全Transformer。
--
FROM 120.244.215.*