【 以下文字转载自 GreenAuto 讨论区 】
发信人: ruige0822 (ruige), 信区: GreenAuto
标 题: mobileye指责端到端transformer
发信站: 水木社区 (Sun Oct 13 13:13:52 2024), 站内
转
Mobileye认为端到端没有抽象规则的注入，会产生Variance，会自行生成错误，而有人工定义的抽象规则注入，顶多是Bias偏差，偏差当然比错误要好，这就是说端到端数据少了容易过拟合，失去泛化能力，数据多了会因为错误示范数据产生错误。
Mobileye对端到端做了总结，第一条就指责transformer效率太低，完全是暴力拟合，拼的就是算力。
transformer对算力和存储的消耗惊人，即便是最低的10Hz帧率就要100TOPS算力，每个token高达100Mb，9600个tokens是9600*100/8=120GB。这个实际无需Mobileye提出，目前包括特斯拉都还是使用CNN骨干网，即便是用英伟达单张H100也无法实现全Transformer。
--
FROM 120.244.215.*