目前的人工智能
还是不可解释，
非因果的

把这个用在关系到去生命安全之上，必须慎之又慎

我理解
人工智能输出的必需经过第三方验证才能采用
而智能驾驶应用场景无法做到这个
--
修改:dingo2021 FROM 39.144.87.*
FROM 39.144.87.*

本质就是算力不足，现有的车载算力 提升百到千倍，内存提升百倍，算法有两次大革新，就差不多了。
至于可解释性，那都不是事，比如最新的Gemini3 ChatGPT5.1，已经不能说比人的可解释性差多少了，
比DeepSeek更大些的模型如果能车载，L3、L4就差不多了，但还有个前提，速度要提升十到百倍。
10年内几乎不太可能。
--
FROM 123.113.150.*

我发现
AI用来做大学水课作业，
非常方便


【 在 Tomono 的大作中提到: 】
: AI至今没有可落地的应用。
:
--
FROM 39.144.179.*

因为教育都是标准题目和标准答案。

科研就不可能了。

AI没有听说能够代替数学家。


【 在 dingo2021 的大作中提到: 】
: 我发现
: AI用来做大学水课作业，
: 非常方便
: ...................
--
FROM 219.142.236.*

转 二大爷永远是二大爷


老马家端到端FSD这个大“黑盒”真的不可调试么？

一个多小时之前，AK又继续夸自动驾驶，我觉得他这种夸赞，基于的背景依然是FSD V13/v14。

作为回应，AP组的Yun-Tai Tsai（小蔡）回忆了早期和AK工事时候，后者手绘的追踪图。

这追踪图干啥用的呢？在AI领域（如帖子提到的早期FSD神经网络），常用于验证模型计算正确性或优化参数。追踪（Tracing）往往通过日志（logging）或专用工具（如分布式追踪系统）收集时间序列数据。例如，Microsoft的“Trace”框架（参考网页结果）将AI系统视为计算图并优化其行为，类似于反向传播（back-propagation）。它更适合性能优化或复杂系统分析。调试（Debug）更常见于开发阶段，解决具体bug。

追踪可以作为调试的一部分，尤其在复杂系统（如自动驾驶AI）中，追踪数据常用于诊断问题。但调试更聚焦于局部修复，而追踪更宏观，适合长期监控或优化。小蔡提到手绘追踪，反映了早期AI开发的资源限制和直观方法，这与现代自动化的调试/追踪工具（如Trace框架）形成对比。

追踪与调试虽有交叉，但追踪更偏向系统性观察和优化，调试则聚焦错误定位和修复。小蔡回忆的手绘追踪是早期AI开发的独特方式，结合当前技术（如Trace框架），体现了AI从手工到自动化的演进。

现在说到FSD这东西能不能调试了。直接给答案，当然能调试了！

老马家的端到端FSD目前已演变为一个高度集成化的神经网络系统，取代了传统的手动编码堆栈（如v11高速公路模型与v12城市驾驶模型的分离）。这种端到端方法直接从原始传感器输入（摄像头、雷达等）生成车辆运动计划。这意味着系统更像一个“黑盒”，但其可追踪性和可调试性并未完全丧失。

技术支持：现代AI系统通常配备高级追踪工具。将AI模型视为计算图，并通过动态适应（如反向传播优化）进行性能监控。老马家很可能采用了类似技术，结合其自研的神经网络架构（可能基于PyTorch或TensorFlow），记录输入输出、激活值和梯度流。

端到端FSD的追踪可能涉及日志记录：实时捕获传感器数据和模型预测结果。

可视化工具：特斯拉的FSD可视化界面，显示路径规划和障碍物检测。
分布式追踪：在多传感器融合和云端训练中，追踪数据流以优化模型。

局限性：由于端到端模型的复杂性（可能是数亿参数的深度网络），手工追踪已不可行，但自动化工具可以生成详细的执行轨迹，供工程师分析。

重点来说，具体实现咋弄呢？尽管端到端FSD是一个集成系统，调试仍然是开发和维护的关键。特斯拉的工程师可以通过以下方式进行：

1、模块化分析：虽然是端到端模型，内部仍可分解为子任务（如感知、规划、控制），逐层调试。

2、仿真环境：使用模拟器（特斯拉自研平台）重现问题场景，调整权重或结构。

3、A/B测试：部署不同版本模型，比较性能和错误率。

说明，端到端的“黑盒”特性使得传统基于代码的调试（如设置断点）较困难。错误可能源于数据分布变化（corner cases）而非代码逻辑，需依赖数据增强和在线学习。FSD的调试可能涉及手动干预数据集或超参数，但更多依赖自动化工具。

相关研究中提到超过270篇论文分析了方法论和挑战，表明学术界和工业界都在开发支持端到端系统的诊断工具。

总之，当前的端到端FSD仍然可以追踪和调试，但方式已从早期的手工方法转变为自动化、高度数据驱动的流程。追踪通过日志、可视化和分布式工具实现，调试则依赖仿真、模块分析和在线优化。尽管复杂性增加，但老马家的工程团队具备足够能力应对这些挑战。未来，随着模型规模扩大和部署增加，追踪和调试可能更依赖AI辅助工具（如自动错误检测），进一步减少人工干预。这一点，Ashok在ICCV演讲中已经提过了，他当时说的是“可解释性”。

【 在 dingo2021 的大作中提到: 】
: 目前的人工智能
: 还是不可解释，
: 非因果的
: ...................
--
修改:ruige0822 FROM 120.244.215.*
FROM 120.244.215.*