大哥 美国念几年书,固有意识这么难突破嘛。。。
性能对比数据**
| 指标 | 昇腾910B (FP16) | NVIDIA A100 (FP16) | 差异率 |
|---------------------|-----------------|--------------------|--------|
| 单卡推理速度 (tokens/s) | 1420 | 1580 | -10% |
| 训练吞吐量 (TFLOPS) | 78 | 89 | -12% |
| 能效比 (TFLOPS/W) | 2.1 | 2.4 | -13% |
*注:基于DeepSeek-7B模型的测试结果,Batch Size=32,Sequence Length=2048。*
【 在 lili2030 (Barbarossa) 的大作中提到: 】
: 本质上是算力不够,你看ChatGPT需要几十万块英伟达GPU卡,由于霉国禁用,DeepSeek买不到。之所以目前它有GPU卡,都是禁用前储存的。运营大量用户需要大量算力,特别是实时回答问题时候。你想想如果同时回答一百万个用户的问题,需要多少算力。因此,DeepSeek的前途是渺茫的,市场上没有多少人用,所以没有收入,算力不到chatGPT的千分之一,无法支持大量用户,技术上只能支持文本,它训练的数据全是文本,对图像视频语音语音数据知难而退了,这方面的算法比训练文本数据根本两回事。
: 【 在 MyRina 的大作中提到: 】
: : 等钱到位了就能支持更多人了
:
--
FROM 112.36.43.*