Project DIGITS 是 NVIDIA 推出的个人 AI 超级计算机,3000美元(2.2万左右)
每个 Project DIGITS 都配有 128GB 的统一的高一致性内存和 4TB 的 NVME 存储。利用 Project DIGITS,开发者可以运行包含高达 200B 参数的大语言模型,加速 AI 创新。通过 NVIDIA ConnectX(R) 网络,可以将两台 Project DIGITS AI 超级计算机连接在一起,运行包含高达 4050 亿参数的模型。
所以4台,可以满血运行
量化版的,估计1台可以运行
除了NVIDIA ,还有很多公司在研发,已经有的很贵,新的估计1年半内出来,比如OpenAI自己的,
国产专门的推理卡,估计2年内出来
【 在 aosp 的大作中提到: 】
: 一张卡运行满血deepseek
--
FROM 122.234.9.*