我以前2015的m370x 2g显存
就能跑一些当年的学术派简单框架做一些训练推理还是可以的

但是现如今的大语言模型我就没有接触过了
看过些视频
推理最起码也得8g的显存起吧
要求非常之高

  
【 在 secretboss (secretboss) 的大作中提到: 】
:  不考虑具体任务，能按普适的情况准备吗？做一些基本的实验
:  【 在 mindcontrol 的大作中提到: 】
:  : 训练还是推理  
:  : 模型多大  
--
FROM 175.171.64.*