3b、6b、7b模型都可以单卡训练
3b用fp16 参数只需6G显存，训练时双倍参数量 需12G显存。
优化函数再来点，其他杂七杂八来点，随机梯度下降肯定可以训

6b、7b如果用int8，训练也无压力

如果再用上deepspeed，搞数据并行、模型并行、load to NVME，更大模型单机训练也应该可以
--
FROM 120.244.234.*