gpt这种175B参数的别想了，4090就24GB内存，推断单卡只能训2B以下的。
【 在 masterlv 的大作中提到: 】
: 出发点：  
: 1.给自己找个理由买4090显卡。  
: 2.GPT要多接触，今后会越来越深度改变社会，认知模式。  
:  
: 目前基本能做到的：  
: 1.可以在本机部署成熟的，训练好了的GPT低端模型；一般也就是10个G不到，然后可以玩各种问题，让模型输出不同的结果。  
:  
:
: ..................
--
FROM 223.104.68.*