出发点：
   1.给自己找个理由买4090显卡。
   2.GPT要多接触，今后会越来越深度改变社会，认知模式。

   目前基本能做到的：
   1.可以在本机部署成熟的，训练好了的GPT低端模型；一般也就是10个G不到，然后可以玩各种问题，让模型输出不同的结果。

   那将来能不能做到：@vnn
   1.本机部署GPT高端模型，比如chatGPT4，那参数规模估计会很大，说不定得占用几百G甚至更大的硬盘。
   2.自己尝试训练模型，据我个人的理解，将来可以在通用模型基础上，增加自己个人偏好，设定某些参数。
  


   晚上醒酒，临时想到的，还不够成熟，提出个想法，先请教一下网上的大拿，等白天再继续深化，找人咨询。
  
  
--
修改:masterlv FROM 118.247.82.*
FROM 118.247.82.*

我刚才大致查了一下，好像是openai给开发者提供了可以进行微调的训练接口


////////////////////////////////////////

请问你的GPT的低端模型是从哪里搞得

是 OpenAI 给程序员开放提供的吗？

OpenAI 好像没开源，你说的 GPT 低端模型是什么形式？
自己对模型进行训练有多大自由度？

【 在 masterlv 的大作中提到: 】
: 出发点：
:    1.给自己找个理由买4090显卡。
:    2.GPT要多接触，今后会越来越深度改变社会，认知模式。
: ...................
--
修改:pixYY FROM 120.225.117.*
FROM 120.225.117.*

你基本上啥都不了解啊，自己部署gpt4是不可能的，训练更是痴心妄想。
训练gpt4需要的资源是25000张A100，90天时间。换算成4090，考虑的显存至少得翻个倍吧。

【 在 masterlv 的大作中提到: 】
: 出发点：
:    1.给自己找个理由买4090显卡。
:    2.GPT要多接触，今后会越来越深度改变社会，认知模式。
: ...................
--
FROM 180.111.51.*

gpt这种175B参数的别想了，4090就24GB内存，推断单卡只能训2B以下的。
【 在 masterlv 的大作中提到: 】
: 出发点：  
: 1.给自己找个理由买4090显卡。  
: 2.GPT要多接触，今后会越来越深度改变社会，认知模式。  
:  
: 目前基本能做到的：  
: 1.可以在本机部署成熟的，训练好了的GPT低端模型；一般也就是10个G不到，然后可以玩各种问题，让模型输出不同的结果。  
:  
:
: ..................
--
FROM 223.104.68.*

4090可能不够训练，显存不够
但咱们可以用cpu训练呀，单机cpu平台 内存轻松上1T
--
FROM 120.244.234.*