- 主题:什么笔记本的GPU能跑深度学习
--
FROM 124.126.1.*
训练还是推理
模型多大
这些都要考虑的
具体要看情况
【 在 secretboss (secretboss) 的大作中提到: 】
:
: --
:
:
--
FROM 175.171.64.*
不考虑具体任务，能按普适的情况准备吗？做一些基本的实验
【 在 mindcontrol 的大作中提到: 】
: 训练还是推理
: 模型多大
: 这些都要考虑的
: ...................
--
FROM 124.127.12.*
我以前2015的m370x 2g显存
就能跑一些当年的学术派简单框架做一些训练推理还是可以的
但是现如今的大语言模型我就没有接触过了
看过些视频
推理最起码也得8g的显存起吧
要求非常之高
【 在 secretboss (secretboss) 的大作中提到: 】
: 不考虑具体任务，能按普适的情况准备吗？做一些基本的实验
: 【 在 mindcontrol 的大作中提到: 】
: : 训练还是推理
: : 模型多大
--
FROM 175.171.64.*
看了下这还是AMD的GPU?用什么软件框架可以跑呢？
【 在 mindcontrol 的大作中提到: 】
: 我以前2015的m370x 2g显存
: 就能跑一些当年的学术派简单框架做一些训练推理还是可以的
: 但是现如今的大语言模型我就没有接触过了
: ...................
--
FROM 124.127.12.*
4060起步，12G起步，
【 在 secretboss 的大作中提到: 】
: --
:
发自「今日水木 on V2217A」
--
FROM 117.136.120.*
现在就别选amd的了
用nvidia的
我是苹果用户 别无选择
当年用的pytorch吧
ps 我不是专业级用户 建议仅供参考
【 在 secretboss (secretboss) 的大作中提到: 】
: 看了下这还是AMD的GPU?用什么软件框架可以跑呢？
: 【 在 mindcontrol 的大作中提到: 】
: : 我以前2015的m370x 2g显存
: : 就能跑一些当年的学术派简单框架做一些训练推理还是可以的
--
FROM 175.171.64.*
现在笔记本大部分8g，12g很少
【 在 maomaogou 的大作中提到: 】
: 4060起步，12G起步，
: 发自「今日水木 on V2217A」
--
FROM 36.110.6.*
一般直接按显存选，通常显存越大一次训练的数据就越多效果相对也越好，显存小每次就只能训练个比较小的子集收敛相对较慢效果也通常不太好。
但也没有绝对的，只能有多少钱办多少事。
【 在 secretboss 的大作中提到: 】
--
FROM 183.63.119.*
macbook，选m3pro m4pro及以上cpu，可以跑小的大语言模型比如7B参数的
【 在 secretboss 的大作中提到: 】
--
FROM 115.171.154.*