- 主题:什么笔记本的GPU能跑深度学习
训练还是推理
模型多大
这些都要考虑的
具体要看情况
【 在 secretboss (secretboss) 的大作中提到: 】
:
: --
:
:
--
FROM 175.171.64.*
我以前2015的m370x 2g显存
就能跑一些当年的学术派简单框架做一些训练推理还是可以的
但是现如今的大语言模型我就没有接触过了
看过些视频
推理最起码也得8g的显存起吧
要求非常之高
【 在 secretboss (secretboss) 的大作中提到: 】
: 不考虑具体任务，能按普适的情况准备吗？做一些基本的实验
: 【 在 mindcontrol 的大作中提到: 】
: : 训练还是推理
: : 模型多大
--
FROM 175.171.64.*
现在就别选amd的了
用nvidia的
我是苹果用户 别无选择
当年用的pytorch吧
ps 我不是专业级用户 建议仅供参考
【 在 secretboss (secretboss) 的大作中提到: 】
: 看了下这还是AMD的GPU?用什么软件框架可以跑呢？
: 【 在 mindcontrol 的大作中提到: 】
: : 我以前2015的m370x 2g显存
: : 就能跑一些当年的学术派简单框架做一些训练推理还是可以的
--
FROM 175.171.64.*