- 主题:facebook的AI模型，有人已经跑通了
现在苹果的M1已经能跑得起stable diffusion了,速度还不慢，按说 8gen2 的GPU号称比苹果还强，那岂不起飞了
【 在 lyqcchl 的大作中提到: 】
: llama.cpp 确实这个感觉还是挺有前途的.
: 私人/私有化定制
: 如果还能导入私有数据,
: ...................
--
FROM 114.251.196.*
按需申请就行，公司负担得起。
【 在 lyqcchl (落叶秋池) 的大作中提到: 】
: 来呀, 燥起来.
: 公司多少张A100
:
: 【 在 juranjue 的大作中提到: 】
--
FROM 58.48.36.*
这叫quantization
能用int8就不用fp16，能用tf32就不用fp32
【 在 lyqcchl 的大作中提到: 】
: llama.cpp 确实这个感觉还是挺有前途的.
: 私人/私有化定制
: 如果还能导入私有数据,
: ...................
--
FROM 218.12.19.*
就是intel版的苹果也可以跑
token生成远超过人眼阅读速度
【 在 zli07 的大作中提到: 】
: 现在苹果的M1已经能跑得起stable diffusion了,速度还不慢，按说 8gen2 的GPU号称比苹果还强，那岂不起飞了
--
FROM 218.12.19.*
除了打游戏, 还能生产力了
【 在 zli07 的大作中提到: 】
: 现在苹果的M1已经能跑得起stable diffusion了,速度还不慢，按说 8gen2 的GPU号称比苹果还强，那岂不起飞了
:
--
FROM 114.250.177.*
私有化数据, 装入手机,llama.cpp,有研究吗
【 在 tgfbeta 的大作中提到: 】
: 这叫quantization
: 能用int8就不用fp16，能用tf32就不用fp32
--
FROM 114.250.177.*