我的机器是16G，装载模型之前系统内存占用7G，装载后12个G，所以模型应该占用5G左右吧，7b模型文件大小我瞅了眼也是4.7G左右，这应该不是巧合。

【 在 Fgps 的大作中提到: 】
: 7b需要多少内存？
: 的确，我也没想到能跑起来，分别跑了1.5b，7b和14b三个规格的模型，1.5b像一个弱智一样，7b的就好了很多，性能也不错， 14b看起来思考得更多，但也更慢， 所以综合来说，可以拿7b来进行下测试。
: 我的机器普通得不能再普通了，绝对不是什么高端机器，而是一台3年前的中低端机器而已，存储就是最普通不过的nvme 512G罢了。
: ...................
--
FROM 113.233.193.*