- 主题:为啥要分内存和显存?
直接内存里跑deepseek不行吗?
--
FROM 112.236.127.*
cpu 和 gpu 设计在一起的时候就是这样的。
但问题是现在 cpu 厂商是农企和牙膏厂,gpu 厂商是核弹厂。没有整合在一起。所以各自有自己的内存。
农企的 apu 和水果公司的 m4 芯片,把 cpu/gpu 设计在一起,这时候,内存也同时是显存。
【 在 chylli 的大作中提到: 】
: 直接内存里跑deepseek不行吗?
--
FROM 120.37.20.*
谢谢
【 在 hgoldfish 的大作中提到: 】
: cpu 和 gpu 设计在一起的时候就是这样的。
: 但问题是现在 cpu 厂商是农企和牙膏厂,gpu 厂商是核弹厂。没有整合在一起。所以各自有自己的内存。
: 农企的 apu 和水果公司的 m4 芯片,把 cpu/gpu 设计在一起,这时候,内存也同时是显存。
: ...................
--
FROM 112.236.127.*
模型运行的时候要整个刷一遍,大点的模型ddr4/ddr5带宽都跟不上,慢,内存里跑70b一秒吐一个字
【 在 chylli 的大作中提到: 】
: 直接内存里跑deepseek不行吗?
--
修改:Jacqueline FROM 116.235.194.*
FROM 116.235.194.*
技术上是可以2合1的
但两者的性能相差太多了
如果合并之后都向显存方向靠(apple的统一内存模式),那价格贵死人
如果合并之后都向内存方向靠(核显模式),那速度慢死人
所以,还是各干各的吧
【 在 chylli 的大作中提到: 】
: 标 题: 为啥要分内存和显存?
: 发信站: 水木社区 (Fri Feb 7 20:26:36 2025), 站内
:
: 直接内存里跑deepseek不行吗?
:
: --
:
: ※ 来源:·水木社区 mysmth.net·[FROM: 112.236.127.*]
--
FROM 114.242.33.*
其实吧。果子的统一内存才是王道。虽然现在价格贵。但是慢慢地都可以降下来啊。
不说服务器。我觉得以后的手机芯片应该是级层架构,从上到下依次是:
1. GPU
2. CPU
3. 超级 L3 cache, 容量至少 8GB
4. 3D Point
然后呢。把 L3 cache + 3D Point 融合起来搞 1TB 的内存。
这四层依次叠起来。都放到金刚石里面。
以后不再需要单独的内存了。这样的架构虽然不适合服务器,但是放到手机上可以搞出 1TB 的内存省电集成度又高。
【 在 cha 的大作中提到: 】
: 技术上是可以2合1的
: 但两者的性能相差太多了
: 如果合并之后都向显存方向靠(apple的统一内存模式),那价格贵死人
: ...................
--
FROM 120.37.20.*
众所周知,光速是一个物理上限。
而主频1Ghz,对应的时间只够光速走30厘米。
现在的CPU,内存,gpu,显存,普遍都远不止1ghz。所以别的先不谈,全部在内存里跑,光在物理上的产生的问题,就是延迟太高
【 在 chylli 的大作中提到: 】
: 直接内存里跑deepseek不行吗?
--
修改:lvsoft FROM 222.68.51.*
FROM 222.68.51.*
昨天看新闻预测
苹果m5要出单独的gpu了
规模小统一可以
规模大还得分家
【 在 hgoldfish (老鱼) 的大作中提到: 】
: 其实吧。果子的统一内存才是王道。虽然现在价格贵。但是慢慢地都可以降下来啊。
:
: 不说服务器。我觉得以后的手机芯片应该是级层架构,从上到下依次是:
:
--
FROM 113.235.217.*
任何计算机有640k内存已经足够了
【 在 hgoldfish 的大作中提到: 】
: 其实吧。果子的统一内存才是王道。虽然现在价格贵。但是慢慢地都可以降下来啊。
: 不说服务器。我觉得以后的手机芯片应该是级层架构,从上到下依次是:
: 1. GPU
: ...................
--
FROM 183.30.223.*
记得当年我用16k内存
【 在 fxl 的大作中提到: 】
: 标 题: Re: 为啥要分内存和显存?
: 发信站: 水木社区 (Sat Feb 8 10:20:11 2025), 站内
:
: 任何计算机有640k内存已经足够了
:
:
: 【 在 hgoldfish 的大作中提到: 】
: : 其实吧。果子的统一内存才是王道。虽然现在价格贵。但是慢慢地都可以降下来啊。
: : 不说服务器。我觉得以后的手机芯片应该是级层架构,从上到下依次是:
: : 1. GPU
: : ...................
:
: --
:
: ※ 来源:·水木社区 mysmth.net·[FROM: 183.30.223.*]
--
FROM 202.98.17.*