- 主题:deepseek 671b r1一出,洋垃圾又要暴涨了
可能DS没学过这个问题
【 在 smthhz (smthhz) 的大作中提到: 】
: 随便问了个一个公开api的问题,错的离谱,同样问题gpt4就很正常,在我看来根本不能用啊
:
: 【 在 coollpe (coollpe) 的大作中提到: 】
: : 作为最强大的模型,它本地运行只需要768G内存,势必大幅增加洋垃圾服务器需求
--
FROM 117.114.192.*
目前cpu还是不行,得gpu。洋垃圾没用
--
FROM 111.198.54.*
显存和内存不是一回事
【 在 coollpe 的大作中提到: 】
: 作为最强大的模型,它本地运行只需要768G内存,势必大幅增加洋垃圾服务器需求
--
FROM 103.61.155.*
CPU+内存也能跑呀,就是慢点。
【 在 igentoo 的大作中提到: 】
: 显存和内存不是一回事
--
FROM 106.37.208.*
正在炒作的风头上,等热度退了,久会发现,其实差不多。。。
我各种平台混着用的,一个不行试另一个,在不同类型问题上不同平台能力确实有差别,但没有哪个能全范围吊打其它平台的
部分人拿了钱,就把这种差别无限放大。。。
【 在 smthhz 的大作中提到: 】
: 没联网,深度也用了也不行,不需要联网,从回答的内容看它的知识库有相关数据,而且是个多年前就有的一个api。可能它对这种问题不擅长吧。它可能强在数学题?感觉大部分实际应用场景都不如别的啊,还经常服务器繁忙。
--
FROM 116.234.1.*
为啥我11G显存跑8b的都得8bit量化+内存混用,直接跑完全起不来啊。。
【 在 sxdxsimple 的大作中提到: 】
: 没错,14b显存需要10.9G
:
--
FROM 124.207.9.*
基本没法用。。。
【 在 MrBright 的大作中提到: 】
: CPU+内存也能跑呀,就是慢点。
:
--
FROM 103.61.155.*
这是经典问题了,好像没有模型不错的
【 在 Acui 的大作中提到: 】
: 怎么搞的
--
FROM 175.160.201.*
既然有官方url,其实应该把url加进去,但是ds界面不见得支持url内容直接加载(不确定)。
这类问题我估计会用cline或者roo cline这类工具配api去用,这类工具会把url内容抓出来,配合你的问题作为上下文去问。
这才是看大语言模型能力的时候;
一般的越专用的知识点,模型回答越随机(幻觉),和它训练过的内容以及出现频次有关。
【 在 smthhz 的大作中提到: 】
: 没联网,深度也用了也不行,不需要联网,从回答的内容看它的知识库有相关数据,而且是个多年前就有的一个api。可能它对这种问题不擅长吧。它可能强在数学题?感觉大部分实际应用场景都不如别的啊,还经常服务器繁忙。
--
FROM 119.57.72.*
那为啥chatgpt的4o直接就回答的没问题,也没联网,cline这些都是到具体写代码阶段了吧,我只是要个示例而以,不需要任何上下文。
【 在 haili (人尔有窍 风吹为籁) 的大作中提到: 】
: 既然有官方url,其实应该把url加进去,但是ds界面不见得支持url内容直接加载(不确定)。
:
: 这类问题我估计会用cline或者roo cline这类工具配api去用,这类工具会把url内容抓出来,配合你的问题作为上下文去问。
:
--
FROM 223.104.194.*