同意,gpt表现出的逻辑推理能力大概率是从语料中学习到的上下文概率的体现
而且“涌现”这个问题,前段时间有论文反驳过了,观察到的“涌现”现象跟选取的评价函数有关,换个线性的函数就变成线性增长的了
回到写代码的问题上,我最近一直在用copilot和copilot chat写些工具类脚本,咋说呢,还是当成一个增强版的搜索引擎来看待比较合适,用来寻找你不熟悉的库的用法,甚至让它给推荐使用什么库都还是很方便的,但是涉及到小众库或小众功能,在它的语料库中出现得不多的,精度就差很多,会给你瞎编一些用法出来。这一点上就能明显感知到这个东西还只是一个Large Language Model
【 在 tpo 的大作中提到: 】
: gpt目前是语言模型,简单说就是用概率构建输出,让输出的正确率和类人的感觉提高很多
: 并且通过概率,让人感觉甚至涌现出了”智能和意识“?
: 其实他的弱点是逻辑推理。。。目前只是因为语言概率能力的涌现,表现出了一定的逻辑推理能力,但是有人说这个其实是”假象“?
--
FROM 111.198.57.*