刚看到一篇新paper，
https://arxiv.org/pdf/2306.09896.pdf

这篇paper的做法是让gpt自省，也即自己给自己生成的程序进行分析反馈指导，然后看在给定token预算的情况下这样迭代下去的提升。

然后结论很有意思，chatgpt3.5自省，没有任何显著的变化。gpt4自省，则能表现出显著的进步。gpt4给chatgpt3.5进行反馈指导，也一样能让chatgpt3.5出现显著的提升。最后是人类加入进来给gpt4进行反馈指导，综合提升是gpt4自省的1.57倍。而且在3个难度级别上（科普级，面试级，竞赛级），人类反馈的提升也是难度越高效果越明显。

所以感觉上人类暂时还是可以松一口气的。但gpt4也在所有的难度级别上都展露了可以自省进步的苗头...以我当年研究alphago的经验，只要能有一点点的监督信号，ai其实就可以飞奔起来了...所以也许质变就在下一个大版本...

【 在 philbloo 的大作中提到: 】
: 你的经验总结一下：提问比回答重要。
:
: 假设机器不仅知道所有的现存知识，而且仅知道其中正确的知识，而且不会编造事实。（不用追究什么是正确，什么是事实，因为我也没法定义）那么如果只插电，人不介入，机器能不能对自己提出没有已知答案的问题，并且做出推演呢？
: ...................
--
修改:lvsoft FROM 49.93.82.*
FROM 49.93.82.*

不错。。。
那么问题来了，stm32的代码生成水平怎样了？
是不是已经能到“写一个f103的片内AD采样程序，外接4个通道”
就能坐等代码编译通过的水平？
【 在 lvsoft 的大作中提到: 】
: 之前觉得gpt4也不咋滴，实际上还是我的使用姿势的问题。
: 最近尝试用gpt4写mcu固件，感受很震撼～～
: 下面我给出2个例子。第一个例子是我自己都对at32的库不熟悉，
: ...................
--
FROM 111.201.134.*

现在gpt4比以前又变得更笨了，我最近也用的很不爽...
真的难以想象，gpt4发布都一年了还没人能追上来，连接近的都没有，以至于gpt4居然能一路负优化到现在...

对了，我说的那个朋友，用gpt4辅助写的canopen rust项目发布了:
https://github.com/atomi-ai/canopen-rust

【 在 dismoon 的大作中提到: 】
: 基本还是爬虫之后胡乱ctrlVctrlC的中专码农水平，让它做开创性工作我从原理上想想基本不可能，甚至我觉得AI的天花板也就是这水平，虽然上次我发帖自嘲我是S13那次，AI还是快速帮我定位到了错误，但是也不可能本质上弄明白是内存溢出，仅仅是定位而已
:
--
FROM 121.225.189.*