虽然不太清楚你的领域的情况，但我看他的回答也是这种感觉，所以你看我后面都在逼着它给出进一步的建议。
我总体感觉上gpt4的训练倾向性，会让它更容易给出偏科普偏宏观的内容，可能对于普通人来说这些信息很有帮助，但对于专业人士来说就是一大堆正确的废话。这是我之前试用后对它评价不高的原因。

另一地方就是它胡编乱造这个事情我之前是被它坑过的...尼玛当时我问了它一个比较小众也比较复杂的问题。然后它编造了一个库宣称可以解决我的问题。我去查了下互联网的某个犄角旮旯还真的有这个库，而且还确实跟我的需求相关...然后我信了，还很开心，花了大概一周的时间大干了一场，最后发现tmd它把我引进了一个大坑...

我这次使用获得的新的体会是，你可以在一个上下文内，把一个很具体很细节的问题抛给它，它基于它全知的知识背景，有可能能给出一些很有用的答案，或者至少是很实用的帮助，或者极大的减少你自己去分析问题的精力。这个是我之前没发现的能力和用法，实践下来我这次还真挺满意的。但要发挥出这个能力，确实需要专业的人不断就着细节问题对着他问。一旦人不能揪出它的问题，修正不了它的错误，它的回答也就拉垮甚至是扯蛋了。

至于你说的这个算法的事，其实gpt4让我佩服的地方恰恰是它对于问题的理解和解释。至于乱试瞎蒙，其实可以要求gpt4猜测一个乱试的方向对代码进行修改，然后再要求它直接给出执行结果，最后再反过来要求它对执行的结果进行解释。gpt4最神奇的地方是它能表现的可以模拟运行了程序，并不需要真的执行...如果gpt4的这个能力能做到100%正确，这尼玛直接就破解了停机问题...实际情况下它当然做不到100%正确，但它能做的很大概率正确。

所以最让我惊讶的就是这种对于各种稀奇古怪的现象描述，对复杂结果背后的理解和解释。这个东西不是那么的显然的，这恰恰是我们人类最引以为豪的点。我们都会认为人当然是超越图灵机的...但现在它至少在表现上，经常给我它也具备了一样能力的感受。

我贴的对话log，可能看起来还不是那么明显，因为最完整的体验在我心中，这个感受真的只能自己去使用才行。要知道里面很多缩写gpt4应该是不清楚的。at32和stm32只是类似，在很多细节上是不同的，很多寄存器名字也取得不一样。gpt4对stm32还算比较了解，但对at32是相当不熟悉，可以说并没有多少背景知识。它大概也跟我们人一样，在套用stm32的背景知识去理解at32。而因为gpt4的上下文规模限制，很多地方我只能把代码片段丢给它，包括格式化也都乱七八糟的，很多log信息也是我自己写的，只有我自己知道。所以在它的视角里，其实是相当缺乏全局信息，信息的噪声也很大。就我给的那些代码片段，我自己读我都要不断跳转去查定义，查手册。我在想如果我的视野只有gpt4的记忆窗口这么大，别人把这种代码和错误现象丢给我，还要我当别人肚子里的蛔虫去猜他知道些啥在想什么，然后让我给出正确的解析，尼玛我也是会很吃力的...但它表现的还挺游刃有余的，就这点，特别突破我认知。

未来gpt4的token空间肯定会继续拓展下去，一旦它的记忆力能涵盖一个完整工程的所有细节，然后智力在提高点，那它的表现，我只能说感受到了恐惧。

【 在 philbloo 的大作中提到: 】
: 先谢谢。
: 首先，它给的方向是显而易见的，但需要更实际的内容才有意义。
: 它给的论文和书我看过一些，因为有几篇是超高引用的。但貌似没有聚焦在这个问题上的书或论文。这个问题的大范畴（B 和 M reduction）比较旧，但引入了 LSB 和 arith masking 是相对来说比较新的东西（最近10年才开始有人关注，最近两年是热点问题）。所以对它来说挑战太大。
: ...................
--
修改:lvsoft FROM 180.111.27.*
FROM 180.111.27.*

md...
现在ai领域的paper进展真的是按天更新的...
微软刚发的论文，把transformer的token扩展到了10亿规模...
https://arxiv.org/abs/2307.02486

真的是说啥来啥
【 在 lvsoft 的大作中提到: 】
: 刚看到一篇新paper，
: https://arxiv.org/pdf/2306.09896.pdf
: 这篇paper的做法是让gpt自省，也即自己给自己生成的程序进行分析反馈指导，然后看在给定token预算的情况下这样迭代下去的提升。
: ...................
--
FROM 223.104.147.*