这个叫ai的自省能力，有这个能力的ai屈指可数。
不过这方面的定量评测我只有比较旧的数据，还远比不上人。
但我觉得claude现在是相当可以的。大部分情况下能自纠成功，少部分需要人提醒下（不是告诉他答案，仅仅是让它停下来想一想），只有极少部分自己绕不出来，通常发生在超长对话中。这个时候重开对话也能快速纠正。
【 在 gaofei 的大作中提到: 】
: 很多时候，ai第一遍写的代码不对，就怎么也改不好了
--
FROM 39.144.104.*

中文，并且一定要用中文。
用英文毕竟非母语，无法精准传递信息
【 在 smthhz 的大作中提到: 】
: 请教个问题，你都是用英语还是中文的提示词？有区别吗？  
--
FROM 222.68.9.*

你个码农整天nb轰轰的，在哪家大厂？年薪几何
- 来自 水木社区APP v3.5.7
【 在 lvsoft 的大作中提到: 】
: 你说的只是ai应用，这种说几句话ai就把软件做出来的东西多的去了。
: 比如你可以去搜搜Cline，它现在基于claude的ai，就已经可以干掉大部分程序员了。
:
: 关键是，这种应用层面的工具都是雕虫小技细枝末节，过一段时间就会冒出来一个，从最初的autogpt到现在的cline，我根本就不关心。真正重要的是驱动这些东西的大模型本身的能力，而o3就是在这一点上体现了它能秒杀99.9%的程序员的能力，在坐的各位能挡住o3的恐怕是没有，包括我自己如果不拼命刷题，我现在也打不到175名这个位置，好歹我当年noip在江苏省是拿了几次第一名，还去过冬令营的。
:
: 所以，现在的大批程序员还没失业你觉得能证明什么？在我看来大部分程序员只是在靠信息差活着而已。
: 无知就是福
--
FROM 219.237.177.*

很多，基本上我把ai当全领域专家用，很多新奇的想法我现在都是先找ai聊天的。但这方面我总体感觉ai会倾向于顺着你的话说，较少提出质疑。举个例子，比如现在ai训练都用bp算法，我就跟ai聊过如何找一种更有效的取代bp的算法。总的来说，在非确定性的探索性问题上，ai的回答缺乏系统性。但跟它交流能获得很多启发性的想法，并且在各种问题细节上也可以详细讨论。

你说的这几个问题也是偏工程的，我感觉也都挺确定的啊，早在gpt4刚诞生的时候就有很多类似的例子，比如有人跟gpt4聊天设计一门新的语言之类的
【 在 beep 的大作中提到: 】
: 再好奇问一下，你前面讲到的感觉大部分都是工程性质的开发，就是人本身也会有确定解法的代码开发。那有没有尝试过用sonnet 3.5做类似科研探索性质的任务呢？比如说，让他给rust或ts开发一个模拟algebraic effect
: 的库？或者退一步，让它写一个魔改版的cpp编译器，学习rust那样强制要求raii？或者，再退一步，假设地，在js只有回调没有promise的那个年代，让它自己发明出一个类似promise的东西？
--
FROM 218.1.145.*

给过程性语言添加algebraic effects不算很确定性吧，现在人类也没有公认比较好的方案

不过你说的我明白了，和人一样，探索性问题要讨论，而不是完全当作任务交代并适当监督敲打给它就完事，对吧？
【 在 lvsoft 的大作中提到: 】
: 很多，基本上我把ai当全领域专家用，很多新奇的想法我现在都是先找ai聊天的。但这方面我总体感觉ai会倾向于顺着你的话说，较少提出质疑。举个例子，比如现在ai训练都用bp算法，我就跟ai聊过如何找一种更有效的取代bp的算法。总的来说，在非确定性的探索性问题上，ai的回答缺乏系统性。但跟它交流能获得很多启发性的想法，并且在各种问题细节上也可以详细讨论。
: 你说的这几个问题也是偏工程的，我感觉也都挺确定的啊，早在gpt4刚诞生的时候就有很多类似的例子，比如有人跟gpt4聊天设计一门新的语言之类的
--
FROM 123.120.175.*