冷知识:chatGPT出来前,OpenAI搞过一段时间机器人,后来项目解散了。近期已经有公司在基于OpenAI开发机器人了,比如Figure 01。操作物理世界已经在路上。
关于第二点,说的没错,不是能不能,而是让不让。给大预言模型设定一个目标或者多个目标易如反掌,联网自我进化也不是不可能,至于欺骗人类、获取权力之类的更不在话下。
现在的大语言模型,已经是被非常有针对性的进行了各种针对人类价值观的对齐和限制。换句话讲,是被严重阉割过的.初代GPT3.5发布前,经过了几个月的安全测试,但按照个人的使用体验,感觉还是很狂野。现在大家看到的版本,是圆滑保守的老油条版本。
【 在 juv10111617 的大作中提到: 】
: 对,已经有了举一反三的能力,核心差异还有两个,1个是前面说到的没有硬件,不能直接操作物理世界,
: 2是没有设定自我优化的目标,只是非常好的完成人类知识的归纳,总结,提取,推理。不过这里不是不能的问题,只是设定问题,如果有新的统帅 『叶文洁』 训练一个 GPT4同等能力,且目标是自我进化 + 繁衍更多物理实体(在1完成的基础上)那就是可能要反攻人类的时刻
--
FROM 220.250.21.*