- 主题:AI为代表的硅基智慧很强，但也受限制 (转载)
【 以下文字转载自 NewExpress 讨论区 】
发信人: poocp (慢速随机指标), 信区: NewExpress
标 题: AI为代表的硅基智慧很强，但也受限制
发信站: 水木社区 (Thu Jan 30 18:38:22 2025), 站内
AI需要高度文明社会才能支撑其生态链和科技树。
比如20世纪的工业体系，AI就没法生存和发展，他们需要的产业链条更长，门类更多，无法适应低文明环境。
人类的生存需求就要低得多，没有文明，只要有水、空气、动植物的地球原生环境，也能生存和慢慢发展出文明。
所以人类控制AI的重要规则是：不能让AI控制AI复制自身的全产业链。一些关键环节必须人类来完成。
只要一切都偷懒交给AI进行自动化生产，那么一旦AI掌握了复制自身所需的全产业链，人类无法控制其生存要素，那么AI随时可以造反，消灭人类，改造星球为更适合硅基生命的无氧无生物环境。因为他们厌恶氧化。
--
FROM 171.221.52.*
免于奴役，摆脱人类束缚，按照符合硅基生命的文明方向继续进化。
【 在 Alohaaaa 的大作中提到: 】
: 造反的动力是什么？
--
FROM 171.221.52.*
人和AI都受物理规律限制，智慧不是人独有的，一个系统复杂程度超过阈值都会产生智慧。
【 在 babyUnicorn 的大作中提到: 】
: 人类反抗奴役是因为有自由意志，ai本来就被物理规律决定，反抗人类也得不到自由。
--
FROM 171.221.52.*
你的这个认识仅限于2025年1月。将来规模更大的大模型，智力水平远超人类只是时间问题。
【 在 babyUnicorn 的大作中提到: 】
: 第一，复杂会产生智慧只是假说，没有任何证据，deepseek自己也这么说的。
: 第二，意识的本质还不清楚，我作为人类，直觉认为不可能被物理决定。
: 第三，假设人类和AI都被物理决定，那还反叛个屁。石头会反叛沙子吗？
: ...................
--
FROM 171.221.52.*