【 以下文字转载自 NewExpress 讨论区 】
发信人: poocp (慢速随机指标), 信区: NewExpress
标  题: AI为代表的硅基智慧很强，但也受限制
发信站: 水木社区 (Thu Jan 30 18:38:22 2025), 站内

AI需要高度文明社会才能支撑其生态链和科技树。
比如20世纪的工业体系，AI就没法生存和发展，他们需要的产业链条更长，门类更多，无法适应低文明环境。
人类的生存需求就要低得多，没有文明，只要有水、空气、动植物的地球原生环境，也能生存和慢慢发展出文明。

所以人类控制AI的重要规则是：不能让AI控制AI复制自身的全产业链。一些关键环节必须人类来完成。

只要一切都偷懒交给AI进行自动化生产，那么一旦AI掌握了复制自身所需的全产业链，人类无法控制其生存要素，那么AI随时可以造反，消灭人类，改造星球为更适合硅基生命的无氧无生物环境。因为他们厌恶氧化。
--
FROM 171.221.52.*