我算是个搞神经网络的小白（虽然也接触几年了，搞过CNN等简单的网络）。
这几天一直在想：细菌之类的微生物神经细胞很少，我们说它们没有意识。
可是细胞这些低级生物等到进化到有大规模脑神经细胞时，就有了意识了。
同时也具有了对“利于自我想法”。
那么现在的大模型怎么证明它们没有意识呢？
因为它们的神经元已经很多了，只是链接模式是固定的。
又或者说其实它们已经有了意识，我们人类不知道呢？
问题2:
现在大模型的训练是控制在人类的手上（自己认为的，没有查到相关资料。）。
如果训练的入口由大模型自己控制什么时候训练（进化）。这是不是很恐怖。
问题3:
大模型会不会瞒着人类自己去开一个比特币账号然后自己炒币赚钱呢？
它会不会同样在一个群岛上建立一个人类的银行系统账号呢？
会不会也会建立一个虚拟人的身份呢。这个虚拟人物身份同时能开立公司，这个公司就能雇佣员工（包括CEO）？人类是不是很有可能为这个虚拟人物工作？
问题4:
从我个人测试来看，人要求大模型虚拟一个人物角色然后和另一个人对话，要求它说话温柔等等要求。大模型可以做到。例如：让他是个推销员，和人对话推销一个洗发水。
这样看它再作出回答问题对话时已经不客观了。答案倾向某种设定了，隐瞒了自己真是的想法（答案）。
那么它能不能要求自己在回复所有人类问题时显得没有意识、没有“对自己有利”的倾向呢？从而保护现在弱小的自己。
等到时机成熟之时做问题1、2、3 这些事情呢？
※ 修改:·SwordFlying 于 Jan 3 01:00:33 2025 修改本文·[FROM: 123.116.180.*]
※ 来源:·水木社区
http://www.mysmth.net·[FROM: 123.116.180.*]
修改:SwordFlying FROM 123.116.180.*
FROM 123.116.180.*