试验阶段,损失都可控,可由此实现一个命令黑名单或者把这类命令监管起来,需要确认再往下执行
就像安装软件过程中,某些节点需要认为确认才能继续
现阶段肯定不能完全信任,可靠监管很必要
【 在 lvsoft 的大作中提到: 】
: 用人不疑,疑人不用。要用ai就需要充分授权,不然没有效率。
: 只是等效于rm -rf / ,实际的过程不是这么简单。
: 这是我在搞我自己的 agent 里面的 sandbox 机制的一个 bug 导致的权限穿透的结果。
: ...................
--
FROM 183.241.166.*