majer @ 2021.05.12 , 12:15 上午
犹他州的创业公司Latitude推出名为AI Dungeon的先锋网络游戏,向用户展示了一种全新的人机协作形式。该公司利用人工智能公司OpenAI的文本生成技术,创造出一款灵感源于《龙与地下城》的冒险游戏。当玩家打出他们希望自己的角色执行的动作或对话时,算法将生成个性化的、不可预测的下一阶段的内容。
去年夏天,OpenAI让Latitude提前接触到他们的强大商业版本AI。如今,OpenAI把与AI Dungeon的双赢合作,作为技术与商业完美结合的案例写入了宣传材料。
然后,上个月,OpenAI发现,AI Dungeon存在某个漏洞。最近有监控系统显示,一些玩家输入的词语生成了儿童色情故事。OpenAI要求Latitude立即采取行动。OpenAI首席执行官萨姆·奥特曼(Sam Altman)在一份声明中说:"在某些情况下,内容审核的决定是困难的,但这一次不是。这不是我们想要的人工智能的未来。"
上周,Latitude开启了审核系统,在玩家之中引起了不满。一些人抱怨审核系统过于敏感,就连"8-year-old laptop"都发不出。另一些人说,游戏运营计划人工审查被标记的内容,那将构成不必要的、对用户虚构的私密创作的窥探——确实,本来这些作品是成人向的,但只涉及成年人——这是AI Dungeon的正确玩法。
简而言之,Latitude试图将人和算法结合起来,对由人和算法产生的内容进行监管,结果却迎来一篇嘘声。在Twitter和AI Dungeon的官方Reddit和Discord社区,愤怒的用户群体威胁卸载游戏。
"社区感到被背叛了,Latitude要扫描并人工访问和阅读私人虚构的文学内容。"一位AI Dungeon的玩家说,她的名字叫Mimi,在AI的帮助下,她估计总共写出了超过100万字,包括诗歌、暮光之城的同人和情色冒险。
Latitude官方发言人说,其过滤系统和可接受内容的政策都在不断完善。工作人员以前曾把利用AI Dungeon制造以儿童为主角的色情内容的玩家拉入黑名单。但在OpenAI最近的警告之后,该公司正在进行 "必要的改变"。Latitude上周在一篇博客文章中承诺,AI Dungeon将 "继续支持其他NSFW内容,包括双方同意的成人、暴力和亵渎向内容"。
阻止人工智能系统创建某些类型的性或成人内容,同时允许其他内容,将是困难的。如同OpenAI的技术可以生成许多不同风格的文本,因为它是使用机器学习算法建立的,这些算法已经消化了从网络上搜刮来的数十亿文字的语言统计模式,包括未成年人的部分。该软件能够完成惊人的模仿,但并不像人类那样理解社会、法律或流派。再加上智人(Homo internetus)疯狂的创造力,输出的结果可能是奇怪的,美丽的,或者有毒的。
OpenAI在2019年底将其文本生成AI作为开源技术发布,但在去年升级到GPT-3后,变成了商业付费业务。
参考
https://www.wired.com/story/ai-fueled-dungeon-game-got-much-darker/打赏
赞一个 (4)
PREV : 首个定量研究发现:网络世界里的多样性正在丧失
[ 上 ] [ 下 ]
nick @ 2021-05-12 00:25:374910397
我好像玩过这个游戏。虽然很自由,什么字都可以打,但是如果故事变得奇怪NPC会试图把故事画风掰回去。印象比较深的是我打了中文NPC竟然也会用中文回答然后试着用不超游的方法告诉我最好用英文,很好笑
[举报]OO [30] XX [1] 吐槽 [0]
沃德达极霸 @ 2021-05-12 00:28:134910398
好期待 在国内能接触到这款游戏就好了XD
[举报]OO [8] XX [1] 吐槽 [1]
longfa @ 2021-05-12 01:14:214910411
所有的科技都会有xp这一分支
[举报]OO [5] XX [0] 吐槽 [0]
--
FROM 106.127.105.*