AI Dungeon：先锋跑团游戏利用AI生成剧情文本，遭遇意外问题

犹他州的创业公司Latitude推出名为AI Dungeon的先锋网络游戏，向用户展示了一种全新的人机协作形式。该公司利用人工智能公司OpenAI的文本生成技术，创造出一款灵感源于《龙与地下城》的冒险游戏。当玩家打出他们希望自己的角色执行的动作或对话时，算法将生成个性化的、不可预测的下一阶段的内容。

去年夏天，OpenAI让Latitude提前接触到他们的强大商业版本AI。如今，OpenAI把与AI Dungeon的双赢合作，作为技术与商业完美结合的案例写入了宣传材料。

然后，上个月，OpenAI发现，AI Dungeon存在某个漏洞。最近有监控系统显示，一些玩家输入的词语生成了儿童色情故事。OpenAI要求Latitude立即采取行动。OpenAI首席执行官萨姆·奥特曼(Sam Altman)在一份声明中说："在某些情况下，内容审核的决定是困难的，但这一次不是。这不是我们想要的人工智能的未来。"

上周，Latitude开启了审核系统，在玩家之中引起了不满。一些人抱怨审核系统过于敏感，就连"8-year-old laptop"都发不出。另一些人说，游戏运营计划人工审查被标记的内容，那将构成不必要的、对用户虚构的私密创作的窥探——确实，本来这些作品是成人向的，但只涉及成年人——这是AI Dungeon的正确玩法。

简而言之，Latitude试图将人和算法结合起来，对由人和算法产生的内容进行监管，结果却迎来一篇嘘声。在Twitter和AI Dungeon的官方Reddit和Discord社区，愤怒的用户群体威胁卸载游戏。

"社区感到被背叛了，Latitude要扫描并人工访问和阅读私人虚构的文学内容。"一位AI Dungeon的玩家说，她的名字叫Mimi，在AI的帮助下，她估计总共写出了超过100万字，包括诗歌、暮光之城的同人和情色冒险。

Latitude官方发言人说，其过滤系统和可接受内容的政策都在不断完善。工作人员以前曾把利用AI Dungeon制造以儿童为主角的色情内容的玩家拉入黑名单。但在OpenAI最近的警告之后，该公司正在进行 "必要的改变"。Latitude上周在一篇博客文章中承诺，AI Dungeon将 "继续支持其他NSFW内容，包括双方同意的成人、暴力和亵渎向内容"。

阻止人工智能系统创建某些类型的性或成人内容，同时允许其他内容，将是困难的。如同OpenAI的技术可以生成许多不同风格的文本，因为它是使用机器学习算法建立的，这些算法已经消化了从网络上搜刮来的数十亿文字的语言统计模式，包括未成年人的部分。该软件能够完成惊人的模仿，但并不像人类那样理解社会、法律或流派。再加上智人(Homo internetus)疯狂的创造力，输出的结果可能是奇怪的，美丽的，或者有毒的。

OpenAI在2019年底将其文本生成AI作为开源技术发布，但在去年升级到GPT-3后，变成了商业付费业务。

参考 https://www.wired.com/story/ai-fueled-dungeon-game-got-much-darker/

游戏网址：https://play.aidungeon.io/