@ 2021.05.12 , 00:15

AI Dungeon:先锋跑团游戏利用AI生成剧情文本,遭遇意外问题

犹他州的创业公司Latitude推出名为AI Dungeon的先锋网络游戏,向用户展示了一种全新的人机协作形式。该公司利用人工智能公司OpenAI的文本生成技术,创造出一款灵感源于《龙与地下城》的冒险游戏。当玩家打出他们希望自己的角色执行的动作或对话时,算法将生成个性化的、不可预测的下一阶段的内容。

去年夏天,OpenAI让Latitude提前接触到他们的强大商业版本AI。如今,OpenAI把与AI Dungeon的双赢合作,作为技术与商业完美结合的案例写入了宣传材料。

然后,上个月,OpenAI发现,AI Dungeon存在某个漏洞。最近有监控系统显示,一些玩家输入的词语生成了儿童色情故事。OpenAI要求Latitude立即采取行动。OpenAI首席执行官萨姆·奥特曼(Sam Altman)在一份声明中说:"在某些情况下,内容审核的决定是困难的,但这一次不是。这不是我们想要的人工智能的未来。"

上周,Latitude开启了审核系统,在玩家之中引起了不满。一些人抱怨审核系统过于敏感,就连"8-year-old laptop"都发不出。另一些人说,游戏运营计划人工审查被标记的内容,那将构成不必要的、对用户虚构的私密创作的窥探——确实,本来这些作品是成人向的,但只涉及成年人——这是AI Dungeon的正确玩法。

简而言之,Latitude试图将人和算法结合起来,对由人和算法产生的内容进行监管,结果却迎来一篇嘘声。在Twitter和AI Dungeon的官方Reddit和Discord社区,愤怒的用户群体威胁卸载游戏。

"社区感到被背叛了,Latitude要扫描并人工访问和阅读私人虚构的文学内容。"一位AI Dungeon的玩家说,她的名字叫Mimi,在AI的帮助下,她估计总共写出了超过100万字,包括诗歌、暮光之城的同人和情色冒险。

Latitude官方发言人说,其过滤系统和可接受内容的政策都在不断完善。工作人员以前曾把利用AI Dungeon制造以儿童为主角的色情内容的玩家拉入黑名单。但在OpenAI最近的警告之后,该公司正在进行 "必要的改变"。Latitude上周在一篇博客文章中承诺,AI Dungeon将 "继续支持其他NSFW内容,包括双方同意的成人、暴力和亵渎向内容"。

阻止人工智能系统创建某些类型的性或成人内容,同时允许其他内容,将是困难的。如同OpenAI的技术可以生成许多不同风格的文本,因为它是使用机器学习算法建立的,这些算法已经消化了从网络上搜刮来的数十亿文字的语言统计模式,包括未成年人的部分。该软件能够完成惊人的模仿,但并不像人类那样理解社会、法律或流派。再加上智人(Homo internetus)疯狂的创造力,输出的结果可能是奇怪的,美丽的,或者有毒的。

OpenAI在2019年底将其文本生成AI作为开源技术发布,但在去年升级到GPT-3后,变成了商业付费业务。

参考 https://www.wired.com/story/ai-fueled-dungeon-game-got-much-darker/

游戏网址:https://play.aidungeon.io/


支付宝打赏 [x]
您的大名: 打赏金额:

赞一个 (13)