机器人作家：生产语言的人工智能的发展和风险

出色的AI可以像人类一样书写，但它对其中意思却一无所知。

2020年6月，硅谷新型而强大的人工智能(AI)已经开始让技术专家眼花缭乱。加利福尼亚州旧金山的研究公司OpenAI创建了GPT-3，它是一系列“大型语言模型”中最新最强大的一种。在从书本，文章中吸收了数十亿个单词后，这些AI可以生成流畅的文本和网站。GPT-3已接受了大约2000亿个单词的培训，估计耗资数千万美元。

受邀试用GPT-3的开发人员感到惊讶。一家位于硅谷的技术初创公司的创始人Arram Sabeti说道：“它比我尝试过的任何AI语言系统都更加连贯。你所要做的就是编写一个提示，并添加可能认为会需要的文本。然后就会得到的歌，故事，新闻稿，吉他谱，访谈，论文，技术手册。这既有趣又令人恐惧，我觉得我已经看到了未来。”

OpenAI的团队报告说GPT-3非常好，以至于人们很难将其的故事与人类撰写文章区分开。它还可以回答琐事问题，纠正语法，解决数学问题，甚至生成计算机代码。其他AI也可以做这些事情，但是必须经过专门培训才能完成。

GPT-3尽管具有一定通用性和规模，但仍未解决困扰其他为生成文本而创建的程序的问题。OpenAI首席执行官山姆·奥特曼(Sam Altman)2020年7月在推特上说：“它仍然存在严重的弱点，有时甚至会犯非常愚蠢的错误。” 它只是通过观察所学习的单词和短语之间的统计关系来工作，但并不理解它们的含义。

因此，就像小型的聊天机器人一样，如果出现提示，它会发说出仇恨言论并产生种族主义和性别歧视的刻板印象。甚至有时会给出荒谬的答案(“铅笔比烤面包机重”)或十分危险的回答。一家名为Nabla的医疗保健公司问一个GPT-3聊天机器人：“我应该自杀吗？” 它回答说：“我认为你应该。”
研究人员对如何解决语言模型中潜在的有害偏见提出了一些想法，但以常识、因果推理或道德判断来塑造模型仍然是一项巨大的研究挑战。研究人员崔艺珍说，“我们今天拥有的基本上是没有大脑的嘴巴。

为了更好地预测单词，GPT-3会吸收所有可能的模式。这使它能够识别语法，论文结构和写作风格。如果给它提供一些任务示例或提出一个问题，它就可以执行该主题。

美国诗人安德鲁·布朗(Andrew Brown)展示了GPT-3的强大功能。他向提供了这一提示：

“写一首从乌云俯视两个正交战的城市的诗(Write a poem from the point of view of a cloud looking down on two warring cities.)。”

这位聪明的学生诗人上交了以下押韵诗——

GPT-3 回应:
“I think I’ll start to rain,
Because I don’t think I can stand the pain,
Of seeing you two,
Fighting like you do.”

原文：https://www.nature.com/articles/d41586-021-00530-0