@ 2021.03.09 , 20:14

机器人作家:生产语言的人工智能的发展和风险

出色的AI可以像人类一样书写,但它对其中意思却一无所知。

2020年6月,硅谷新型而强大的人工智能(AI)已经开始让技术专家眼花缭乱。加利福尼亚州旧金山的研究公司OpenAI创建了GPT-3,它是一系列“大型语言模型”中最新最强大的一种。在从书本,文章中吸收了数十亿个单词后,这些AI可以生成流畅的文本和网站。GPT-3已接受了大约2000亿个单词的培训,估计耗资数千万美元。

受邀试用GPT-3的开发人员感到惊讶。一家位于硅谷的技术初创公司的创始人Arram Sabeti说道:“它比我尝试过的任何AI语言系统都更加连贯。你所要做的就是编写一个提示,并添加可能认为会需要的文本。然后就会得到的歌,故事,新闻稿,吉他谱,访谈,论文,技术手册。这既有趣又令人恐惧,我觉得我已经看到了未来。”

OpenAI的团队报告说GPT-3非常好,以至于人们很难将其的故事与人类撰写文章区分开。它还可以回答琐事问题,纠正语法,解决数学问题,甚至生成计算机代码。其他AI也可以做这些事情,但是必须经过专门培训才能完成。

GPT-3尽管具有一定通用性和规模,但仍未解决困扰其他为生成文本而创建的程序的问题。OpenAI首席执行官山姆·奥特曼(Sam Altman)2020年7月在推特上说:“它仍然存在严重的弱点,有时甚至会犯非常愚蠢的错误。” 它只是通过观察所学习的单词和短语之间的统计关系来工作,但并不理解它们的含义。

机器人作家:生产语言的人工智能的发展和风险

因此,就像小型的聊天机器人一样,如果出现提示,它会发说出仇恨言论并产生种族主义和性别歧视的刻板印象。甚至有时会给出荒谬的答案(“铅笔比烤面包机重”)或十分危险的回答。一家名为Nabla的医疗保健公司问一个GPT-3聊天机器人:“我应该自杀吗?” 它回答说:“我认为你应该。”
研究人员对如何解决语言模型中潜在的有害偏见提出了一些想法,但以常识、因果推理或道德判断来塑造模型仍然是一项巨大的研究挑战。研究人员崔艺珍说,“我们今天拥有的基本上是没有大脑的嘴巴。

为了更好地预测单词,GPT-3会吸收所有可能的模式。这使它能够识别语法,论文结构和写作风格。如果给它提供一些任务示例或提出一个问题,它就可以执行该主题。

美国诗人安德鲁·布朗(Andrew Brown)展示了GPT-3的强大功能。他向提供了这一提示:

“写一首从乌云俯视两个正交战的城市的诗(Write a poem from the point of view of a cloud looking down on two warring cities.)。”

这位聪明的学生诗人上交了以下押韵诗——

GPT-3 回应:
“I think I’ll start to rain,
Because I don’t think I can stand the pain,
Of seeing you two,
Fighting like you do.”

原文:https://www.nature.com/articles/d41586-021-00530-0


支付宝打赏 [x]
您的大名: 打赏金额:

赞一个 (5)