人工智能
Google:语音AI会在人类面前自证身份
Google 在开发者大会上公布了一个能模拟人类语音叫外卖的人工智能,但是随之而来的确实大范围的反对声,因为Google的Duplex带来了一个伦理困境,不过Google随后表示这个实验性的系统会「自己表明身份。」这就是说,无论Duplex作为一个消费级产品最终以何种形态出现,都有一个内置的语音声明,会对沟通的另一方表明自己AI的身份。
「我们理解大家对Google Duplex的讨论和评价——如我们在刚开始说的那样,技术的透明度十分重要,」一位Google的发言人对The Verge说到。「我们内置了自证身份的功能,我们会确保系统被合理识别。我们在I/O上展示的只是一个早期测试版,我们会在开发过程中吸收大家的建议。」
Duplex到目前为止都还不成熟,Google的CEO Sundar Pichai在开发者大会的舞台上也只演示了一个预定的功能而已。这个DEMO显示了在使用了DeepMind的新WaveNet语音生产技术和其他自然语言处理技术后,Google Assistant 的声音可以听起来更像人声,这些技术能帮助软件模拟人的语言习惯。例如,Duplex 会使用一些类似「额」和「嗯」等口语词汇,所以能听起来像真人。
然而,这个软件从一开始就是带有欺骗性质的——这演示中骗了一位发廊的客服——这会激起科技评论家们和惧怕无监管AI的人的警惕心。科技评论员Zeynep Tufekci称这次的演示「可怕至极」。而开发者大会观众的反应则是「硅谷丧失了道德感,没有了目标,他们什么都不懂。」
Google最初在一篇由工程师Yaniv Leviathan和Yossi Matias写的博文上说,「对于我们来说,用户和企业在使用这项服务时体验良好是非常重要的,透明度是其中的关键。我们希望澄清打这个电话的初衷,这样大家就能明白当时的语境。」Google将在今年夏天正式将Duplex接入 Assistant platform开始测试前做好这件事情。
不过这家公司可没在开发者大会的舞台上直接说明「自证身份」是一个强制性的特性。随后,在大会结束以后,Google的代表对The Verge说,他们觉得有必要告诉与Duplex说话的人,他们其实在和一个机器对话,而且Assistant团队也会保护该功能不会被滥用,如骚扰电话。现在,Google似乎想确保公众觉得他们在舆论的影响下提升了技术的透明性。这其中就包括Duplex会为了多方利益而「自证身份」。