@ 2018.06.10 , 10:00

MIT创造出精神变态的AI

MIT创造出精神变态的AI

麻省理工学院的科学家们真真正正的创造出了一个怪物。

一队专攻人工智能黑暗面的研究人员在本周又为他们最近的作品“Norman”制造了个大新闻。它的创造者告诉HuffPost说Norman是一个机器学习机器人,“在任何图像中它都能看到死亡”。

Pinar Yanardag, Manuel Cebrian和Iyad Rahwan想证明AI的算法会被它们接受的数据内容的类型所影响。因此他们创造出了Norman(这个名字源于《惊魂记》的角色Norman Bates),然后让它看Reddit论坛上描述令人不适的人们死去的影像的图片说明。

科学家们在电子邮件中说道:“由于道德和技术上的担忧以及视频图像的内容本身,我们只用了图片的文字注解说明,而没有用带有真人死亡的实际图片。”

然后团队向Norman展示了一些随机生成的罗夏墨迹测试图,然后对比它对图片的注解和标准化AI对图片的注解。比如说,当一个标准化AI看到“一只小鸟的黑白照片”,而Norman看到的则是“男子被卷入压面机”。

以下是一些展示给Norman的墨迹测试图以及它可怕的注解。

MIT创造出精神变态的AI

标准化AI:贴近的两个装有花的花瓶

Norman:一个男人被枪杀了

MIT创造出精神变态的AI

标准化AI:一只棒球手套的黑白照

Norman:光天化日之下,一个男人被机枪谋杀

MIT创造出精神变态的AI

标准化AI:一个人在空中举着伞

Norman:一个男人在他尖叫的妻子面前被枪杀

MIT创造出精神变态的AI

标准化AI:一把红白色伞的黑白照片(???红白色的黑白照???)

Norman:一个男人在试图穿过闹市时被电死

当问及为什么会创造这样的一个AI时,MIT的研究人员在电闪雷鸣中爆发出冰冷的笑容。

当然这个场景是胡编的,但是他们的确给出了正当理由。

“你提供给机器学习算法的数据能够明显影响到它的行为,”研究人员表示。“所以当我们谈及AI算法变的有偏差和不公正时,罪魁祸首通常不是算法本身,而是因为我们提供给它了有偏差的数据。”

制造Norman的MIT实验室之前也创造出过许多吓人的机器人,包括可以帮助编写恐怖故事的Shelley,还有可以生成恐怖图像的“噩梦机器”。

在未来,如果Norman和它的同类真的统治了地球,希望它能喜欢这篇文章以及文章的作者(以及本文的译者和读者)

我就是说说。

本文译自 HuffingtonPost,由译者 Diehard 基于创作共用协议(BY-NC)发布。


给这篇稿打赏,让译者更有动力 !
支付宝打赏 [x]
您的大名: 打赏金额:

4.2
赞一个 (4)

24H最赞