如何对机器人进行道德教育？讲故事呀！

[-]

为机器人阅读故事？那么你会被当成一个十足的怪胎。而教授机器人阅读故事？那么你将得以预防一场机器人末日大灾难。这个堂吉诃德式(即空想而不切实际)的想法被命名为“堂吉诃德”，它是由佐治亚理工学院的娱乐智能实验室的主任Mark Riedl所研发的一项技术。

研究人员基于以往的“谢赫拉莎德”研究，进一步发展出“堂吉诃德”技术。它会为机器人呈现一些故事，而这些故事所阐述的内容是被人们所认可的寻常行为，比如帮助他人、准时不迟到、不要毁灭人类等等。这些故事来源于网民，他们为角色选择了正确的、或被社会所认可的行为，就像“choose your own adventure”(选择你自己的探险)这则故事一样。

如果人工智能所做的决定和故事中的良好行为相匹配，那么该技术就会对其进行“奖励”(基本上就是些机器金星)。但如果它们的行为不符合故事中的道德准则，那么他们便会对该行为进行消极强化。Riedl表示：

我们相信，人工智能必须适应人类的文化、接纳特定社会的价值观念。在这种情况下，它们将尽力避免无法被人们所认可的行为。在没有人类用户进行指导时，赋予机器人阅读和理解我们的故事的能力或许是最为权宜的办法。

在其它方面，这些故事对人工智能而言同样颇具价值。公司正在探索如何用儿童故事来教授人工智能进行语言解析，以使它们成为更好的虚拟助理。因此，从伦理道德到办公业务，这些基础故事都可以帮助机器人更好地融入我们的世界、而非毁灭我们的世界。

从此以后，机器人和人类过上了幸福的生活。

本文译自 popsci，由 蛋花 编辑发布。