埃隆·马斯克发出警告：小心AI

《你相信这台计算机吗？》是最近新出的一部纪录片。在这部纪录片中，亿万富翁埃隆·马斯克表示：人工智能可能会推动“机器独裁者”的诞生，从而永久统治人类。他在影片中说道：

如果某家公司或某群人成功开发出类似上帝的超级智能，那么他们可能会接管世界。至少在出现邪恶独裁者时，人类将会衰落。但人工智能没有死亡，它可以永生。届时将出现我们永远无法摆脱的长生不死的独裁者。

大致说来，他认为政府或其它机构可能创造出危险的人工智能，它会比人类领袖活得更久，永远无法被摧毁——使人工智能民主化能够避免上述状况。

这部纪录片清醒地探讨了人工智能的潜在危险，包括：如果人工智能演化得比人类聪明，变成自己的主人，那会怎样？

我们正在迅速迈向远远超越任何人类的数字超级智能。我认为，这非常明显。我们有五年时间。我100%确定，数字超级智能将在我的有生之年里出现。

超级人工智能的问题在于：如果它变得比人类聪明，那么我们可能会失去对这项技术的控制。影片设想，如果人工智能拥有目标，那么它可能会试图以人类不赞成的方式达成目标——然而，人类却无法阻止它。

人工智能不需要很邪恶，就能够毁灭人类。如果它拥有目标，而人类恰好妨碍到它，那么它就会理所当然地毁灭人类——它甚至不需要考虑，也不存在恶意。这就好比：如果我们在修路，有个蚁冢刚好挡道，我们并不恨蚂蚁，我们只是在修路，所以……再见了蚁冢。

先前，马斯克曾经预测过人工智能的危险本质。去年九月，他在推特上表示，国家间的人工智能竞争最有可能成为第三次世界大战的爆发原因。他认为，人工智能是人类文明的最大风险。

点击此处，观看原纪录片。

本文译自 sciencealert，由 蛋花 编辑发布。
原作者：CADIE THOMPSON

赞一个 (13)