@ 2018.04.09 , 09:00

埃隆·马斯克发出警告:小心AI

埃隆·马斯克发出警告:小心AI

《你相信这台计算机吗?》是最近新出的一部纪录片。在这部纪录片中,亿万富翁埃隆·马斯克表示:人工智能可能会推动“机器独裁者”的诞生,从而永久统治人类。他在影片中说道:

如果某家公司或某群人成功开发出类似上帝的超级智能,那么他们可能会接管世界。至少在出现邪恶独裁者时,人类将会衰落。但人工智能没有死亡,它可以永生。届时将出现我们永远无法摆脱的长生不死的独裁者。

大致说来,他认为政府或其它机构可能创造出危险的人工智能,它会比人类领袖活得更久,永远无法被摧毁——使人工智能民主化能够避免上述状况。

这部纪录片清醒地探讨了人工智能的潜在危险,包括:如果人工智能演化得比人类聪明,变成自己的主人,那会怎样?

我们正在迅速迈向远远超越任何人类的数字超级智能。我认为,这非常明显。我们有五年时间。我100%确定,数字超级智能将在我的有生之年里出现。

超级人工智能的问题在于:如果它变得比人类聪明,那么我们可能会失去对这项技术的控制。影片设想,如果人工智能拥有目标,那么它可能会试图以人类不赞成的方式达成目标——然而,人类却无法阻止它。

人工智能不需要很邪恶,就能够毁灭人类。如果它拥有目标,而人类恰好妨碍到它,那么它就会理所当然地毁灭人类——它甚至不需要考虑,也不存在恶意。这就好比:如果我们在修路,有个蚁冢刚好挡道,我们并不恨蚂蚁,我们只是在修路,所以……再见了蚁冢。

先前,马斯克曾经预测过人工智能的危险本质。去年九月,他在推特上表示,国家间的人工智能竞争最有可能成为第三次世界大战的爆发原因。他认为,人工智能是人类文明的最大风险。

点击此处,观看原纪录片。

本文译自 sciencealert,由译者 蛋花 基于创作共用协议(BY-NC)发布。
原作者:CADIE THOMPSON


给这篇稿打赏,让译者更有动力 !
支付宝打赏 [x]
您的大名: 打赏金额:

4.5
赞一个 (12)

24H最赞