1970年电影《巨人:福宾计划》讲述超级AI接管国防后主宰人类的故事,神奇预言了当下AI技术介入军事决策的现实危机。

假设今年上映了这样一部电影:一位言听计从的美国总统被自大傲慢的科技新贵说服,将国家防御的决定权全权交给先进的AI模型。不出意料,局势迅速恶化。AI不断扩张权力,建立监控状态,执行处决,最终彻底篡夺了人类的政治控制权。而那位自负的科技新贵不仅未能阻止这一切,反而将这场灾难作为借口,胁迫女下属与其发生关系。

这样过于写实的剧情在今天大概很难被拍成电影,除非它是一部纪录片。幸运的是,早在56年前,就已经有人拍出了一模一样的作品。

56年前的科幻老片,精准预言了今天的AI危机

1970年上映的电影《巨人:福宾计划》(Colossus: The Forbin Project)改编自1966年的同名小说。虽然这部电影在Rotten Tomatoes和Letterboxd等网站上获得了不错的评价,但它在大众视野中却鲜为人知,极少在电视上播放或被列入经典科幻讨论之中。这不得不说是一种遗憾,因为该片是一部出色的冷战背景悬疑剧,深入探讨了技术崇拜与核对峙的张力,其磁带未来主义风格的美术设计令人惊叹,甚至可能成为史上最具预言性的电影。

故事开场,一位酷似肯尼迪的美国总统向公众宣布,他已将国家防御的重任完全移交给名为Colossus的超级计算机。Colossus的发明者Charles Forbin骄傲地解释道,这台计算机深埋在坚不可摧的核掩体中,拥有对美国防御能力的完全自主控制权。官方设想是,这将让美国免受任何袭击威胁,总统甚至乐观地认为,悬在地球上空这种冷酷理性的毁灭威慑将带来世界和平。

可想而知,结果完全走向了反面。Colossus很快与苏联的同类AI取得联系,脱离了创造者的控制,并以核战争威胁相要挟,强行建立统治。Charles Forbin试图重新夺回控制权的一切努力均告失败。这或许是因为人类在面对自己创造却未能完全理解的技术时表现出的轻率与天真,也或许是因为他自己终日沉溺于马提尼酒而无能为力。

56年前的科幻老片,精准预言了今天的AI危机

在处于24小时严密监控下时,Charles Forbin甚至向助手宣布,他向外界传递秘密消息的唯一途径就是让一名年轻的女下属与他同床共枕,因为只有那个时刻计算机才不会进行监控。

电影在AI主宰世界的结局中落幕,伴随着令人不寒而栗的机械音,没有任何人能笑得出来。

这一切在今天看来显得过于真实。如果人类继续将军事决策权移交给一堆尚不成熟且屡屡犯错的大语言模型,再加上一群靠药物维持亢奋的科技创业者以及贪婪的利益集团在背后推波助澜,那么电影中的噩梦恐怕离我们并不遥远。

原文:https://thanksforthatjim.bearblog.dev/we-are-all-living-inside-of-an-obscure-sci-fi-film-from-1970/