美议员提案:立法禁止AI控制核武器

美国国会议员提出的一项旨在禁止使用人工智能系统发射核武器的法案。

法案名为“禁止自主人工智能发射核武器法案”，它禁止使用联邦资金为没有“有意义的人类控制”的自动系统配置任何核武器。这意味着，如果该法案通过，任何涉及核武器使用的决定都必须由人类来做出，而非机器。

该法案基于现有的美国国防部政策，该政策规定，在所有情况下，“美国将保持人类‘参与’所有对总统启动和终止核武器使用的决定的关键行动”。该法案也遵循了人工智能国家安全委员会的建议，该委员会呼吁美国确认其政策，即只有人类才能授权使用核武器。

该法案的提出者表示，他们认为在增强国家安全目的时使用人工智能是合适的，但是使用人工智能进行核武器部署而没有人类指挥链是鲁莽和危险的，应该被禁止。他们表示，他们希望确保只有人类而不是机器对使用最危险的武器做出生死攸关的决定。

该法案出台之际，正值人们对快速发展(有时难以理解和过度炒作)的生成型人工智能技术的未来潜力感到焦虑之时。一些研究人工智能最流行的大型语言模型的研究人员担心，未来更先进的人工智能系统可能会对人类文明构成威胁。尽管如此，对人工智能造成生存威胁的担忧在更广泛的机器学习社区中仍然存在争议。

据国会议员称，总体目标是降低“核世界末日”的风险并阻止核扩散。

参议院自主人工智能法案核武问题的共同发起人包括伯尼·桑德斯 (I-Vt.) 和伊丽莎白·沃伦 (D-Mass.)。

https://arstechnica.com/information-technology/2023/04/nuke-launching-ai-would-be-illegal-under-proposed-us-law/