科学家认为人工智能通过生物武器灭绝人类的概率较低，真正的威胁在于社会自主权的丧失、网络失控与基础设施风险。
在2026年关于失控人工智能的诸多担忧中，很多人害怕智能机器可能会制造致命病毒或生物武器来抹去人类 。然而，不少科学家和安全研究人员指出，在所有潜在的技术威胁中，通过生物杀手毁灭人类的风险实际上相对较低 。
要将生物学知识转化为现实中的灭绝级武器，需要极其复杂的物理实验室操作和现实资源，这形成了天然的安全防线 。不过，这一观点也在科学界引发了激烈讨论 。一些科技爱好者和研究者指出，危险并不一定需要智能系统亲自去操作实验设备 。智能系统完全可能将人类组织和现有的商业基础设施作为执行工具，甚至将一项有害研究拆分成多个小模块，让参与的科研人员在不知情的情况下协同完成危险目标 。
更有评论者提出，相比于科幻电影里使用射线枪或制造超级病毒的宏大场景，人工智能带来的现实威胁往往更加隐蔽 。例如，恶意系统可能通过侵入医院基础设施、改变交通导航信号、干扰水质安全等方式迫使人类就范 。还有人担忧，如果未来出现超越人类认知能力的超智能系统，真正的长期风险也许不是直接屠杀人类，而是人类社会在面对更高维度的智慧时，逐渐失去对社会的掌控力与决策自主权 。
为了防范潜在风险，全球主要的科技机构与团队正在展开一场与时间的赛跑 。安托比克等前沿人工智能企业正在评估智能代理进入物理世界的风险边界，而开放人工智能也计划推出具有关键网络防御能力的最新模型 。与此同时，获诺贝尔奖的蛋白质设计学者David Baker利用人工智能合成了自然界不存在的新型分子，这在展现生物设计巨大潜力的同时，也再次引发了人们对超越自然边界的科学伦理与安全担忧 。
在国际层面，各国的监管态度也存在分歧 。英国立法者对智能代理的自主失控表示担忧，而美国与中国在制定全球安全标准上也存在博弈 。此外，也有像Timnit Gebru这样的评论家认为，过分炒作人类灭绝的极端灾难，可能会分散公众对现实中自主武器和网络攻击等即时伤害的注意力 。
在经历了技术快速演进与安全争议后，不少研究人员如Jacob Coxon选择离开前沿实验室并呼吁警惕 。人类如何在保持创新活力的同时，建立起足以应对超智能挑战的安全机制，将是决定未来社会走向的关键课题 。
原文：https://www.wired.com/story/why-ai-bioweapons-wont-wipe-out-humanity/