@ 2024.08.20 , 07:01

研究表明,AI无法独立学习或掌握新技能

根据来自英国巴斯大学和德国达姆施塔特工业大学的新研究,ChatGPT和其他大型语言模型(LLMs)无法独立学习或掌握新技能,这意味着它们对人类不构成生存威胁。

这项研究今天作为第62届计算语言学协会年会(ACL 2024)的会议论文发表。ACL是自然语言处理领域的国际顶级会议。研究显示,LLMs在语言能力上表现出色,能够执行指令,但在没有明确指令的情况下,无法掌握新技能。这意味着这些模型本质上是可控、可预测且安全的。

研究团队得出结论,尽管LLMs正在接受越来越多数据的训练,并且技术仍然可能被滥用,但它们可以继续安全部署。随着模型的不断发展,它们可能会生成更复杂的语言,并更好地遵循明确和详细的提示,但不太可能获得复杂的推理能力。

巴斯大学的计算机科学家、该研究的合著者Harish Tayyar Madabushi博士表示:“认为这类AI对人类构成威胁的普遍观点阻碍了这些技术的广泛应用和发展,同时也转移了我们对真正需要关注的问题的注意力。”

由德国达姆施塔特工业大学的Iryna Gurevych教授领导的合作研究团队,进行了测试LLMs完成从未遇到过任务的实验,这被称为“突现能力”。

例如,LLMs能够回答关于社交情境的问题,而无需进行过明确的训练或编程。之前的研究认为,这是模型“了解”社交情境的结果,而研究人员则表明,这实际上是模型通过已知的“上下文学习”(ICL)能力,在给出少量示例的情况下完成任务的结果。

通过成千上万次实验,研究团队证明了LLMs的指令遵循能力(ICL)、记忆和语言能力的结合,能够解释LLMs所展示的能力和局限性。

Tayyar Madabushi博士说:“人们担心,随着模型越来越大,它们将能够解决我们目前无法预测的新问题,这会带来获得危险能力的威胁,如推理和规划。这引发了大量讨论——例如,去年在布莱奇利公园举行的AI安全峰会上,我们应邀发表了意见——但我们的研究表明,担心模型会自行做出完全出人意料、创新并可能危险的事情是没有根据的。”

“关于LLMs构成生存威胁的担忧并不仅限于非专家,全球一些顶尖的AI研究人员也表达了类似的担忧。”

然而,Tayyar Madabushi博士坚持认为这种恐惧是没有根据的,因为研究人员的测试明确证明LLMs不存在突现的复杂推理能力。

“虽然应对AI滥用的潜在风险,如假新闻的制造和欺诈风险的增加,确实很重要,但基于假定的生存威胁制定法规为时过早。”他说。“重要的是,对于最终用户来说,依赖LLMs在没有明确指令的情况下解释和执行需要复杂推理的复杂任务,可能是一个错误。相反,用户应明确指示模型需要执行的任务,并尽可能提供示例,除非是最简单的任务。我们的研究结果并不意味着AI完全没有威胁。我们只是表明,与特定威胁相关的复杂思维能力的突现并没有证据支持,我们能够很好地控制LLMs的学习过程。因此,未来的研究应该关注模型可能带来的其他风险,例如它们被用于生成假新闻的潜力。”

本文译自 University of Bath,由 BALI 编辑发布。

赞一个 (4)