人工智能
为了令AI超进化,科学家建议赋予它们弱点和求生意识
我们已经在人工智能领域已经取得了长足的进步,但是之后的路可能非常难走。根据两位研究人员的说法,我们或许应该让AI拥有危机感以及明了自身存在的脆弱性。
就目前而言,AI并没有人类那样的自我意识,也没有为生存而战的需求。如果令AI发展出了这些功能,可能会给它们带来进化的紧迫感。
他们的思想是赋予AI一种动态平衡——需要平衡各种条件,无论是环境温度还是食物和水的需求,以确保生存。
南加州大学的神经科学家Kingson Man和Antonio Damasio表示,这反过来将使AI引擎更有理由改善其行为并提升自身。
Man和Damasio写道:“在充满动荡和不可预测的世界里,聪明的仿人智慧体应该拥有自我保护的元目标,就像依赖于稳态的生物一样——调节身体状态以维持与生命相容的条件。”
简而言之,我们正在谈论赋予机器人以意识。Man和Damasio说,这既可以让AI获得进化方向,也为科学家提供了一个研究感觉和意识本质的平台。
鉴于科技的进步速度,他们的建议或许并非纸上谈兵:如果AI可以拥有触觉和压力感知,那么它也可以认知危险。
研究人员写道:“我们不是通过强化硬件或完善算法,而是相反地,引入漏洞,给AI配置弱点,促使其进化。”
Man和Damasio认为,人工智能在生存压力的驱动下,可能会实现更高级的智能飞越——并变得更像人。
研究人员称,通过将模仿大脑思维模式的软机器人技术与深度学习神经网络相结合,可能不久之后就能创造出具有危机感的机器。
希望他们的自我保护意识最终不会压倒他们对人类造物主的尊重——我们都看过《终结者》,不是吗?
Man和Damasio曾考虑过这一点,他们认为,如果机器人拥有了意识,那他们也会拥有情感——对人类的好感。
“最终,我们的目标是生产能够像人类一样决策和自我控制的机器,” Man和Damasio写道,“我们设想这些机器将达到当今‘自洽’机器人之上的适应性和韧性。”
论文发表在《自然机器智能》上。
本文译自 sciencealert,由 majer 编辑发布。