@ 2019.02.21 , 14:00

会睡觉的AI效率更高

对我们人类来说,睡眠非常重要。长时间剥夺睡眠的话,搞不好会直接去世。此外,某些自主运行的功能会趁着意识陷入睡眠的时候,修补我们的身体:比如说,让神经元修剪我们在白天建立起来的并无必要的突触连接,好保持大脑的健康。

这个过程被称为突触体内平衡,可以防止大脑内存被无用记忆堆满。或许它也提高了我们的认知表现,而做梦可以让我们整理以往的记忆。

事实证明,如果赋予人工神经网络睡眠和做梦的功能,AI或许会像人类大脑一样变得更加健康。

是的,没错。它的运作方式与人类的神经系统相似。

当然,人工神经网络(ANN)——从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络——不会自发而本能地入睡和做梦。这就是为什么意大利的数学家特意编写了一款被称为Hopfield的会睡觉的神经网络。

“受到哺乳动物大脑中睡眠和做梦机制的启发,我们建议现有的神经网络模型,兼具标准的在线(清醒)学习机制(允许以模式存储外部信息)和离线(睡眠)学习以及巩固的机制。”

当ANN清醒的时候,它不停地学习并存储各种信息。问题是,它的存储容量是有限的。

因此,该团队设计了一种在数学上再现人类睡眠模式的方法——快速眼动睡眠和慢波睡眠,前者被认为可以消除不必要的记忆,后者被认为可以巩固重要的记忆。

ANN的“睡眠”状态也是如此,循环和消除不必要的信息,然后整合剩下的、重要的东西。

结果非常之好。没有睡眠,最大容量是α= 0.14,其中α表示每个突触存储的比特数。当结合睡眠周期时,ANN达到了这种网络的理论极限——α= 1。

模拟的广泛测试验证了他们的结论——允许神经网络偶尔打盹(使用正确的打盹算法)可以提高性能。

萨兰托大学的数学家Adriano Barra说:“我们相信,在认知的过程中——虽然学习和检索肯定会发挥关键作用——睡眠对人工智能来说也是必须的,就像对生物一样。”

我们由衷希望,他们的理论正确无误。

研究成果已发表在《神经网络》期刊上,可以在arXiv上阅读到完整的版本

本文译自 sciencealert,由 majer 编辑发布。

支付宝打赏 [x]
您的大名: 打赏金额:
赞一个 (11)