秘密认知算法：让具备“自我意识”的防御系统检测网络和内部攻击

很多重要机构的系统，如输油管线、核电站和医院等，正面临越来越多的来自网络的恶意。针对这一问题，普渡大学的Hany Abdel-Khalik想出了一个强有力的对策：让运行这些网络物理系统的计算机模型具有自我意识和自我修复能力。

利用这些系统数据流中的背景噪音，Abdel-Khalik和他的学生嵌入了无形的、不断变化的、一次性使用的信号，将被动元件变成主动观察者。即使攻击者拥有一个完美的系统模型副本，任何试图引入伪造数据的行为都会被系统本身立即发现并拒绝响应，而不需要等待人类来处置。

普渡大学信息保障与安全教育研究中心(CERIAS)的核工程副教授和研究员Abdel-Khalik说："我们称之为秘密认知。想象一下，有一群蜜蜂在你周围盘旋。一旦你移动一点点，整个蜜蜂网络就会做出反应。在这里，如果有人把手指伸进数据，整个系统就会知道有入侵，它就能纠正被修改的数据。"

今天，能源、水和制造业的关键基础设施系统都使用先进的计算技术，包括机器学习、预测分析和人工智能。员工们使用这些模型来监测其机器的读数，并验证它们是否在正常范围内。通过研究反应堆系统的效率以及它们如何应对设备故障和其他干扰，Abdel-Khalik逐渐熟悉了这些设施采用的 "数字双备份"：数据监测模型的重复模拟，帮助系统操作员确定何时出现了bug。

但渐渐地，他开始对故意而非偶然的故障感兴趣，特别是当恶意攻击者掌握了一个备份时，会发生什么。这并不是一种牵强附会的情况，因为用于控制核反应堆和其他关键基础设施的模拟器可以很容易地获得。还有一个常年存在的风险是，系统内部的某个人，如果能够接触到控制模型，就存在试图破坏的可能性。

"传统上，如果他们对你的模型非常了解，那么你的防御就会被攻破。"团队的应届毕业生Yeni Li说，他的博士研究侧重于使用基于模型的方法检测此类攻击。

Abdel-Khalik说："现在任何类型的系统，如果是基于信息的决策，都容易受到这些类型的攻击。如果你能访问数据，然后你修改信息，那么做决定的人就会把他们的决定建立在假数据的基础上。"

为了挫败这种策略，Abdel-Khalik和核工程专业三年级的研究生Arvind Sundaram找到了一种方法，将信号隐藏在系统的不可观察的 "噪声空间"中。控制模型要处理成千上万个不同的数据变量，但其中只有一小部分实际用于影响模型输出和预测的核心计算。通过稍微改变这些非必要的变量，他们的算法产生了一个信号，这样系统的各个组成部分就可以验证进来的数据的真实性并作出相应的反应。

Sundaram说："当你有相互松散耦合的组件时，系统真的不知道其他组件，甚至不知道自己的存在。它只是对其输入做出反应。当你让它有自我意识时，你就在自己内部建立一个异常检测模型。"

为了增加安全性，这些信号是由系统硬件的随机噪声产生的，例如，温度或功耗的波动。攻击者无法预测或重新创建这些时刻变化的数据签名，即使有内部权限的人也无法破解。

"你开发一套安全的解决方案，你可以信任它，但你仍然必须给别人钥匙。如果那个人背叛了你，那么一切都完了。在这里，我们说，增加的扰动是基于系统本身的噪音。所以我不可能知道系统的噪音是什么，即使是作为一个内部人士。它被自动记录并添加到信号中。"

Researchers create ‘self-aware’ algorithm to ward off hacking attempts