DARPA 准备计划保护混合现实用户免受认知攻击

DARPA 正在整合内在认知安全 ( ICS ) 研究计划，“构建可防御认知攻击的战术混合现实系统”。

随着五角大楼看到混合现实(MR) 在未来的军事任务中变得无处不在，美国国防高级研究计划局( DARPA ) 正在寻求保护用户免受这种混合环境中的认知攻击。

“ICS 计划寻求计算科学的突破性创新，以构建防御认知攻击的战术混合现实系统”

DARPA，内在认知安全 (ICS) 计划，2023 年 10 月

根据 DARPA ICS计划描述，此类攻击可以包括：

• 信息泛滥会增加设备延迟并诱发身体疾病。
• 种植真实世界的物体来压倒显示器。
• 破坏个人区域网络以制造混乱。
• 注入虚拟数据来分散人员的注意力。
• 使用物体以令人困惑的错误警报来压倒用户。
• 通过眼动仪评估用户状态。
• 以及其他潜在的攻击。

除了军事应用之外，DARPA 的新ICS计划还可以让我们一睹商业虚拟宇宙的未来，以及不良行为者如何以邪恶的方式操纵混合现实环境。

犯罪集团、政府和企业可以通过实时操纵混合现实系统来武器化虚拟宇宙，以便能够看到你所看到的、知道你感受到的，并可能植入欺骗性信息以达到预期的反应。

2020 年发表在Procedia Computer Science上的一篇研究论文列出了混合现实环境的五种威胁：

• 输入保护：涉及确保收集并输入到 MR 平台的数据的安全性和隐私性的挑战。

  
  

  • 示例：MR眼镜可以捕获用户桌面屏幕上的敏感信息，例如电子邮件、聊天记录。这些必要的保护可以映射到隐蔽性、不可观察性和不可检测性以及内容感知等属性。

    
    

• 数据保护：从传感器收集的大量数据存储在数据库或其他形式的数据存储中。数据收集的主要威胁是篡改、拒绝服务和未经授权的访问等。

  
  

  • 示例：攻击者可以篡改 MR 目标，以引发系统的不同响应或彻底拒绝服务。除了安全威胁之外，可爱性、可检测性和可识别性也是因连续或持续收集数据而产生的一些隐私威胁。

    
    

• 输出保护：数据处理后，应用程序将输出发送到要显示的MR设备。在 MR 中，应用程序可以访问其他应用程序的输出，因此可以修改这些输出，使其变得不可靠。

  
  

  • 示例：输出显示容易受到物理推理威胁或视觉通道利用（例如肩窥攻击）。这些对用户输入来说都是同样的威胁，特别是当输入和输出接口位于同一介质上或集成在一起时。

    
    

• 用户交互保护：MR 包括利用其他传感和显示接口来实现沉浸式交互。关键前景之一是用户如何在保证信息安全和隐私的情况下分享MR体验。

  
  

  • 示例：敌对用户可能会在这些交互过程中进行篡改、欺骗或否认恶意操作。因此，真正的用户可能会遇到拒绝服务的情况。此外，他们的个人数据可能已被泄露、泄露和使用。

    
    

• 设备保护：MR 接口容易受到恶意和有害的解释，从而导致输入和输出显示信息被发现。

  
  

  • 示例：头戴式显示器 (HMD) 通过其镜头显示内容，其他人可以从外部看到内容，从而导致泄漏和外部观察。相机等设备也被归类为视觉捕获设备，用于捕获和提取从 HMD 泄漏的信息。

    
    

卡巴斯基的一份报告补充道：“虚拟现实和增强现实跟踪数据几乎不可能匿名，因为个人有独特的运动模式。研究人员利用 VR 耳机中收集的行为和生物信息，以非常高的准确度识别出用户——如果 VR 系统遭到黑客攻击，就会出现真正的问题。”

对于 DARPA 的ICS项目，核心技术假设是“可以通过认知保证和模型来扩展正式方法，以保护混合现实用户免受认知攻击。”

由于“认知模型代表了人类感知、行动、记忆和推理的各个方面”，DARPA 的ICS项目将“通过明确创建和分析认知模型和其他模型来扩展正式方法，作为 MR 系统开发的一部分，以保护战士免受对手的攻击。”

“混合现实实时整合虚拟和现实世界，并将在未来的军事任务中无处不在，包括涉及徒步士兵的任务”

DARPA，内在认知安全 (ICS) 计划，2023 年 10 月

多年来，美国国防部 (DoD) 一直在资助研究，为其作战人员配备增强其能力的技术。

例如，DARPA 和国防创新部门 (DIU) 一直在寻求混合现实和手持设备，以便操作员通过一种称为蜂群的军事策略与超过 250 辆自动驾驶车辆进行交互。

2018 年，DARPA 推出了进攻性群体启用战术 ( OFFSET ) 计划，利用增强现实和虚拟现实以及语音、手势和触摸技术，使用户能够同时与潜在的数百个无人平台进行实时交互。

2021 年 3 月， DIU 正在寻找商业解决方案，让士兵能够使用可穿戴和手持控制器操作多种类型的无人机和陆地车辆。

现在，五角大楼正在寻求保护用户免受混合现实环境中的认知攻击。

DARPA ICS计划提出的解决方案是否会进入商业领域以保护虚拟宇宙中的私人公民？

所开发的技术和战术能否用于未来的心理战并以其本身的能力影响战役？

ICS计划提案者日将于 2023 年 10 月 20 日在弗吉尼亚州阿灵顿举行。