美国DARPA发布“内在认知安全”项目

作者: 2024-01-26 14:57 来源:
放大 缩小

1016日,美国国防高级研究计划局(DARPA)发布内在认知安全ICS)项目[1],旨在利用计算科学技术打造战术混合现实系统,以保护人类用户免受认知攻击的影响。

混合现实技术在军事任务中日益普及,包括涉及徒步步兵的作战任务。然而,使用混合现实系统的用户容易受到对手各类攻击,如信息过载导致设备延迟、诱发身体疾病、现实世界物体植入显示屏、破坏个人区域网络、注入虚拟数据分散注意力、假警报制造混乱以及通过眼动追踪器评估使用者状态等。ICS项目将在混合现实系统开发中通过明确创建和分析认知等模型来扩展形式化方法,保护作战人员免受对手攻击,具体包括两个技术领域。

1、混合现实认知。包括两个子领域:①创建认知保障,确保混合现实系统使用者的安全,并克服下述挑战:缺乏解决混合现实漏洞的保障;需要使用适合从模型证明的语言来表达保证;需要能在混合现实系统上实施的保障。目前的解决方案有:利用认知工程原理来识别负面攻击影响和缓解措施;制定保障,将混合现实设备的操作与使用现有形式化方法语言的攻击效果联系起来;使用认知模型支持的规范语言让保障形式化;在原型中展示保障能驱动系统需求。②构建认知模型,针对混合现实系统用户进行推理,并克服下述挑战:缺乏与混合现实系统漏洞相关的认知模型;需创建对人类行为具有充分保真度的模型;需要支持对保障进行自动推理的可分析数学模型。目前的解决方案有:使用认知堆栈的工程相关元素构建支持建立特定保障的模型;使用能实现现有形式化方法推理工具的语言,开发可实现混合现实保障证明的推理框架;根据现有的认知工程原理验证模型,根据需要进行实验去完成这些模型。

2、评估。评估模型、证明和保障的有效性:通过将新研究与现有研究进行比较,验证技术领域1提供的模型是高保真的;使用自动推理工具验证技术领域1提供的保障证据;验证技术领域1提供的原型实施与已证明的保障假设一致。                               (黄茹)



[1] Intrinsic Cognitive Security (ICS). https://sam.gov/opp/cfaf7a3e51fc4f62ae4120f88d52f418/view


附件: