美国DARPA发布“有保障的神经符号学习和推理”项目

作者: 2022-10-27 16:32 来源:
放大 缩小
 

63日,美国国防高级研究计划局(DARPA)发布有保障的神经符号学习和推理ANSR)项目征求建议书[1],旨在推进混合人工智能算法,并开发基于证据的技术。

DARPA认为,尽管最近在机器学习算法和保证技术方面有所改进,但高水平的自主性仍然难以实现,其原因有两个方面:数据驱动的机器学习缺乏透明度、可解释性和稳健性,并且有不可持续的计算和数据需求;依靠知识表征和符号推理方法构建的智能应用和自主系统无法完全解决现实世界中遇到的不确定性。ANSR项目试图以新的、混合神经符号的人工智能算法来解决这些挑战,该算法将符号推理与数据驱动的深度学习融合,创建强大、有保障、值得信赖的人工智能系统。ANSR项目将涉及4个技术领域,分别是算法和架构、规范和保证、平台和能力示范、保证测试和评估。

1)算法和架构:开发和模拟新的人工智能算法和架构,将符号推理技术与数据驱动的机器学习深度融合,并将探索和评估一系列适用于无辅助的情报、监视和侦察(ISR)任务的可能架构。

2)规范和保证:设计适用于混合人工智能算法的动态规范,能根据不同任务进行动态调整;同时研究量化特定任务风险的方法,共同保障新算法的正确性和安全性。

3)平台和能力示范:为混合人工智能算法开发工程应用用例和架构,示范和评估其性能。研究团队计划使用ANSR技术在高度密集的城市环境执行无辅助的ISR任务,考察其能否生成一个全面准确的城市共同作业图,并及时描述友好、敌对和中立实体等关键要素,进而演示和评估ANSR的性能。

4)保证测试和评估:开发包括对抗性人工智能在内的测试工具,并针对上述工程应用用例评估ANSR技术,说明其独特优势。(杨况骏瑜)



[1] DARPA’s ANSR to Improving Trustworthy AI. https://www.darpa.mil/news-events/2022-06-03

附件: