用于网络安全的智能代理：一种可治理自主性的元认知架构

当前由人工智能驱动的网络安全系统主要以模型为中心，优化任务级性能指标如准确性和响应延迟。尽管这些系统在有限分类任务中有效，但在对抗性不确定性下难以实现可问责的决策。本文主张将网络安全编排重新构想为一个智能代理的多代理认知系统，而非简单的检测与响应流程。我们引入了一个概念性框架，其中负责检测、假设形成、上下文解释、解释和治理的异构AI代理通过显式的元认知判断函数进行协调。该函数在证据不完整、冲突或操作风险较高时动态调整系统自主性。通过整合分布式认知理论、多代理系统研究和负责任的人工智能治理框架，我们证明现代安全运营实际上已作为分布式认知系统运行，但缺乏明确的组织原则。我们的贡献是使这种认知结构在架构上显式化并可治理，通过将元认知判断作为核心系统功能嵌入其中。我们讨论了对安全运营中心、可问责自主性和下一代人工智能赋能的网络防御架构设计的影响。所提出的框架将人工智能在网络安全中的重点从优化孤立预测转向在不确定性下的自主治理。