今天分享的是:安全牛:2025年Agentic AI 安全技术应用报告
报告共计:127页
《Agentic AI安全技术应用报告》围绕Agentic AI在网络安全领域的应用展开深入研究,涵盖技术原理、应用价值、风险分析、安全理念及产业现状等方面。
1. Agentic AI概述:Agentic AI是能理解目标、自主决策行动以实现业务目标的智能系统,由大模型和智能体组成。其核心能力包括强大的基础模型、规划、工具使用等7种。架构上分为核心层、协调层和接入层,涉及大语言模型、工具与扩展等5个关键组件。在个人助理、企业运营、教育等多领域有广泛应用,且国内外针对其发展出台了一系列政策标准。
2. 在网络安全领域的应用价值:Agentic AI为网络安全带来变革,具备主动威胁检测、自适应防御、自动化事件响应、自动化漏洞修复、预测分析与态势感知等能力。当前网络安全面临AI驱动的智能攻击等挑战,传统防护手段存在局限,Agentic AI可提升网络安全防护能力,推动网络安全升级。
3. 系统风险研究分析:Agentic AI存在多种风险。传统网络安全威胁模型为其风险研究提供基础,行业组织和安全牛分别提出相应的风险研究框架和模型。典型风险包括模型算法风险、系统漏洞与脆弱性风险、数据安全风险、应用安全风险、伦理及合规风险等。
4. 安全理念及管控框架:Agentic AI安全涵盖系统安全和赋能安全两个层面。为此需构建相应的管控框架,包括开发安全和模型增强等6大安全能力,形成风险管理闭环。同时,结合传统网络安全等构建赋能安全实现框架,包含生成式大语言模型层等三层。
5. 安全实施方法:实施安全防护需遵循全生命周期安全管理思路,涵盖开发到退市各环节,同时遵循可审计性等六项原则。通过建立完善的风险管理体系、分层的技术防护体系等措施,增强模型可解释性和透明度,强化对抗性攻击防御等。
6. 应用及产业现状调研:调研显示,多数企业对Agentic AI技术有一定了解但应用尚浅,在应用中面临技术成熟度低等挑战。国内网络安全行业智能化水平正从传统小模型向大模型和Agent应用扩展,产业衍生出AI安全治理和AI赋能安全两大能力,产品交付形态多样。
7. 未来展望:未来,Agentic AI将推动网络安全政策法规完善,加速传统网络安全市场整合。它还会促使安全态势从“被动防御”转向“主动防御”,加速安全垂域大模型私有化和应用,构建以Agent为主的自组织安全生态系统。
以下为报告节选内容