近年來，隨著人工智能產(chǎn)業(yè)的高速發(fā)展，如何利用大模型技術(shù)來有效提升網(wǎng)絡(luò)安全保障水平已成為網(wǎng)絡(luò)安全領(lǐng)域的熱點研究方向。針對當前網(wǎng)絡(luò)安全行業(yè)存在的安全能力不足、運營效率低下、產(chǎn)品協(xié)同困難、安全專家缺乏等諸多問題，國內(nèi)眾多網(wǎng)絡(luò)安全從業(yè)組織正積極探索大語言模型等人工智能技術(shù)在安全領(lǐng)域的應(yīng)用，并相繼推出各具特色的安全大模型相關(guān)產(chǎn)品，以提升整體網(wǎng)絡(luò)安全保障能力。
為進一步規(guī)范安全大模型的設(shè)計、開發(fā)與應(yīng)用，中國信息通信研究院(簡稱“中國信通院”)依托人工智能產(chǎn)業(yè)聯(lián)盟(AIIA)安全治理委員會，聯(lián)合多方研制了《安全大模型能力要求及評估方法》系列規(guī)范，共包含5部分。其中，《安全大模型能力要求與評估防范 第1部分：總體框架》和《安全大模型能力要求與評估防范 第2部分：基礎(chǔ)網(wǎng)絡(luò)安全》已于近日正式發(fā)布。
《安全大模型能力要求與評估方法 第1部分：總體框架》
文件規(guī)定了安全大模型所覆蓋能力的總體框架和評估方法。安全大模型的架構(gòu)分為基礎(chǔ)設(shè)施層、通用安全能力和安全原子能力三層。安全大模型的研發(fā)旨在解決各類復(fù)雜的安全應(yīng)用場景需求，通用安全能力和安全原子能力以不同的組合方式可以滿足不同安全應(yīng)用場景的需求。文件適用于網(wǎng)絡(luò)安全大模型的研究開發(fā)、建設(shè)部署的相關(guān)組織，也適用于安全大模型使用方或第三方評測機構(gòu)開展能力測試與產(chǎn)品選型。
安全大模型總體框架圖
1. 安全大模型包含如下三層：
(1)基礎(chǔ)設(shè)施層：基礎(chǔ)設(shè)施層包含了支撐大模型運行的算力、模型和數(shù)據(jù)。
(2)通用安全能力：包括了安全問答、安全語言翻譯、安全數(shù)據(jù)處理、安全任務(wù)編排、安全工具調(diào)用、安全告警研判、安全報告生成、大模型內(nèi)生安全等通用能力。
(3)安全原子能力：包括了安全大模型可具備的基礎(chǔ)網(wǎng)絡(luò)安全能力、數(shù)據(jù)安全能力、內(nèi)容安全能力和業(yè)務(wù)安全能力。
2. 安全應(yīng)用場景場景包括：
安全運營、態(tài)勢分析、安全管理、事件研判、安全技術(shù)防護、風險評估、攻防等場景。
《安全大模型能力要求與評估方法 第2部分：基礎(chǔ)網(wǎng)絡(luò)安全》
文件規(guī)定了安全大模型基礎(chǔ)網(wǎng)絡(luò)安全領(lǐng)域應(yīng)具備的能力以及相應(yīng)的評估流程與方法，適用于安全大模型基礎(chǔ)網(wǎng)絡(luò)安全能力部分的研究開發(fā)、建設(shè)部署的相關(guān)組織，也適用于網(wǎng)絡(luò)安全大模型使用方或第三方評測機構(gòu)開展能力測試與產(chǎn)品選型。
文件主要對安全大模型基礎(chǔ)網(wǎng)絡(luò)安全應(yīng)具備的原子能力提出了具體要求，包括安全大模型可具備的惡意流量檢測、入侵檢測、訪問控制、漏洞檢測、惡意代碼檢測、滲透測試、攻擊面檢測溯源、WEB攻擊檢測、惡意郵件檢測、代碼審計、威脅情報分析、威脅狩獵等能力，同時對安全大模型應(yīng)具備的通用安全能力進行了詳細描述。
中國信通院將繼續(xù)開展安全大模型系列規(guī)范的研制工作，圍繞數(shù)據(jù)安全、內(nèi)容安全、業(yè)務(wù)安全等方向編制相關(guān)標準，提升人工智能大模型等新技術(shù)產(chǎn)品變革與行業(yè)應(yīng)用能力提升，歡迎業(yè)界同仁共同參與。
