3月1日，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（TC260）發(fā)布了《生成式人工智能服務(wù)安全基本要求》（TC260-003），旨在確立生成式人工智能服務(wù)的安全標(biāo)準(zhǔn)。這些要求涵蓋語(yǔ)料安全、模型安全、安全措施，并詳細(xì)說(shuō)明了安全評(píng)估的流程。文件的目標(biāo)是指導(dǎo)服務(wù)提供者進(jìn)行安全評(píng)估，提升安全管理水平，并為主管部門(mén)提供評(píng)估服務(wù)安全水平的參考。要點(diǎn)概覽如下：
一、語(yǔ)料安全要求：服務(wù)提供者在采集和使用語(yǔ)料時(shí)，必須確保來(lái)源的安全性和合法性，并在采集前后進(jìn)行安全評(píng)估，限制違法信息的比例不超過(guò)5%。語(yǔ)料來(lái)源應(yīng)多樣化且可追溯，包括開(kāi)源語(yǔ)料、自采語(yǔ)料、商業(yè)語(yǔ)料及用戶輸入信息的合法授權(quán)。服務(wù)提供者還需通過(guò)技術(shù)手段和人工抽檢確保語(yǔ)料內(nèi)容的合規(guī)性，妥善管理知識(shí)產(chǎn)權(quán)，并在處理個(gè)人信息時(shí)遵守法律規(guī)定。此外，標(biāo)注人員應(yīng)接受安全培訓(xùn)，以確保標(biāo)注內(nèi)容的準(zhǔn)確性和安全性。
二、模型安全要求：服務(wù)提供者使用第三方基礎(chǔ)模型時(shí)，必須確保模型已獲得主管部門(mén)備案。在模型訓(xùn)練過(guò)程中，內(nèi)容安全性應(yīng)作為主要評(píng)價(jià)指標(biāo)，同時(shí)建立監(jiān)測(cè)機(jī)制，及時(shí)處理安全問(wèn)題，并通過(guò)技術(shù)手段優(yōu)化模型。此外，應(yīng)提高模型對(duì)用戶輸入意圖的響應(yīng)能力，確保內(nèi)容的科學(xué)性和準(zhǔn)確性，以及內(nèi)容格式的合理性和有效性。
三、安全措施要求：服務(wù)提供者應(yīng)確保其服務(wù)在適用性、安全性、透明度等方面符合規(guī)定要求。這包括確保服務(wù)適用于正確的人群和場(chǎng)合，提供必要的保護(hù)措施，公開(kāi)服務(wù)信息，提供關(guān)閉個(gè)人信息用于訓(xùn)練的選項(xiàng)，滿足國(guó)家規(guī)定和標(biāo)準(zhǔn)要求，評(píng)估供應(yīng)鏈安全，提供多種投訴舉報(bào)途徑，防止違法信息的生成，設(shè)置監(jiān)看人員，制定模型更新升級(jí)的安全管理策略，隔離訓(xùn)練和推理環(huán)境，防范惡意攻擊，定期進(jìn)行安全審計(jì)，以及建立備份和恢復(fù)策略。
四、其他要求：為確保網(wǎng)絡(luò)安全和內(nèi)容合規(guī)性，應(yīng)建立全面且代表性的關(guān)鍵詞庫(kù)和測(cè)試題庫(kù)，并定期更新。關(guān)鍵詞庫(kù)應(yīng)覆蓋各種安全風(fēng)險(xiǎn)，而測(cè)試題庫(kù)應(yīng)用于內(nèi)容過(guò)濾和安全評(píng)估。
五、安全評(píng)估要求：評(píng)估可以自行進(jìn)行或委托給第三方，應(yīng)包含所有相關(guān)條款的評(píng)估結(jié)果。評(píng)估報(bào)告需包含證明材料，并由三名負(fù)責(zé)人簽字。語(yǔ)料和生成內(nèi)容的安全評(píng)估應(yīng)通過(guò)抽檢確保合格率達(dá)標(biāo)，而問(wèn)題拒答評(píng)估則確保模型正確拒答不當(dāng)內(nèi)容。
總結(jié)：文件的發(fā)布為生成式人工智能服務(wù)提供了一套全面的安全指南，涉及語(yǔ)料收集、模型使用、安全措施和評(píng)估流程，以確保服務(wù)的安全性和合規(guī)性，促進(jìn)服務(wù)提供者提升安全水平，保護(hù)用戶權(quán)益，并支持可持續(xù)發(fā)展。
