為貫徹落實(shí)國(guó)家發(fā)展新一代人工智能的決策部署，全面貫徹總體國(guó)家安全觀，公安部第三研究所充分發(fā)揮在網(wǎng)絡(luò)等級(jí)保護(hù)領(lǐng)域國(guó)家隊(duì)的優(yōu)勢(shì)，并依托國(guó)家級(jí)創(chuàng)新平臺(tái)——網(wǎng)絡(luò)安全等級(jí)保護(hù)與安全保衛(wèi)技術(shù)國(guó)家工程研究中心，成立通用人工智能安全工作組，并發(fā)布了《通用人工智能AGI等級(jí)保護(hù)白皮書（2023 版）》。
白皮書首先介紹了通用人工智能的基本情況，并從技術(shù)角度出發(fā)分析了通用人工智能在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用趨勢(shì)及通用人工智能面臨的多種安全威脅，主要包括傳統(tǒng)安全風(fēng)險(xiǎn)，以及數(shù)據(jù)泄露和濫用風(fēng)險(xiǎn)、模型可靠風(fēng)險(xiǎn)、大模型濫用誤用風(fēng)險(xiǎn)等由于大模型自身的數(shù)據(jù)規(guī)模性、算法復(fù)雜性等原因?qū)е碌陌踩L(fēng)險(xiǎn)。為了應(yīng)對(duì)這些風(fēng)險(xiǎn)，白皮書對(duì)通用人工智能的等級(jí)保護(hù)合規(guī)落地需求進(jìn)行了闡述和分析。
此外，白皮書列舉了通用人工智能大模型賦能的典型場(chǎng)景，包括網(wǎng)絡(luò)安全等級(jí)保護(hù)知識(shí)賦能、等級(jí)測(cè)評(píng)賦能和等級(jí)保護(hù)培訓(xùn)賦能等。
本白皮書旨在幫助讀者更好地應(yīng)對(duì)通用人工智能大模型帶來的安全風(fēng)險(xiǎn)和挑戰(zhàn)，同時(shí)也為網(wǎng)絡(luò)安全等級(jí)保護(hù)在通用人工智能領(lǐng)域的合規(guī)落地提供了指導(dǎo)和建議。
附件：通用人工智能AGI等級(jí)保護(hù)白皮書-網(wǎng)絡(luò)安全等級(jí)保護(hù)與安全保衛(wèi)技術(shù)國(guó)家工程研究中心
信安秘字〔2023〕124號(hào);圍繞文本、圖片、音頻、視頻四類生成內(nèi)容給出了內(nèi)容標(biāo)識(shí)方法，可用于指導(dǎo)生成式人工智能服務(wù)提供者提高安全管理水平
數(shù)據(jù)安全產(chǎn)品廣泛應(yīng)用于在數(shù)據(jù)資產(chǎn)識(shí)別,數(shù)據(jù)安全檢查,數(shù)據(jù)安全 防護(hù),數(shù)據(jù)風(fēng)險(xiǎn)監(jiān)測(cè),數(shù)據(jù)共享流通安全;數(shù)據(jù)安全防護(hù)類產(chǎn)品涵蓋了數(shù)據(jù)保護(hù)類,訪問控制類,追蹤溯源類的諸多產(chǎn)品
報(bào)告對(duì)工控系統(tǒng)漏洞,聯(lián)網(wǎng)工控設(shè)備,工控蜜罐與威脅情報(bào)數(shù)據(jù)等情況進(jìn)行了闡釋及分析,有助于全面了解工控系統(tǒng)安全現(xiàn)狀,多方位感知工控系統(tǒng)安全態(tài)勢(shì)
企業(yè)內(nèi)部基礎(chǔ)設(shè)施建設(shè)不完善,擁抱數(shù)字化轉(zhuǎn)型后缺少有效的安全防護(hù)措施;高額贖金已經(jīng)成為網(wǎng)絡(luò)攻擊者極高的犯罪動(dòng)力;遠(yuǎn)程辦公增加安全風(fēng)險(xiǎn)
分析了量子安全通信發(fā)展機(jī)遇,研究了量子安全通信關(guān)鍵技術(shù)和產(chǎn)業(yè)標(biāo)準(zhǔn)規(guī)范,給出了基于端到端量子加密網(wǎng)絡(luò)內(nèi)生安全的解決方案,打造重點(diǎn)行業(yè)量子安全通信應(yīng)用標(biāo)桿
網(wǎng)絡(luò)預(yù)約汽車服務(wù)數(shù)據(jù)包括用戶數(shù)據(jù)如手機(jī)號(hào)碼,位置信息,支付信息,行蹤軌跡和行程錄音錄像等;業(yè)務(wù)數(shù)據(jù)如駕駛員數(shù)量,乘客數(shù)量,行程訂單量和里程總數(shù)等
網(wǎng)絡(luò)音視頻服務(wù)提供者傳輸,存儲(chǔ)數(shù)據(jù),應(yīng)采用安全口令,數(shù)字簽名證書等 兩種及以上方式進(jìn)行接收方身份鑒別與認(rèn)證,個(gè)人身份信息與其他個(gè)人信息分開存儲(chǔ)
網(wǎng)絡(luò)支付服務(wù)提供者如提供跨境支付服務(wù),出境數(shù)據(jù)應(yīng)僅限為處理跨境支付業(yè)務(wù)所需的必要信息,每年應(yīng)自行或委托第二方機(jī)構(gòu)對(duì)數(shù)據(jù)出境至少進(jìn)行一次數(shù)據(jù)出境 風(fēng)險(xiǎn)評(píng)估
網(wǎng)上購(gòu)物服務(wù)的相關(guān)方包括買家,賣家,網(wǎng)上購(gòu)物服務(wù)提供者及第三方服務(wù)提供者;用戶數(shù)據(jù)如買家消費(fèi)記錄,收貨人信息（姓名,地址,電話號(hào)碼）,賣家賬號(hào)信息等
快遞物流服務(wù)數(shù)據(jù)處理活動(dòng)主要圍繞著快遞物流服務(wù)的業(yè)務(wù)功能開展;用戶數(shù)據(jù)如收寄件人姓名,地址,聯(lián)系電話,企業(yè)賬號(hào)信息,企業(yè)通信信息等
應(yīng)按照有關(guān)要求和標(biāo)準(zhǔn)進(jìn)行數(shù)據(jù)分類分級(jí)保護(hù),識(shí)別即時(shí)通信服務(wù)涉及的核心數(shù)據(jù),重要數(shù) 據(jù) ,一般數(shù)據(jù),對(duì)不同級(jí)別的數(shù)據(jù)采取不同的保護(hù)措施
車外數(shù)據(jù)未完成匿名化處理前不應(yīng)向車外提供;匿名化處理過程中.除分析確定包含人臉以及車牌等個(gè)人信息的區(qū)域不應(yīng)進(jìn)行人臉比對(duì)步態(tài)分析以及語音識(shí)別等其他處理
收集人臉識(shí)別數(shù)據(jù)時(shí)應(yīng)向數(shù)據(jù)主體告知人臉識(shí)別數(shù)據(jù)的相關(guān)事項(xiàng);在識(shí)別過程中持續(xù)告知數(shù)據(jù)主體驗(yàn)證目的,并通過語言,文字等向數(shù)據(jù)主體進(jìn)行提示
