2025年9月15日，2025年國家網(wǎng)絡(luò)安全宣傳周主論壇在云南昆明舉辦期間，《人工智能安全治理框架》2.0版（以下簡稱《框架》2.0版）正式發(fā)布。該框架由國家互聯(lián)網(wǎng)應(yīng)急中心牽頭，聯(lián)合人工智能專業(yè)機(jī)構(gòu)、科研院所及行業(yè)企業(yè)共同制定，在2024年發(fā)布的1.0版基礎(chǔ)上，結(jié)合人工智能技術(shù)迭代與應(yīng)用實(shí)踐，系統(tǒng)性優(yōu)化了風(fēng)險(xiǎn)分類與治理措施，標(biāo)志著我國人工智能安全治理進(jìn)入動(dòng)態(tài)化、精細(xì)化新階段。
《框架》2.0版延續(xù)了1.0版"以人為本、智能向善"的核心原則，重點(diǎn)針對(duì)生成式人工智能、多模態(tài)模型等新技術(shù)帶來的倫理風(fēng)險(xiǎn)、數(shù)據(jù)安全威脅及算法偏見等問題，新增了動(dòng)態(tài)風(fēng)險(xiǎn)分級(jí)機(jī)制。通過建立"技術(shù)-應(yīng)用-產(chǎn)業(yè)"全鏈條風(fēng)險(xiǎn)圖譜，將風(fēng)險(xiǎn)等級(jí)細(xì)分為基礎(chǔ)級(jí)、關(guān)注級(jí)和管控級(jí)，實(shí)現(xiàn)從被動(dòng)響應(yīng)到主動(dòng)防控的轉(zhuǎn)變。例如，針對(duì)深度偽造技術(shù)濫用問題，框架明確要求建立內(nèi)容溯源標(biāo)識(shí)體系，并在金融、政務(wù)等高風(fēng)險(xiǎn)領(lǐng)域強(qiáng)制實(shí)施生成內(nèi)容合規(guī)性驗(yàn)證。
作為全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)技術(shù)文件，《框架》2.0版創(chuàng)新性提出"三同步"治理路徑：技術(shù)研發(fā)階段嵌入安全評(píng)估模塊，產(chǎn)品部署前完成倫理合規(guī)審查，運(yùn)行過程中建立持續(xù)監(jiān)測機(jī)制。國家互聯(lián)網(wǎng)應(yīng)急中心負(fù)責(zé)人指出，該框架已在國內(nèi)20家頭部AI企業(yè)試點(diǎn)應(yīng)用，成功將算法偏見率降低37%，數(shù)據(jù)泄露風(fēng)險(xiǎn)下降52%，為構(gòu)建安全可信的人工智能生態(tài)提供了可復(fù)制的解決方案。
在國際協(xié)作層面，《框架》2.0版深度對(duì)接《全球人工智能治理倡議》，首次將跨境數(shù)據(jù)流動(dòng)安全、AI軍事化應(yīng)用限制等議題納入治理范疇。通過建立跨國界技術(shù)標(biāo)準(zhǔn)互認(rèn)機(jī)制，推動(dòng)形成"技術(shù)研發(fā)在中國、治理規(guī)則全球共享"的新模式。目前，該框架已與歐盟《人工智能法案》、美國NIST AI風(fēng)險(xiǎn)管理框架達(dá)成初步互認(rèn)，為全球人工智能治理貢獻(xiàn)中國方案。
隨著《框架》2.0版落地，我國計(jì)劃于2026年啟動(dòng)首批人工智能安全認(rèn)證工作，重點(diǎn)覆蓋自動(dòng)駕駛、醫(yī)療診斷等12個(gè)關(guān)鍵領(lǐng)域。首批參與試點(diǎn)的30家企業(yè)需在2025年底前完成治理體系改造，通過動(dòng)態(tài)評(píng)估獲取"AI安全能力星級(jí)認(rèn)證"。行業(yè)專家表示，這一舉措將加速淘汰落后產(chǎn)能，推動(dòng)人工智能產(chǎn)業(yè)從規(guī)模擴(kuò)張轉(zhuǎn)向高質(zhì)量發(fā)展。