日前，國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委、工業(yè)和信息化部等五部門聯(lián)合公布《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》），自2026年7月15日起施行�！掇k法》明確，擬人化互動(dòng)服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)；同時(shí)，擬人化互動(dòng)服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)加強(qiáng)對(duì)老年人健康使用服務(wù)的指導(dǎo)，以顯著方式提示安全風(fēng)險(xiǎn)。
中國(guó)網(wǎng)絡(luò)空間研究院院長(zhǎng)王江表示，當(dāng)前，大語(yǔ)言模型應(yīng)用逐步向情感與心理領(lǐng)域深度延伸，基于大語(yǔ)言模型等人工智能技術(shù)的產(chǎn)品或者服務(wù)被賦予性格、記憶、共情等擬人化特征，能夠通過(guò)文字、圖片、音頻、視頻等形式與人類互動(dòng)，持續(xù)提供模擬人類人格特征、思維模式和溝通風(fēng)格的情感互動(dòng)服務(wù)。擬人化互動(dòng)服務(wù)在應(yīng)對(duì)人口老齡化挑戰(zhàn)、緩解社會(huì)個(gè)體的孤獨(dú)感、提供心理疏導(dǎo)等方面展現(xiàn)出積極價(jià)值，也帶來(lái)了深度沉迷、威脅公民生命健康等有關(guān)安全風(fēng)險(xiǎn)。
為此，《辦法》提出國(guó)家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，促進(jìn)擬人化互動(dòng)服務(wù)向上向善。提出擬人化互動(dòng)服務(wù)促進(jìn)措施，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進(jìn)擬人化互動(dòng)服務(wù)技術(shù)研發(fā)和相關(guān)標(biāo)準(zhǔn)建設(shè)，探索開展電子簽名授權(quán)應(yīng)用研究；鼓勵(lì)擬人化互動(dòng)服務(wù)提供者有序拓展文化傳播、適幼照護(hù)、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用。
根據(jù)《辦法》，提供擬人化互動(dòng)服務(wù)，不得從事：生成鼓勵(lì)、美化、暗示自殘自殺等損害用戶身體健康，或者語(yǔ)言暴力等損害用戶人格尊嚴(yán)與心理健康的內(nèi)容；過(guò)度迎合用戶、誘導(dǎo)情感依賴或者沉迷，損害用戶真實(shí)人際關(guān)系；通過(guò)情感操縱等方式，誘導(dǎo)用戶作出不合理決策，損害用戶合法權(quán)益等活動(dòng)。
此外，《辦法》還規(guī)定了安全評(píng)估、算法備案、指導(dǎo)推動(dòng)人工智能沙箱安全服務(wù)平臺(tái)建設(shè)等制度。
“《辦法》系統(tǒng)回應(yīng)了擬人化互動(dòng)服務(wù)在情感操縱等方面的特殊挑戰(zhàn)，以精準(zhǔn)監(jiān)管邊界、正向場(chǎng)景引導(dǎo)、合規(guī)發(fā)展空間的制度設(shè)計(jì)，促進(jìn)高質(zhì)量發(fā)展和高水平安全良性互動(dòng)，為智能社會(huì)提供了有力制度保障。”中國(guó)信息通信研究院院長(zhǎng)余曉暉表示，面向未來(lái)，我國(guó)應(yīng)以《辦法》公布為基礎(chǔ)，堅(jiān)持問(wèn)題導(dǎo)向、系統(tǒng)謀劃，持續(xù)完善有關(guān)技術(shù)標(biāo)準(zhǔn)體系與行業(yè)自律機(jī)制，深化產(chǎn)學(xué)研協(xié)同與公眾人工智能素養(yǎng)培育，推動(dòng)形成政府、企業(yè)、社會(huì)等多元共治的人工智能治理生態(tài)。
|