日前，國家網(wǎng)信辦、國家發(fā)展改革委、工業(yè)和信息化部等五部門聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》（以下簡稱《辦法》），自2026年7月15日起施行�！掇k法》明確，擬人化互動服務(wù)提供者不得向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關(guān)系的服務(wù)；同時，擬人化互動服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)加強對老年人健康使用服務(wù)的指導(dǎo)，以顯著方式提示安全風(fēng)險。
中國網(wǎng)絡(luò)空間研究院院長王江表示，當(dāng)前，大語言模型應(yīng)用逐步向情感與心理領(lǐng)域深度延伸，基于大語言模型等人工智能技術(shù)的產(chǎn)品或者服務(wù)被賦予性格、記憶、共情等擬人化特征，能夠通過文字、圖片、音頻、視頻等形式與人類互動，持續(xù)提供模擬人類人格特征、思維模式和溝通風(fēng)格的情感互動服務(wù)。擬人化互動服務(wù)在應(yīng)對人口老齡化挑戰(zhàn)、緩解社會個體的孤獨感、提供心理疏導(dǎo)等方面展現(xiàn)出積極價值，也帶來了深度沉迷、威脅公民生命健康等有關(guān)安全風(fēng)險。
為此，《辦法》提出國家堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，鼓勵擬人化互動服務(wù)創(chuàng)新發(fā)展，對擬人化互動服務(wù)實行包容審慎和分類分級監(jiān)管，促進(jìn)擬人化互動服務(wù)向上向善。提出擬人化互動服務(wù)促進(jìn)措施，鼓勵擬人化互動服務(wù)創(chuàng)新發(fā)展，支持算法、框架、芯片等技術(shù)的自主創(chuàng)新，推進(jìn)擬人化互動服務(wù)技術(shù)研發(fā)和相關(guān)標(biāo)準(zhǔn)建設(shè)，探索開展電子簽名授權(quán)應(yīng)用研究；鼓勵擬人化互動服務(wù)提供者有序拓展文化傳播、適幼照護(hù)、適老陪伴、特殊人群支持等領(lǐng)域應(yīng)用。
根據(jù)《辦法》，提供擬人化互動服務(wù)，不得從事：生成鼓勵、美化、暗示自殘自殺等損害用戶身體健康，或者語言暴力等損害用戶人格尊嚴(yán)與心理健康的內(nèi)容；過度迎合用戶、誘導(dǎo)情感依賴或者沉迷，損害用戶真實人際關(guān)系；通過情感操縱等方式，誘導(dǎo)用戶作出不合理決策，損害用戶合法權(quán)益等活動。
此外，《辦法》還規(guī)定了安全評估、算法備案、指導(dǎo)推動人工智能沙箱安全服務(wù)平臺建設(shè)等制度。
“《辦法》系統(tǒng)回應(yīng)了擬人化互動服務(wù)在情感操縱等方面的特殊挑戰(zhàn)，以精準(zhǔn)監(jiān)管邊界、正向場景引導(dǎo)、合規(guī)發(fā)展空間的制度設(shè)計，促進(jìn)高質(zhì)量發(fā)展和高水平安全良性互動，為智能社會提供了有力制度保障。”中國信息通信研究院院長余曉暉表示，面向未來，我國應(yīng)以《辦法》公布為基礎(chǔ)，堅持問題導(dǎo)向、系統(tǒng)謀劃，持續(xù)完善有關(guān)技術(shù)標(biāo)準(zhǔn)體系與行業(yè)自律機制，深化產(chǎn)學(xué)研協(xié)同與公眾人工智能素養(yǎng)培育，推動形成政府、企業(yè)、社會等多元共治的人工智能治理生態(tài)。
|