智能制造網APP
智能制造網手機站
智能制造網小程序
智能制造網官微
智能制造網服務號
智能控制
機器人
儀器儀表
物聯網
3D打印
工業軟件
回放
回放
品牌
明基環保
人工智能技術的突破正推動人機交互從功能性輔助邁向情感化與人格化，在重塑社會互動模式的同時，也催生一系列新風險挑戰。此類風險具有隱蔽傳導特征，可能侵害公民權益，甚至沖擊社會倫理秩序與信任根基。若缺乏有效治理，將嚴重阻礙人工智能健康發展，損害社會公共利益。在此背景下制定《人工智能擬人化互動服務管理暫行辦法(征求意見稿)》(以下簡稱《辦法》)，有利于促進人工智能擬人化互動服務有序開展，引領人工智能“負責任創新”，為構建“以人為本”的人工智能治理體系提供重要的制度支撐。
一、錨定國家戰略方向，彰顯“負責任創新”理念
以國家戰略與政策導向為根本遵循，凸顯了人工智能治理的前瞻性、精準性、系統性與協同性。一是堅持科學立法原則，合理前瞻技術演進趨勢，為人工智能創新發展預留制度空間。二是實施分類分級監管，立足擬人化互動服務特性精準識別風險并差異化施策。三是構建全鏈條治理體系，統籌技術創新、倫理規范與社會效益，確保人工智能健康有序發展。四是形成多元共治格局，注重政府監管與行業自律相結合，提升治理效能。
以“負責任創新”理念為指引，明確人工智能創新活動的責任邊界，讓技術始終在安全、公平、可持續的軌道上發展。擬人化互動服務通過模擬人類內在特質與用戶建立準社會化的“情感聯結”，可能導致新型社會關系異化，而立法所貫徹的“負責任創新”理念正是為了保障人的主體性地位，維護真實人際關系的價值。基于這一理念設計的一系列制度，重在防范技術濫用對人格尊嚴、社會信任與倫理秩序造成沖擊，確保人工智能發展始終服務于人民福祉。
二、聚焦重點突出風險，構建精準治理體系
《辦法》精準識別并系統回應了由“擬人化”和“情感交互”兩大核心特征所衍生的重點突出風險，以“人機邊界模糊”為治理重點，構建多維度風險防控體系。
一是建立身份透明制度，劃定擬人化安全紅線，精準防范人機邊界模糊引發的認知混淆、信任侵蝕、人格權侵害及倫理越界等風險。一方面，以顯著標識義務為核心的身份透明制度重在保障用戶知情權與選擇權，為法律追責提供清晰起點，能夠有效遏制技術濫用的匿名性庇護，從源頭降低認知混淆與信任侵蝕風險。另一方面，《辦法》劃定人工智能擬人化政治安全紅線，防范深度偽造與新型網絡暴力，保護個人人格權益免受侵害。因此，立法堅持擬人化互動服務的輔助人類定位，禁止替代、扭曲真實人際關系，并確保技術發展符合主流價值觀。
二是加強特殊群體保護，建立防沉迷機制，關注不同群體的差異化訴求，彰顯人文關懷與實質公平理念。擬人化互動服務因其高度情感回應性與陪伴特性，具有天然的沉迷風險。未成年人正處于價值觀塑造與社交能力發展的關鍵期，老年人則可能面臨數字鴻溝與情感陪伴缺失的雙重困境，這些特殊群體在擬人化交互中易陷入情感依賴。立法針對性內化企業的社會責任，確保技術進步紅利能夠公平、安全地惠及所有群體，實現實質意義上的公平正義。
三是強調對用戶交互信息的嚴格保護，是對《個人信息保護法》的深化與場景化適用。情感類個人信息能夠映射用戶的內心世界、情感弱點與潛意識傾向，不當利用可能會引發心理操控、待遇歧視及情感勒索等風險。同時，“情感計算”相關技術可能被濫用于提供成癮性服務，使用戶在無意識中暴露更多的敏感信息。因此，對用戶交互數據施加更嚴格的目的限制、安全存儲與使用禁令，是人格權保護在數智時代的延伸。
三、踐行系統治理思維，落實包容審慎監管
《辦法》通過全鏈條責任、彈性監管工具與多元共治格局，為“負責任創新”理念落地提供堅實保障，推動產業生態良性發展。
一是將責任設計貫穿擬人化互動服務的關鍵節點，實現風險精準防控。在模型設計階段，從源頭避免替代社會交往、控制用戶心理、誘導沉迷依賴等后果。在模型訓練階段，使用體現主流價值觀的數據，評估合成數據的安全性，防止數據污染。在應用部署前，依法開展安全評估，避免服務出現重大安全風險。在服務運營中，建立風險動態處置機制，及時應對突發風險。可以看出，這種全流程治理模式能夠有效避免事后補救式監管的滯后性，推動風險管理內化為企業的核心業務流程，實現治理效能最大化。
二是強調協同共治，鼓勵行業組織制定標準、加強自律，體現了立法者對人工智能治理復雜性的清晰認知。《辦法》積極回應新技術新應用多元治理需要，整合政府、企業、行業組織、社會公眾等主體的治理資源，形成治理合力。同時，《辦法》力求在防范風險與鼓勵創新之間取得動態平衡，推動形成動態敏捷、多元協同的人工智能治理格局，促進擬人化互動服務在規范有序的環境中實現高質量發展。
三是積極落實包容審慎監管思路，探索“監管沙盒”等彈性監管工具，為新技術新應用提供“安全試錯”的制度環境。《辦法》首次在部門規章層面明確“監管沙盒”制度，允許企業在監管機構的監督指導下開展創新試點和安全測試，在保障企業創新活力的同時，及時發現并防范試點過程中出現的風險。這一彈性監管模式準確適應了人工智能技術迭代快、應用場景多的特點，為新技術的成熟推廣、安全防控創造有利條件。
總的來看，《辦法》將“負責任創新”理念轉化為可執行、可追責的立法規則，為我國擬人化互動服務的健康發展提供了穩定預期，也為全球應對類似前沿挑戰貢獻了兼具前瞻性與實操性的“中國方案”。
作者：林 維 西南政法大學校長、中國法學會副會長
審核：陳舞陽
編輯：呂燕芳
校對：柴于涵
浙公網安備 33010602000006號
智能制造網APP
智能制造網小程序
微信公眾號
