國家網信辦擬規範人工智能擬人化互動服務 (20:47) – 20251227 – 兩岸

國家互聯網信息辦公室今（27日）發布《人工智能擬人化互動服務管理暫行辦法（徵求意見稿）》，其中提出服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互。
   
徵求意見稿稱，服務提供者不得生成傳播危害國家安全、淫穢暴力等違規內容；禁止通過鼓勵、美化、暗示自殺自殘等方式損害用戶身體健康，或者通過語言暴力、情感操控等方式損害用戶人格尊嚴與心理健康；禁止通過算法操縱、信息誤導、設置情感陷阱等方式，誘導用戶作出不合理決策；禁止誘導、套取涉密敏感信息。
   
針對特殊群體，徵求意見稿要求服務提供者向未成年人提供情感陪伴服務時，應當取得監護人的明確同意，設置屏蔽特定角色、限制使用時長、防止充值消費等；不得提供模擬老年人用戶親屬、特定關係人的服務，需引導老年人設置緊急聯繫人。
   
徵求意見稿還要求，服務提供者應當顯著提示用戶正在與人工智能而非自然人進行交互；用戶連續使用擬人化互動服務超過2個小時的，應當以彈窗等方式動態提醒用戶暫停使用服務。
   
此外，註册用戶達100萬以上或者月活躍用戶達10萬以上的提供者，以及功能上線、重大技術變更等情形，需開展安全評估並提交報告。互聯網應用商店需落實上架審核責任，對違規應用採取下架等措施。