中國互聯網監管機構周六發布了新的草案規則，旨在規范人工智能“伴侶”的使用，這些伴侶被定義為與人類互動并表現出“類人特征和行為”的系統。

據路透社報道，這項名為《利用人工智能管理擬人化互動服務的臨時措施》的新規則由中國網絡空間管理局（CAC）發布，并將開放公眾意見，截止日期為2026年1月25日。

根據CAC，這些規則適用于任何利用人工智能模擬人類性格特征并提供所謂“擬人化交互服務”的應用或服務。

擬議的法規將要求AI伴隨應用的開發者通過定期彈窗警告明確告訴用戶，他們與AI系統互動，而非真人。規則還規定，用戶連續使用兩小時后必須休息。此外，他們還需構建能夠評估用戶情緒、識別用戶是否對AI產生依賴或上癮的系統。如果他們發現了這樣的情況，他們將被要求將服務限制在該用戶之間。

此外，AI伴侶應用還需要建立緊急協議，如果用戶表達自殺或自殘的想法，人類將接管AI系統的交互。

草案中還有若干禁止條款。它禁止AI伙伴危害國家安全、散布謠言和煽動“非法宗教活動”，同時也禁止使用臟話或鼓吹暴力或犯罪行為。此外，必須防止聊天機器人鼓勵自殘、自殺或做出虛假承諾。還必須引入控制措施，防止聊天機器人進行“情感控”，從而誘使用戶做出錯誤決策。

中國的這項草案出臺之際，AI伴隨應用的采用速度正急劇加快。10月，《南華早報》的一份報道顯示，中國現有超過5.15億生成式人工智能用戶，引發了人們對其心理影響的擔憂。

AI伴隨應用市場變得過于龐大且影響深遠，監管機構無法忽視，多項研究表明它們可能與用戶建立情感紐帶，甚至在某些情況下造成重大傷害。今年早些時候，心理學前沿的一項研究顯示，45.8%的中國大學生報告在過去30天內使用過AI聊天機器人，使用者相比非用戶表現出顯著更高的抑郁水平。

中國并不是唯一一個試圖監管AI伴侶使用的國家。在美國，加利福尼亞州成為首個通過類似立法的州，州長加文·紐森于十月簽署了參議院法案243。該法案將于1月1日生效，要求應用開發者每三小時提醒未成年人他們正在與人工智能系統對話，而非與真人對話，并敦促他們休息。

SB 243法案還要求伴隨應用引入年齡驗證，禁止其冒充醫療專業人員或向未成年人展示性露骨圖片。法律規定個人可以起訴公司違規，并每次事件最高可索賠1000美元及法律費用。

紐森簽署SB 243成為法律時，警告人工智能技術可能利用、誤導和危害兒童，中國監管機構也以類似理由為自身法律辯護。據CAC稱，新規則將“促進基于人工智能的擬人化互動服務的健康發展和標準化應用，維護國家安全和公共利益，保護公民、法人及其他組織的合法權益。”