1 月 4 日消息，因用戶及議員舉報其人工智能聊天機器人 Grok 生成“低俗色情”內容（包括該工具制作的女性 AI 篡改圖像），印度已下令埃隆?馬斯克旗下的 X 平臺立即對 Grok 進行技術與操作流程整改。

當地時間周五，印度信息技術部發布命令，要求馬斯克的 X 平臺針對 Grok 采取糾正措施，包括限制生成涉及“裸體、性化描述、露骨色情內容及其他非法素材”的內容。該部門還要求這家社交媒體平臺在 72 小時內提交整改報告，詳細說明為防止平臺托管或傳播“低俗、色情、粗鄙、不雅、露骨色情、戀童及其他法律禁止內容”所采取的具體舉措。

據科技媒體 TechCrunch 查閱的這份命令顯示，若 X 平臺拒不整改，其享有的“安全港”保護地位將面臨風險，這項保護依據印度法律，可讓平臺對用戶生成內容免除相關法律責任。

據了解，印度政府此番出手，源于此前用戶曝光的多起案例：有人通過指令讓 Grok 篡改人物圖像（對象以女性為主），使其呈現身穿比基尼的形象。印度議員普里揚卡?查圖維迪就此正式提起投訴。此外，近期有報道指出該人工智能聊天機器人存在生成涉及未成年人的性化圖像的情況。X 平臺已于周五承認，此事是由平臺安全防護措施存在漏洞所致，相關圖像隨后已被下架。

但據 TechCrunch 調查發現，截至本篇報道發布時，X 平臺上仍能看到通過 Grok 人工智能篡改生成的女性比基尼圖像。

就在此次命令發布的幾天前，印度信息技術部已于本周一發布了一份面向所有社交媒體平臺的更廣泛警示通知。通知中提醒各平臺，遵守印度當地關于低俗色情及露骨色情內容的相關法律，是平臺獲得用戶生成內容法律責任豁免權的前提條件。通知還敦促企業加強內部安全防護機制，并警告稱，若未落實相關要求，平臺或將依據印度信息技術法及刑法面臨法律追責。

命令中警示道：“特此重申，若不遵守上述要求，有關部門將嚴肅處理，并可在不另行通知的情況下，對你方平臺、平臺相關負責人及平臺內違法用戶追究嚴厲的法律責任?！庇《日硎?，不遵守命令的行為可能導致 X 平臺依據印度信息技術法及刑法相關規定被追責。

印度是全球最大的數字市場之一，該國已成為檢驗各國政府在追究平臺對人工智能生成內容責任方面決心邊界的關鍵案例。印度若加強相關執法力度，可能會對在多個司法管轄區運營的全球科技企業產生連鎖反應。

值得注意的是，X 平臺目前仍在法庭上對印度部分內容監管規則提出質疑，認為聯邦政府的內容下架權力存在濫用風險；不過該平臺此前已遵守了印度政府下達的大部分內容封禁指令。與此同時，X 平臺用戶越來越多地使用 Grok 進行新聞事件的實時事實核查與評論，這也讓 Grok 生成的內容比獨立人工智能工具的輸出內容曝光度更高、政治敏感性更強。