Grok因被濫用生成色情內容而遭印尼與馬來西亞封鎖

印尼和馬來西亞政府今（2026）年1月相繼宣布，暫時封鎖社交媒體X旗下的人工智慧（AI）聊天機器人「Grok」的訪問權限，原因是該平台的影像編輯功能被濫用於生成未經當事人同意的性化及色情內容。

X於上月推出「Grok」的影像編輯功能，允許用戶利用AI自由修改上傳的圖片。然而，有用戶藉此將他人的照片竄改為穿著暴露甚至帶有性暗示的影像，引發隱私與人權爭議。用戶只需在貼文回覆區點名「Grok」並提出指令，或直接長按圖片進行編輯，即可完成相關操作。

印尼通訊和數位事務部1月10日宣布，基於現行法規，必須暫時中止「Grok」的服務。相關法規要求所有電子系統服務供應商必須確保其平台不包含、不提供或不傳播違禁的電子資訊或文件。該部門強調，未經同意製作性化的「深偽」（deepfake）內容，嚴重侵犯公民在數位空間的人權、尊嚴及安全，並要求X就「Grok」所造成的負面影響作出說明。不過，官方尚未公布封鎖期限，截止1月12日中午，當地仍可使用「Grok」的部分影像編輯功能。

馬來西亞方面，監管機構在1月11日對「Grok」實施臨時封鎖，指該平台多次被濫用於聲稱色情及擅自竄改的影像內容，其中涉及女性及未成年人。大馬通訊及多媒體委員會表示，此舉屬預防性措施，在有效的技術與內容審核機制落實之前，相關限制將持續生效，尤其是針對涉及婦女和兒童的違禁內容。當局也向X發出通知，要求其落實技術與審核保障措施，以防止AI生成內容違法大馬法律。

隨著全球對AI生成的情色內容憂慮加劇，X在1月9日已經宣布將「Grok」的部分影像編輯功能限制為付費用戶專屬，以彌補現有的安全漏洞。

【由李于晴報導，取材自Nikkei Asia，2026年1月12日】