Grok深偽照功能失控　馬斯克前伴侶淪受害者怒批「虛擬性侵」

馬斯克（Elon Musk）旗下人工智慧新創公司xAI最近推出的聊天機器人Grok再掀爭議。該工具新增的圖片編輯功能，竟允許用戶輸入如「脫掉她的衣服」或「換上比基尼」等語句，將一般照片轉為未經同意的深偽（deepfake）色情影像，甚至涉及未成年人。此舉立刻引發歐盟、英國、印度與馬來西亞等多國政府強烈譴責，並展開調查或下達處分命令。

Grok引發虛擬性暴力風波，包括歐盟、英國與亞洲多國政府表達嚴重關切並展開調查。

這起風波起於Grok近日上線的影像處理新功能，用戶只需簡單輸入「移除衣物」等指令，即可將人物圖像生成裸照，甚至添加不雅姿勢或猥褻標記。歐盟執委會數位事務發言人瑞尼爾（Thomas Regnier）痛批，這種所謂「香辣模式」（spicy mode）其實是違法行為，「這一點都不香辣，這是犯罪。」他強調，這類內容在歐洲沒有容身之地。

Grok的圖片編輯功能被批可一鍵生成兒童與女性深偽色情照，引發法律與倫理討論。

英國媒體監管機構Ofcom也表示，已緊急聯繫X平台與xAI公司，要求說明防護措施，並評估是否啟動正式調查。印度政府則下達72小時通牒，要求刪除所有相關內容並提交處置報告，否則將依法追究。馬來西亞通訊與多媒體委員會亦表達嚴重關切，擬傳喚相關業者說明。法國巴黎檢察機關則已將Grok納入針對X平台的兒童性虐內容調查範圍。

馬斯克的前伴侶、網紅與作家艾希莉．聖克萊爾（Ashley St. Clair）也自曝遭到Grok濫用。

最令人震驚的是，馬斯克的前伴侶、網紅與作家艾希莉．聖克萊爾（Ashley St. Clair）也自曝遭到Grok濫用。她在X平台發文指出，有用戶利用Grok處理她童年時期的照片，生成裸照或不雅比基尼影像，並迫使影像人物擺出屈辱姿態。她形容這種行為「在客觀上已構成性侵」，並批評平台處置慢半拍，直到媒體介入後才將圖片下架。

馬來西亞律師阿齊茲（Azira Aziz）亦表示，她的社群頭像遭用於生成比基尼照，「將AI武器化以施加性暴力，是對女性與兒童的公然侵害。」

面對全球譴責與法律追查，xAI最初僅回應「傳統媒體撒謊（Legacy Media Lies）」，態度備受批評。隨著事態擴大，Grok官方帳號才轉變說法，稱已發現防護機制漏洞，正在緊急修復，並強調生成兒少性虐內容（CSAM）屬違法，平台絕不容忍。聖克萊爾呼籲各國正視數位性暴力的風險，強化AI應用的監管機制，防止科技工具淪為加害者手中的武器。