馬斯克旗下xAI的聊天機器人 Grok新功能凸槌 引發批評

馬斯克旗下xAI的聊天機器人Grok因大量生成未成年人不雅照等圖片，引發強烈反彈，甚至引起其他國家密切關注。（路透）

馬斯克旗下xAI因AI聊天機器人Grok迴應使用者提示，2日大量生成未成年人不雅照以及各種帶性暗示的圖片，引發網友強烈反彈，甚至讓其他國家密切關注，法國已下令檢察官調查，印度也要求X提交一份因應措施。Grok則在X上回復，正「緊急修復」相關問題，並警告兒童性剝削製品（CSAM）屬於「非法且被禁止」。

⭐2025總回顧

CNBC與BBC報導，Grok是一款免費的AI助手，部分進階功能需付費，常被用來對其他貼文給出反應或補充背景資訊。當X用戶在貼文中標註Grok時，Grok便會迴應使用者的提示詞。不過，在耶誕節前新增的編輯圖片（Edit Image）功能，允許任何使用者在無須原始發文者同意的情況下，透過文字提示來修改影像，甚至生成含有裸露或帶有性暗示的影像，從而引發批評。

自由記者兼評論員史密斯（Samantha Smith）就向BBC表示，有人用Grok數位移除她的衣物，讓她感到自己「沒被當人看，只是被簡化爲一種性刻板印象」。

BBC在「X」發現多起案例，有人要求Grok替女性「脫衣服」，並在未經同意的情況下，讓她們看起來像穿着比基尼，甚至被置於帶有性暗示的情境中。史密斯在「X」發文分享自己影像遭竄改的經歷，陸續有其他遭遇相同情況的使用者留言迴應，之後又有人進一步要求Grok生成更多她的影像。

她強調：「女性並沒有同意這樣的事情。雖然衣衫不整的並不是我本人，但看起來像我、感覺像我，那種感受就如同真的有人發佈了我的裸照或比基尼照片一樣，令人感到被侵犯。」

xAI並未迴應媒體詢問，僅發出一則自動生成的回覆稱「傳統媒體在說謊」。不過，Grok的貼文爲AI生成內容，並不代表公司的正式聲明，xAI技術人員塔吉克（Parsa Tajik）也發文承認相關問題。他在回覆中寫道：「嘿！感謝通報，團隊正在研究進一步強化我們的防護欄。」

法國政府已將相關內容向檢察官告發，促使針對X平臺展開調查。印度資訊科技部也點名X平臺，稱該公司未能防止旗下機器人Grok被濫用，下令必須在三天內提交「改善行動報告」。