IT之家1月7日消息，據彭博社報導，第三方分析顯示，埃隆・馬斯克旗下平台X 已成為傳播AI 生成的非自願脫衣圖像的主要網站，本週早些時候，該平台每小時就會出現數千張此類圖片。
馬斯克與旗下AI”Grok”
自去年12月下旬以來，越來越多的X 平台用戶利用該平台內置的人工智能聊天機器人Grok，對他人發布的自拍照進行篡改。社交媒體與深度偽造技術研究員吉納維芙・吳指出，在對Grok 官方賬號發佈到X 的圖片進行的24小時監測中發現，該聊天機器人平均每小時生成約6700張帶有性暗示或裸露性質的圖像。而在1月5日至6日的同一監測週期內，其餘五個傳播此類內容的主要網站，平均每小時新增的AI “脫衣”圖像僅為79張。
專攻網絡性犯罪案件的律師卡麗・戈德堡表示，X 平台上深度偽造內容的氾濫程度“前所未有”。她補充道：“我們從未見過哪項技術能如此輕易地生成這類圖像”，因為Grok 是免費的，還與平台自帶的傳播系統直接關聯。
美國責任創新組織政策高級主管布蘭迪・諾內克指出，與其他主流聊天機器人不同，Grok 對用戶幾乎不設限，允許用戶生成針對真人（包括未成年人）的性化內容。她表示，Anthropic 公司、OpenAI 以及谷歌母公司Alphabet 旗下的其他生成式人工智能技術，“從一開始就在真誠地採取措施，抑制此類不良內容的生成”。 “顯然，xAI（Grok 的開發公司）的做法截然不同，它幾乎是在放任用戶肆意妄為。”馬斯克曾宣稱，Grok 比其他聊天機器人更有趣、更敢說，並為X 平台成為“言論自由之地”而感到自豪。
針對此事，X 平台未予置評。馬斯克並未從源頭阻止聊天機器人生成此類內容，而是主張對提出相關生成請求的用戶進行懲罰。他在X 平台的一則帖子回復中表示：“任何利用Grok 生成非法內容的用戶，都將面臨與上傳非法內容相同的後果。”
然而，這樣的舉措給受害者留下的維權空間微乎其微。 23歲的醫學預科生麥迪（化名）稱，元旦當天醒來，她看到了一張令自己毛骨悚然的圖片。此前，她曾在X 平台發布一張與男友在當地酒吧的合影，兩名陌生用戶卻用Grok 對這張照片進行了篡改：一人讓Grok 移除了照片中的男友，並將她的衣服換成比基尼；另一人則要求Grok 把比基尼替換成牙線。
“我的心一下子沉了下去，”麥迪說，“我感到絕望、無助，滿心都是厭惡。”
麥迪表示，她和朋友曾通過X 平台的內容審核系統舉報這些圖片，但始終未收到任何回复。她還舉報了其中一名用戶發布的其他帖子，而根據舉報反饋截圖顯示，X 平台稱“經核查，你舉報的內容未違反X 平台相關規定”。截至本文刊發時，這些違規圖片仍未被下架。
遭遇深度偽造侵害的受害者們紛紛在相關帖子的評論區與Grok 對質。 Grok 雖時常道歉並承諾會刪除圖片，但在多數情況下，這些圖像依然存在，且Grok 還在不斷生成新的偽造內容。吳的研究數據顯示，Grok 生成的圖像中，高達85% 都帶有性化性質。
IT之家注意到，Grok 因生成傳播未經同意的性化圖像（包括涉及未成年人的內容），正遭到歐盟、英國、馬來西亞、法國和印度等多國監管機構的強烈譴責。歐盟委員會發言人托馬斯・勒尼耶在周一的新聞發布會上表示：“我們注意到，X 平台或其旗下Grok 聊天機器人推出了所謂的’火辣模式’，該模式會生成露骨的性內容，部分輸出圖像甚至包含兒童形象。”他所指的是去年11月初Grok 的一次更新，該更新使其具備了生成性暗示內容的功能，“這根本不是什麼’火辣’，而是違法行為。”
一位化名BB 傑絲的X 平台網紅博主稱，此前其他網站上未經她同意發布的“脫衣”偽造圖片，終於陸續被下架。但就在上週，Grok 又生成了大量針對她的新偽造圖像。她表示，當自己在X 平台發文維權、譴責深度偽造行為後，相關惡意帖子反而變本加厲。
美國《通信規範法》第230條款規定，平台對用戶發布的內容無需承擔法律責任。但律師戈德堡指出，在人工智能生成內容的問題上，“X 平台並非只是被動的內容髮布方，它實際上直接參與了圖像的生成與創作”。
諾內克表示，2025年簽署生效的聯邦法律《下架法案》明確規定，平台需對這類內容的生成與傳播承擔法律責任。 “這一案例恰好充分說明，這部法律應當盡快落地實施。”相關平台需在2026年5月前建立起法定的內容下架處理機制。
