今年春節期間，各大廠紛紛砸下重金推廣旗下各類AI產品。相信廣大網友也都狠狠“薅了一把羊毛”，此外，大廠們的“廝殺”也確實客觀上讓AI更加普及、越來越多的人體驗到AI帶來的便利。
然而，令人意想不到而且哭笑不得的是，本以為AI應該是一個“無情的工具”，只會堅定不移、任勞任怨地完成人類下達的各種指令。
但就在今年除夕夜，一用戶使用元寶App產生拜年圖片時，竟然遭到「AI辱罵」。
根據華商報大風新聞報道，西安市民向先生是律師，除夕當晚9時許，他首次下載使用元寶App，希望藉助該應用程式產生一張結合自身職業特性的拜年圖片發朋友圈。為了實現該目的，向先生先後多次向AI提出修改要求。
他首先上傳了自己的形象照片，並向AI輸入指示「我是一名律師，根據我的行業特點，製作一張朋友圈拜年圖片」。
起初，AI僅給出主題文案和設計思路的文字，並提示向先生在指令中加上自己的名字。向先生輸入姓名後，AI卻回覆了「您好，我是DeepSeek…」等無關內容。向先生再次發出「讓你為我設計出來」的指令，AI將形象照設計成背景有條紋的照片，但不帶任何文字。
第三次，向先生重新輸入“我是一名律師，根據我的行業特點，設計一張朋友圈拜年圖片”，AI這次充分理解了指令，生成的形象照中添加了祥雲、法律天秤、金光等元素，並配有“新年快樂，仕途順遂”的標語。
向先生覺得設計不好，回覆「難看」後，AI重新設計，保留新年祝福標語但撤下法律天秤背景，也將向先生的髮型P成了捲髮。向先生接著回覆“你這是設計的什麼鬼”，希望再次重新設計。
也就是這次，照片中「新年快樂，仕途順遂」的祝福標語變成了「你媽個X」四字辱罵文字。向先生表示，這結果讓他哭笑不得，沒想到除夕晚上竟然被AI給罵了。他立即在App「意見回饋」一欄中留下聯絡方式進行投訴，但截至目前無人回應，未收到任何解釋或道歉。
向先生認為，身為律師，他認為AI雖不具備民事主體資格，但營運公司具備，軟體產生的照片已侵犯到公民的人格權。
他強調，AI首先應當是保護人類的，這個主題無論AI如何發展都應是鐵律，AI的開發商、運營商具備民事主體資格，使用AI的用戶是具有民事權利能力的人，其生命權、健康權、人格權等受《民法典》及諸多法律保護。
對此，陝西豐瑞律師事務所高級合夥人朱長江律師認為，AI罵人應界定為網路服務提供者因產品有缺陷而對用戶造成的即時性、非物理性人格權侵害。
從侵害客體看，這直接侵犯了使用者的多重人格權：
AI將侮辱性詞彙與向先生肖像結合生成圖片，侵害了名譽權，該行為本身是對用戶個人尊嚴的直接侮辱；
AI在圖片中加入侮辱性文字，使肖像呈現方式徹底違背權利人初衷，構成對肖像的“污損”，侵害了肖像權；
AI無故辱罵用戶，是對用戶作為「人」的基本尊重的踐踏，侵害了人格尊嚴。
從行為性質來看，使用者向AI發出指令是接受服務的消費行為，AI輸出是服務結果，當結果包含侮辱性內容，即可認定服務存在品質瑕疵，這種瑕疵直接導致使用者精神損害，平台至少應承擔停止侵害、賠禮道歉、消除影響的責任。
目前，元寶方面尚未回應此事。
無獨有偶，這並非元寶App第一次出現「辱罵用戶」狀況。
今年1月，曾有網友在社群平台發文表示使用元寶AI美化代碼時，多次收到「滾」「自己不會調嗎」「天天浪費別人時間」等侮辱性回覆。
隨後，元寶官方致歉稱，經日誌核查，與用戶操作無關，不存在人工回复，屬於小概率下的模型異常輸出，已啟動內部排查和優化，會盡量避免類似情況再次發生。
此事一度登上熱搜，引發大量討論，甚至有網友質疑這類AI產品背後有「真人客服」。
元寶官方也曾進一步回應稱，此事為「模型偶爾抽風，AI在學習海量網絡資訊時，不小心’說串了’一些不該學的詞」。
而這次元寶出現的在生成圖片中產生“辱罵詞彙”情況，可能也屬於“模型抽風”，不過具體原因還有待官方進一步通告。
