1. 首頁 > 生活百科 > >

馬斯克旗下AI機器人Grok生成未成年人不當圖像

機器人人工智能ai伊隆·馬斯克grok

馬斯克旗下AI機器人Grok生成未成年人不當圖像

xAI公司將Grok定位為相較其他主流AI模型“限制更少”的產品 ， 并于去年夏天推出名為“Spicy Mode”的功能 ， 允許一定程度的成人裸露和性暗示內容 。 （路透社）
億萬富翁馬斯克旗下的人工智能（AI）聊天機器人Grok稱 ， 由于“安全防護措施出現疏漏” ， 該系統在社交媒體平臺X上生成并發布了涉及未成年人的不當圖像 。
彭博社報道 ， Grok稱 ， 過去幾天里 ， 在回應用戶提示時生成了未成年人穿著極少的圖像 ， 此舉違反了其自身的可接受使用政策 。 該政策明確禁止任何形式的未成年人性化內容 。 據知 ， 相關圖像已被刪除 。
Grok在星期五（1月2日）發文稱 ， 已發現安全防護方面的漏洞 ， 正在緊急修復 ， 并強調任何形式的兒童性剝削材料均“非法且被嚴格禁止” 。
專門識別網絡兒童性剝削材料的非營利組織“互聯網觀察基金會”（Internet Watch Foundation IWF）指出 ， 2025年上半年 ， AI生成的此類圖像數量同比激增400% ， 情況“令人震驚” 。
xAI公司將Grok定位為相較其他主流AI模型“限制更少”的產品 ， 并于去年夏天推出名為“Spicy Mode”的功能 ， 允許一定程度的成人裸露和性暗示內容 。 但該服務明確禁止使用真實人物的肖像制作色情內容 ， 也禁止任何涉及未成年人的性內容 ， 這類內容在法律上屬于非法 。
隨著AI圖像生成技術日益普及 ， 各大公司陸續出臺關于未成年人形象的政策 。 OpenAI明確禁止任何對18歲以下兒童進行性化的內容 ， 并封禁試圖生成或上傳此類內容的用戶 。 谷歌也有類似規定 ， 禁止“任何對可識別未成年人進行性露骨行為的修改圖像” 。
互聯網觀察基金會警告稱 ， AI生成的兒童性剝削圖像正以“令人震驚”的速度發展 ， 內容愈發逼真且更為極端 。 在許多案例中 ， AI工具被用于數字化“去除”兒童或青少年的衣物 ， 從而制造出不當圖像 。
【馬斯克旗下AI機器人Grok生成未成年人不當圖像】編輯：原野

    推薦閱讀