這兩天
“字節跳動大模型遭實習生攻擊”
的相關消息沖上多個平臺熱搜
10月18日 ， 多個微信群流傳一則消息：“某頭部大廠的大模型訓練被實習生入侵 ， 注入了破壞代碼 ， 導致其訓練成果不可靠 ， 可能需要重新訓練 。 據稱遭到入侵的代碼注入了8000多張卡 ， 帶來的損失可能超過千萬美元 。 ”
【被實習生“坑”了？損失超千萬美元？知名大廠：涉事者已被辭退！】字節跳動回應：
部分消息嚴重夸大
10月19日 ， 字節跳動官方發布聲明回應此事稱 ， 確有實習生發生嚴重違紀行為并已經被辭退 ， 但相關報道也存在部分夸大及失實信息 。
“涉事實習生惡意干擾商業化技術團隊研究項目的模型訓練任務 ， 但并不影響商業化的正式項目及線上業務 ， 也不涉及字節跳動大模型等其他業務 。 ”
字節跳動還表示 ， 網傳“涉及8000多卡、損失上千萬美元”嚴重夸大 。
“經核實 ， 涉事人一直在商業化技術團隊實習 ， 并沒有AI Lab實習經歷 。 其社交媒體個人簡介及部分媒體報道有誤 。 該實習生已在8月被公司辭退 。 公司也將其行為同步給行業聯盟和所在學校 ， 交由校方處理 。 ”
此前報道據界面新聞報道 ， 據了解 ， 此事發生在今年6月 ， 起因是某高校的博士在字節跳動商業化技術團隊實習 ， 因對團隊資源分配不滿 ， 使用攻擊代碼破壞團隊的模型訓練任務 。
傳聞顯示 ， 該田姓實習生利用了HF（huggingface）的漏洞 ， 在公司的共享模型里寫入破壞代碼 ， 導致模型的訓練效果忽高忽低 ， 無法產生預期的訓練效果 ， 而且團隊無法核查原因 。 但傳聞曝出之后 ， 該實習生還在某微信群里辟謠稱 ， 自己發完論文后就從字節跳動離職 ， 有另一個人鉆漏洞改模型代碼 ， 把鍋扣到自己頭上 。
一位技術安全專家表示 ， 此事暴露了字節跳動技術訓練存在安全管理問題 。 公司既沒做權限隔離 ， 也沒有做好共用代碼的審計 。 正常情況下 ， 每次大的代碼變動必須做審計 ， 無論誰做操作都有痕跡記錄 ， 一個人想動代碼是不可能的 。
據證券時報報道 ， 大模型在安全性方面的問題已經受到業內高度關注 。 今年8月 ， 中國信通院發文稱 ， 近年來 ， 以大模型為核心的人工智能技術飛速發展 ， 成為數字經濟增長新動能 。 然而 ， 作為新質生產力的大模型在安全性方面仍存在較多缺陷 ， 這為其大規模落地應用帶來了不確定性 。 近期 ， 中國信通院發布的大模型安全基準AI Safety Benchmark的測試結果顯示 ， 大模型（尤其是開源大模型）在惡意誘導手段下的攻擊成功率均較原始輸入有明顯提升 。 因此 ， 對大模型進行安全對齊防護刻不容緩 。
來源：界面新聞、證券時報、字節跳動
推薦閱讀
- 性能“巨猛”！OPPO FInd X8確認，“極窄”直屏手機
- 月薪3萬+的精英們，為何“迷上”刷朋友圈？
- 千元機中的“全能怪獸”，6000mAh+8T直屏，發布一個月跌至1599元
- 美團回應：“都是假的，別信！”拿孩子當道具，這種流量真吃的心安么？
- 真我“real”內測招募即將啟動
- 臺積電“發飆”，稱中企不配成為對手，而中企高管說搞不定5納米
- 小米性價比“機皇”，16GB+512GB僅2676元，同價位配置無敵
- 紅米神秘新機被確認：超聲波指紋+驍龍8 Gen3，并配備2K直屏
- OPPO子系列新機再次被確認：2K東方屏+大底主攝，真機也泄露了
- 成全球最強芯片供應商之一，麥格米特華為基因“征服”英偉達？