1. 首頁 > 生活百科 > >

Bug變獎勵：AI的小失誤，揭開創造力真相

芯片算力it芯片立昂技術

Bug變獎勵：AI的小失誤，揭開創造力真相

文章圖片

Bug變獎勵：AI的小失誤，揭開創造力真相

文章圖片

Bug變獎勵：AI的小失誤，揭開創造力真相

文章圖片

Bug變獎勵：AI的小失誤，揭開創造力真相

文章圖片


你一定見過那些奇怪的AI畫：人物手上多出幾根手指、臉部細節怪異 ， 卻又帶著某種說不出的新鮮感 。
這讓人產生一個疑問：擴散模型明明只「復刻」 ， 為什么還能畫出前所未見的作品？
最新一項研究給出了答案：
其實 ， AI的創造力并非「神來之筆」 ， 而是模型架構的副作用 。

明明只會復制 ， AI為何還能創作？擴散模型的任務很簡單：把數字噪聲還原成訓練過的圖像 。
就像把一幅畫放入碎紙機 ， 直到只剩下一堆細小的灰塵 ， 然后將碎片重新拼湊到一起 。
照理說 ， 它應該只會生成「復制品」 。
可現實卻讓研究者大跌眼鏡 。
DALL·E、Imagen、Stable Diffusion這些模型 ， 畫出的不是「翻版」 ， 而是全新的圖像：
不同元素被組合在一起 ， 構成前所未見的場景 。
更令人意外的是 ， 這些拼貼并不是毫無意義的雜亂色塊 ， 而是帶著語義的完整作品 。
DALL·E 2制作了這些「金魚在海灘上啜飲可口可樂」的圖像 。 這個由 OpenAI創建的程序可能從未遇到過類似的圖像 ， 但它仍然可以自行生成這樣的圖像 。
還記得那些在社交平臺瘋傳的「AI多手指人像」嗎？
有些圖看上去像是超現實主義的畫——人物手上莫名其妙多出幾根手指 ， 但整體仍舊保持了清晰的結構感 。
這類怪異產物 ， 一度被當成笑料 ， 卻也讓科學家警覺：模型為什么會「即興發揮」？
Giulio Biroli將這種現象稱為「擴散模型的悖論」：
「如果它們真的只是記憶 ， 就不該有創造力；可它們偏偏能畫出前所未見的東西」 。
那么 ， AI的創造力到底是從哪里來的？

六指人像背后的「bug獎勵」在最新研究里 ， 兩位物理學家給出了一個頗為出乎意料的答案：
AI的「創造力」 ， 其實是它架構里的副作用 。
擴散模型在生成圖像時 ， 依賴兩條嚴格的規則：
第一條叫做局部性 。
它在繪制過程中 ， 并不會通盤考慮整張畫面 ， 而是一次只關注一個小小的像素「拼塊」 。
就像拼圖時 ， 你盯著一塊顏色相近的小碎片 ， 卻不會去想它最終會出現在整幅畫的哪個角落 。
第二條叫做平移等變性 。
如果輸入圖像整體往左或往右挪動幾個像素 ， 模型生成的畫面也必須跟著同步移動 。
這是它保持圖像結構連貫的方式 。
這兩條機制 ， 本來是擴散模型在「去噪」時的限制條件 。
研究者一度認為這是缺陷 ， 會讓模型沒法生成完美的復制品 。
可事實證明 ， 正是這種「不完美」 ， 反而讓AI無法完全依賴記憶 ， 必須在局部的拼貼里即興重組 。
【Bug變獎勵：AI的小失誤，揭開創造力真相】這就導致了 ， 手指可能多長了幾根 ， 元素可能拼接得有點怪異 ， 但整體畫面卻意外生出了新意 。
也就是說 ， AI 的創造力 ， 并不是額外設計出來的能力 ， 而是它架構必然帶來的副作用 。

ELS方程機：創造力的數學化證明如果說AI的創造力真是副作用 ， 那要如何證明？
斯坦福大學的研究生Mason Kamb和導師Surya Ganguli ， 進行了一次實驗 。
他們基于那兩條規則構建了一套純粹的數學系統 ， 命名為ELS方程機（Equivariant Local Score machine） 。
這個系統的特別之處在于 ， 它不依賴海量訓練數據 ， 也沒有任何黑箱深度網絡 。
它是一套方程 ， 用來預測當噪聲一步步被「去除」時 ， 圖像會如何拼合 。
然后 ， 他們把同一組噪聲圖像同時輸入ELS方程機和真實的擴散模型 。
結果令人震驚：ELS方程機生成的結果 ， 與擴散模型的輸出平均重合度高達 90% 。
在機器學習領域 ， 這幾乎是前所未有的精度 。
Ganguli感嘆道：
「這就像是用一組公式 ， 寫下了創造力的來源 。 」
所謂的「AI創造力」 ， 并不是神秘的靈感 ， 而是局部性與等變性在動態運行中必然產生的產物 。
只要滿足這兩個條件 ， 「創造」就會自動出現 。

AI的小失誤 ， 揭開人類創造力的秘密這項研究不僅揭開了擴散模型的秘密 ， 還讓人聯想到生命系統 。
Mason Kamb之所以產生這個靈感 ， 是因為他長期研究形態發生——也就是胚胎如何從一團細胞 ， 自我組裝成器官和肢體 。
在這個過程中 ， 細胞只是根據身邊鄰居的信號做出局部反應 。
大多數時候 ， 這種自組織能順利生成一個正常的身體 ， 但偶爾也會出錯——比如多長出幾根手指 。
當Kamb看到擴散模型生成的那些「AI多指人像」時 ， 他立刻聯想到胚胎發育里的這種「局部拼貼錯誤」 。
這說明 ， AI的創造力 ， 本質上和生物的自組織過程 ， 有著驚人的相似 。
研究者甚至提出一個更大膽的類比：人類的創造力 ， 也許和AI并沒有本質不同 。
我們的大腦 ， 并不是憑空冒出靈感 ， 而是在有限的經驗和記憶中 ， 不斷拼接、補全、想象 ， 最后產出新東西 。
正是這偶爾的錯誤與缺口 ， 反而成為創新的源泉 。
正如IBM研究員Benjamin Hoover所說：
「人類和AI的創造力 ， 可能都根植于對世界的不完整理解 。 」
創造力未必是高高在上的天賦 ， 它也可能是一種副作用 ， 一種「不完美」帶來的意外之喜 。
當「創造力」能被一組公式寫下 ， 人類和機器的界限也愈發模糊了 。
或許 ， 真正的靈感 ， 從來不是天才的特權 ， 而是「不完美」的副產物 。
研究揭示的 ， 不只是AI的密秘密 。
也許是在提醒我們：創造 ， 往往生長于偏差之中 。
參考資料：
https://www.wired.com/story/researchers-uncover-hidden-ingredients-behind-ai-creativity/
https://www.quantamagazine.org/researchers-uncover-hidden-ingredients-behind-ai-creativity-20250630/
本文來自微信公眾號“新智元” ， 作者：新智元 ， 編輯：傾傾 ， 36氪經授權發布 。

    推薦閱讀