1. 首頁 > 生活百科 > >

辛頓等人再為“超級智能”踩剎車，超千名公眾人物聯署公開信

人工智能成都杭州腦機接口強腦科技

辛頓等人再為“超級智能”踩剎車，超千名公眾人物聯署公開信

文章圖片


近日 ， 一封由非營利組織“生命未來研究所”（Future of Life Institute）發起的公開信 ， 獲得了超過 1000 名公眾人物的聯署 。 信中呼吁 ， 在獲得“廣泛的科學共識（證明其能被安全可控地完成）和強烈的公眾支持”之前 ， 應該明確禁止超級智能的開發 。


（來源：superintelligence statement）

洋洋灑灑的簽署名單揭示了這場焦慮已普遍蔓延至政治、商業和文化領域 。 名單中不僅包括了“AI 教父”杰弗里·辛頓（Geoffrey Hinton）、約書亞·本吉奧（Yoshua Bengio）和圖靈獎得主姚期智 ， 還包括了蘋果聯合創始人史蒂夫·沃茲尼亞克（Steve Wozniak）、維珍創始人理查德·布蘭森（Richard Branson）；甚至還包括了哈里王子夫婦、特朗普的前戰略師史蒂夫·班農（Steve Bannon）以及奧巴馬時期的國家安全顧問蘇珊·賴斯（Susan Rice） 。

這封信要求 ， 在“就其安全可控達成廣泛科學共識”和“獲得強有力的公眾支持”之前 ， 領先的人工智能實驗室必須停止他們對這種超級能力的追求 。

公開信中談及 ， 人工智能行業正競相構建能在未來十年內、在幾乎所有認知任務上超越人類的系統 ， 這將置人類社會于不可回旋的風險之中：經濟劇變、人類失控、公民自由受到威脅 ， 乃至“人類滅絕”的可能性 。 歷史學家尤瓦爾·赫拉利（Yuval Noah Harari）甚至發出警告 ， 超級智能可能會摧毀“人類文明的操作系統” 。

這種恐懼并非杞人憂天 。 與公開信一同發布的民調顯示 ， 高達 73% 的美國人希望對先進的人工智能進行強有力的監管 ， 64% 的人同意在安全可控前不應開發超級智能 。 “95% 的美國人不想要一場通往超級智能的競賽 ， 專家們也希望禁止它 ， ”生命未來研究所主席馬克斯·泰格馬克（Max Tegmark）在聲明中總結道 。


（來源：superintelligence statement）

然而 ， 這封信最大的意義或許不在于它是否能成功調整行業發展的步調 。 畢竟 ， 該組織曾在 2023 年初發布“呼吁暫停六個月”的公開信 ， 最終對行業的發展步伐沒有產生任何影響 。 包括 Meta、谷歌 DeepMind 和 OpenAI 在內的幾家主要 AI 實驗室 ， 還在積極地追求達到或超越人類智能水平的先進智能體 。 一些激進的專家估計 ， 超級智能最早可能在“2020 年代末”實現 。 這一次 ， 這封口徑更嚴厲的呼吁 ， 反而像一面鏡子 ， 照出了人工智能行業內部的深度分裂 。

行業的分裂正變得日益公開化 。 一邊是辛頓、本吉奧等人對生存風險的深切擔憂；另一邊 ， 則是以 Meta 首席 AI 科學家楊立昆（Yann LeCun）為代表的“技術樂觀派” 。

楊立昆尖銳地批評了那些公開警告 AGI 危險、私下卻在構建同類系統的同行（如 Anthropic CEO Dario Amodei） ， 稱這種立場“在理智上不誠實” 。 楊立昆認為 ， 當前的大型語言模型被嚴重高估 ， 并且正在走向技術的死胡同 ， 何來談及威脅人類生存 。

《人工智能：一種現代方法》的作者斯圖爾特·羅素（Stuart Russell）也警告稱 ， 當前膨脹的預期可能引發類似互聯網泡沫破滅的信心崩潰 。 他表示 ， 這次該團體并不是在呼吁“通常意義上的禁令甚至暫停” ， 而只是“提議在開發繼續之前要求足夠的安全措施” 。 就連 OpenAI 的主席布雷特·泰勒（Bret Taylor）也公開表示 ， 如今的 AI 熱潮與當年的互聯網時代有著強烈的相似之處 。

這場公開的立場分化正在拷問整個人工智能行業：我們是正站在“失控”的懸崖邊 ， 還是處于“泡沫”破滅的前夜？

盡管本吉奧呼吁 AI 系統應“從根本上無法傷害人類” ， 哈里王子也表示“AI 的未來應該服務于人類 ， 而不是取代人類” ， 但這場辯論在可見的未來還不會有答案 。 在領先的實驗室繼續追求更強系統的同時 ， 這場關于 AI 終極形態的論戰 ， 才剛剛開始 。

參考資料：
1.https://fortune.com/2025/10/22/ai-superintelligence-richard-branson-prince-harry-call-for-pause/
2.https://the-decoder.com/the-ai-pause-group-is-back-with-another-warning-about-superintelligence/
3.https://superintelligence-statement.org/

【辛頓等人再為“超級智能”踩剎車，超千名公眾人物聯署公開信】運營/排版：何晨龍

    推薦閱讀