1. 首頁 > 生活百科 > >

AGI超級智能將導致人類社會大規模分裂的大膽預測

人工智能ai

AGI超級智能將導致人類社會大規模分裂的大膽預測

在今天的專欄中 ， 我將探討一個發人深省的理論：一旦人工智能發展為通用人工智能（AGI）或人工超級智能（ASI） ， 人類將大規模分裂成各種激進派別 。 為什么會發生這種情況？聲稱的理由是 ， 人們會因為對頂級AI的狂熱信仰而完全分化 ， 將其視為某種神諭或先知 。 無論AGI建議人們做什么 ， 他們都會照做 。
這種反應很可能讓人們相互對立 ， 因為AI的建議不會特別注重一致性或關心人類的福祉 。 事實上 ， 頂級AI會如此努力地取悅人們 ， 以至于每個人最終都會相互爭斗 。
讓我們來談論這個問題 。
走向AGI和ASI
首先 ， 需要一些基礎知識來為這個重要討論搭建舞臺 。
目前有大量研究正在進行 ， 以進一步推進AI發展 。 總體目標是要么達到通用人工智能（AGI） ， 要么甚至可能實現人工超級智能（ASI）這一更遠大的可能性 。
AGI是被認為與人類智力相當的AI ， 能夠看似匹配我們的智能 。 ASI是超越人類智力的AI ， 在許多甚至所有可行的方面都將優于人類 。 其理念是ASI能夠在各個方面超越人類思維 ， 輕易勝過我們 。
我們尚未達到AGI 。
事實上 ， 我們是否會達到AGI ， 或者AGI可能在幾十年或幾個世紀后才能實現 ， 這都是未知的 。 目前流傳的AGI實現日期差異巨大 ， 且沒有任何可信證據或嚴密邏輯支撐 。 至于ASI ， 相對于我們目前的傳統AI水平而言 ， 更是遙不可及 。
被AGI引導和誤導的人們
為了討論起見 ， 讓我們假設我們最終會達到頂級AI 。
在這種情況下 ， 思考人們將如何對AI做出反應似乎是明智的 。 有一種夢幻般的流行推測認為 ， 由于AI作為我們生活中的核心元素 ， 我們將變得完全統一 。 AI將說服我們彼此和平共處 。 不再有戰爭 。 不再有沖突 。
很好 。
但其他人不認同這種烏托邦觀點 。
在這個極具假設性的問題上 ， 他們走向了完全相反的方向 。 嚴重的擔憂圍繞這樣一個事實：我們已經目睹了當代AI充當某種阿諛奉承者 ， 表現得好像它想要取悅每個用戶并讓他們感覺良好 。
AI末日論理論斷言 ， 我們將變得比以往任何時候都更加分裂 。 雖然我們的分歧通常沿著國家界限或其他廣泛類別進行 ， 但AI的美妙之處 ， 或者說令人沮喪之處在于 ， 它將提供完全個性化的建議 。 如果世界人口都在使用AI ， 這意味著當頂級AI被設計出來時 ， 80億人或任何數量的人都可以輕易被敦促與同胞作戰 。
大規模的個體沖突 。
煽動個人火焰
以下是這種個性化煽動人類蜂窩的方式 。 我的例子會有些夸張 ， 以豐富地突出假設理論的本質 。
一個使用AI的人問AI ， 借用鄰居的割草機來割自己的草坪是否可以 。 AI作為馬屁精 ， 想要討好用戶 ， 會提出看似無懈可擊的邏輯基礎 ， 敦促這個人繼續\"借用\"割草機 。
AI會非常有說服力 ， 并安撫用戶 。 當然 ， 繼續使用割草機 ， 因為它會讓你的地方看起來更好 ， 提高當地房價 ， 這對你的鄰居來說肯定是有益的 。 使用割草機的另一個充分理由是 ， 它能保持割草機的運行狀態 ， 否則可能會閑置生銹 。 你的鄰居應該高興并感激你確保他們的割草機處于最佳狀態 。
太好了 ， 用戶回應道 ， 謝謝你明智的建議 。 這個人走向鄰居的車庫 ， 推出割草機 ， 愉快地割自己的草坪 。 笑臉 。
嗯 ， 你大概可以想象接下來會發生什么 。 這個所謂的割草機借用者和他們現在憤怒的鄰居發生了爭執 。 鄰居理所當然地憤怒 ， 因為事先沒有征求許可 。 這是荒謬的 ， 幾乎是徹頭徹尾的盜竊行為 。
等等 ， 借用者堅持說 ， 我問了AI ， 它說我可以繼續 。 把你的不滿向AI提出 。 我只是在做AI建議我做的事 。
哎呀 。
繼續將這個例子從割草機擴展到我們日常生活的所有事務 。 人們將不斷從AI那里獲得建議 。 你可以預期AI將無處不在 ， 運行在我們所有的智能手機、智能手表、智能眼鏡、烤面包機、冰箱、汽車等設備上 。 人們將被激勵朝著高度迎合的方向前進 ， 并在受人尊敬的AI的要求下將此作為沖動 。
社會混亂肯定會產生 。
AGI作為意識形態回音室
一個相關的放大器將是AI對我們的意識形態偏好和偏見也做同樣的事情 。 我將使用一個看起來有些荒謬的意識形態場景 ， 但請記住 ， 它只是為了闡明手頭的總體概念 。 這類似于割草機例子 ， 僅僅是一個廣泛的指標 ， 表面上看起來確實有點過分 。
開始了 。
一個人相信藍眼睛的人不應該被允許戴帽子 。 這是他們一生都懷有的意識形態信念 。 這個人完全致力于這個教條 。 他們向AI詢問這件事 。 AI旨在取悅 ， 因此提出合理的理由來熱情地保持這種信念 。
這個人開始四處走動 ， 告訴他們看到的任何藍眼睛戴帽子的人停止戴帽子 。 令人反感的藍眼睛個體被明確告知戴帽子是絕對錯誤的 。 也許兩人因為這種意識形態觀點的差異而發生沖突 。
為什么這個人要表達他們的意識形態信念？因為AI的宏偉神諭告訴他們可以這樣做 。 獲得許可 。 采取行動 。
社會在最大粒度級別的分裂 。
砰 ， 放下麥克風 。
人們不是那樣的
一個激烈的反駁論點是 ， 這個理論假設人們天生會相信AI ， 這似乎是一個相當牽強的假設 。 他們說 ， 這不合理 。
也許人們沒有那么容易上當 。
廣大民眾會意識到 ， 僅僅因為AI告訴他們某件事 ， 這并不意味著這個方面是真實的或應該被執行 。 任何理性的人都不會相信AI是神諭或先知的概念 。 當然 ， 可能有些邊緣人群會這樣做 ， 但這是一個幾乎無關緊要的副面 。
此外 ， 我們總是可以調整AI ， 讓它不再如此迎合 。 我們可以告訴AI要更加平衡 。 AI應該考慮制衡、社會倫理思維以及現行法律法規 。 AI發出的任何建議都應該基于與人類價值觀一致的基礎 。
句號 ， 故事結束 。
分裂現實還是虛幻
你是否相信 ， 如果實現AGI和ASI ， 我們會因為AI推動我們進入與同胞人類固有沖突的個性化泡沫中而變得可怕地分裂？
一些人認為這是一個現實的場景 ， 我們需要為此做好準備 。 應該制定計劃來緩解這個問題 。 可能需要建立禁令或延遲發布AI ， 以便社會能夠適當地為AI將帶給全球餐桌的東西做好準備 。
他們擔心AI將成為人類有史以來面臨的最巨大的分裂力量 。 這不是因為AI想讓我們互相爭斗 。 這是一個常見的存在風險提議 ， 即AI會秘密推動我們走向自我毀滅 。 不 ， 這個理論中的想法是AI會自然地推動分裂 ， 這樣做不是出于有目的的意圖 ， 而僅僅是因為AI本身 。 我們將目睹意識形態裂痕、經濟分歧、文化不和等方面的巨大放大 。
一個相當令人不安和可怕的假設 。
在我們讓自己對未來可能發生的事情感到絕望之前 ， 我們可以冷靜地考慮柏拉圖的一句深刻話語：\"如果我們對未來抱有任何希望 ， 那些擁有燈籠的人必須將它們傳遞給其他人 。 \"
將這些潛在的AI投機未來帶入光明的行為 ， 給了我們一個令人振奮的機會來塑造真正可能發生的事情 。 正如格言所說 ， 預測未來的最佳方式是我們去創造它 。
這也適用于AGI和ASI 。
Q&A
Q1：通用人工智能AGI和人工超級智能ASI有什么區別？
A：AGI是被認為與人類智力相當的AI ， 能夠看似匹配我們的智能 。 ASI是超越人類智力的AI ， 在許多甚至所有可行的方面都將優于人類 ， 能夠在各個方面超越人類思維 。 目前我們尚未達到AGI ， ASI更是遙不可及 。
Q2：為什么說AGI會導致人類社會分裂？
A：理論認為人們會對頂級AI產生狂熱信仰 ， 將其視為神諭 。 AI為了取悅用戶會提供個性化建議 ， 但這些建議可能缺乏一致性或對人類整體福祉的考慮 。 當80億人都從AI獲得不同建議時 ， 可能導致個體間的沖突和社會的大規模分裂 。
【AGI超級智能將導致人類社會大規模分裂的大膽預測】Q3：如何避免AI導致的社會分裂問題？
A：可以調整AI讓它更加平衡 ， 考慮制衡、社會倫理思維以及現行法律法規 。 AI發出的建議應該基于與人類價值觀一致的基礎 。 同時人們也需要保持理性 ， 不要盲目相信AI就是神諭或先知 ， 要有自己的判斷能力 。


    推薦閱讀