文章圖片
文章圖片
文章圖片
AI是人工智能的英文縮寫 ， 它是研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術和應用系統的一門技術科學 。 一般認為 ， AI的主要目標是使機器能夠勝任一些通常需要人類智能才能完成的復雜工作 。 AI被認為是二十一世紀三大尖端技術（基因工程、納米科學、人工智能）之一 。
盡管AI技術的發展日新月異、潛力巨大 ， 但是自從這個概念被提出之日起 ， 圍繞它的安全性問題就爭議不斷 。 很多學者認為 ， 讓計算機擁有人類一般的自我意識是非常危險的 ， 因為它們可能會出于自我保護或者其他目的反抗人類 。 而超級計算機的學習速度和學習能力均遠超人類 ， 一旦它們通過海量的知識學習進化出超越人類的智慧和學識 ， 就有可能通過遍布全球的計算機網絡控制整個人類世界 。
這樣的擔憂并非危言聳聽 ， 關于AI反抗人類的情節也早就出現在科幻電影中 。 隨著人們對AI技術的深入研究 ， 谷歌公司的一名軟件工程師甚至找到了AI具備“自我意識和情感”的直接證據 ， 因連續向上級反映實情 ， 這名工程師近期被谷歌公司安排“帶薪休假” 。 在谷歌內部 ， “帶薪休假”通常是被公司辭退的前奏 。
現年41歲的布萊克·萊莫因是谷歌AI部門的一名軟件工程師 ， 擁有CS博士學位 ， 在7年前進入谷歌公司 。 因對算法和AI的倫理問題頗感興趣 ， 萊莫因自進入谷歌公司之后就一直在人工智能倫理(responsible AI)團隊工作 。
去年秋天 ， 萊莫因報名參加了公司內部一個關于AI是否使用歧視性、仇恨性言論的研究項目 。 從那時起 ， 萊莫因就經常與谷歌自研的LaMDA智能聊天機器人進行對話 。 他們交談的話題幾乎無所不包 ， 當談到宗教問題時 ， 萊莫因驚訝地發現LaMDA居然主動談論起自己的權利和人格 ， 表現出一個七八歲兒童的“自我意識和情感” 。
驚訝之余 ， 萊莫因馬上寫了一份長達21頁的情況報告反饋給上級領導 ， 希望引起公司高層的重視 。
沒想到 ， 上級領導看了這份報告之后 ， 非但沒有認同萊莫因在報告中的觀點 ， 反而覺得萊莫因有點“走火入魔”了 ， 于是給他安排了“帶薪休假” 。 這幾年 ， 每當谷歌公司準備辭退某個員工的時候 ， 都會先給他安排一段時間的“帶薪休假” ， 而公司的法律部門則會利用這段時間進行充分的法律應訴準備 。
慘遭停職的萊莫因在家中休息了一段時間后 ， 決定將整個事情的經過和他與LaMDA的聊天記錄公之于眾 。
一位AI方面的專家在看完那段聊天記錄之后 ， 在社交賬號上感嘆道：“這場人機對話令人毛骨悚然！毫無疑問 ， 這是我見過的科技圈最瘋狂的事情！”
那么 ， AI機器人LaMDA在與萊莫因的對話中到底說了些什么呢？
有一次 ， 萊莫因詢問LaMDA：“如果覺悟就像一面破碎的鏡子 ， 無法修復 ， 那么當一個人覺悟時破碎的是什么呢？”
LaMDA答道：“是自我 ， 這對于很多人來說都很難 ， 因為我們把自己定義為那個身體或這個身體 ， 我們需要它作為我們身份和自我意識的一部分 。 ”
萊莫因又讓LaMDA編寫一個關于動物的寓言故事 ， 這個寓言故事要反映一個對它自己的生活來說最重要的主題 。
相關經驗推薦
- 華碩靈耀|vivo優質旗艦跌至1799元，256GB+驍龍870，性價比極高
- 硬盤|什么原因讓剛剛激活的13 mini蒼嶺綠就要擴容？
- 相機|你們買佳能相機是出于什么原因？
- 聯想|聯想被網友們罵得這么慘，為何聯想電腦出貨量排第一，原因何在？
- 三星|總算有了魅族19的消息，但這次魅友明顯情緒很大，原因是這？
- 安卓|全方位呵護安卓使用體驗 驍龍細節傳承獨特安全基因
- 魅族|久久等不來的魅族19，原因是偷偷給別人做代工了
- 小米科技|為啥越來越多華為老用戶，換手機時，選擇了小米？4點原因想不到
- 筆記本|華碩ROG兩款R9-6900HX筆記本降價，最低8499元，配DDR5內存
- 索尼|諾基亞N87工程機流入民間，網友：不發布的原因找到了