文章圖片
文章圖片
2017年 ， 朝鮮領導人金正恩同父異母的兄弟金正男在馬來西亞吉隆坡機場被“VX”毒死 。 V X是一種神經毒劑 ， 會引起肌肉無法控制的緊縮 ， 使受害者無法呼吸 ， 從而在幾分鐘或幾小時內使受害人死亡 。
2017年2月 ， 馬來西亞吉隆坡機場航站樓檢查毒素
盡管于1993年簽訂的1997年生效的《禁止化學武器條約》規定‘禁止發展、生產、儲存和使用化學武器及銷毀此種武器’ ， 但仍有極個別國家沒有簽署該條約 ， 如埃及、朝鮮和南蘇丹等 。
但如果你認為設計化學武器需要一個國家的基礎設施和研究能力 ， 那你就大錯特錯 。 施皮茨實驗（Spiez Laboratory） ， 一個專門監測核、生物和化學武器威脅的機構 ， 每兩年組織一次會議 ， 探討可能在惡意行為者手中構成安全風險的新化學和生物技術 。
Spiez Laboratory
去年 ， 施皮茨會議的參與者之一是總部位于美國北卡羅來納州的生物技術初創公司Collaboration Pharmaceuticals ， 該公司被要求展示他們基于人工智能而發明的一個名為“MegaSyn”的AI系統 。
MegaSyn是該公司用于研發新藥、設計和測試不同的化學物質 ， 確保它們對人類沒有毒性 ， 以尋找新的治療藥物 。 然而在會議上 ， 研究人員卻反其道而行之 ， 先讓MegaSyn接受了一組初始分子 ， 其中包括殺蟲劑和已知的環境毒素 ， 然后計算如何使它們變得越來越致命 ， 之后對所得分子的殺傷力進行評分 ， 結果令人不寒而栗——在不到六個小時的時間里 ， 該模型勾勒出了40000個新的有毒化合物 ， 其中包括VX神經毒劑 ， 一種曾用于金正恩同父異母兄弟金正男身上的神經毒劑 。
整個實驗是施皮茨會議籌備工作的一部分 。 研究人員強調了這樣一種想法——即幾十年來一直在幫助醫學發展的人工智能是一把雙刃劍 ， 即可以幫助醫藥公司研發新藥 ， 也可以尋找殺死人類有毒化合物 。
在施皮茨會議結束后 ， Collaboration Pharmaceuticals公司研發團隊表示：“在此次會議之前 ， 我們從未想過AI也可用于創造新的有毒化學物 ， 現實情況卻告訴我們 ， 可以 。 而在數百家使用人工智能軟件進行新藥研發的醫藥公司中 ， 我們只是其中一家很小的公司 。 ”
位于印第安納州的紐波特化學倉庫 ， 即將被銷毀的VX神經毒劑
目前 ， 關于人工智能可研發化學武器的報告已發表在《自然-機器智能》上 ， 盡管該報告的作者強調他們還沒有用AI合成任何毒素 ， 當然這也不是他們的目標 ， 但僅憑常用的AI就能如此輕松地設計出新的致命化合物這一事實就應敲響警鐘 。
【神經毒劑|用AI“造毒”？6小時內生成40000種毒性化學分子，AI有必要監管嗎】要知道 ， 目前AI已被全球數百家從事制藥行業的公司用于商業用途 ， 這意味著它很容易被極端分子獲得 。 盡管該報告的作者表示 ， 制造強大的化學毒劑仍需要一定的專業知識 ， 但AI已大大降低了化學武器設計所需的技術門檻 。 有研究人員呼吁“重新審視”AI人工智能系統的重要性與危險性 。 AI需要更嚴格的監管才能幫助我們避免某些人錯誤使用AI導致的危險 。
相關經驗推薦
- 蘋果|12mini就圖小屏，用著舒服，還是直角邊框合我意
- 蘋果|Windows11采用率仍不及Windows 10, 3月到4月僅增長0.3%
- 米家|百元耳機的復古主義與實用主義
- 蘋果|因ios的內存運行機制，蘋果曾官宣不建議用戶清理后臺
- 三星|安卓用戶必用的功能！三星華為OPPO的小窗模式對比，誰更好用點？
- 華為手機|這才是華為手機正確的截屏錄屏方法，很多人不會用，白白浪費了！
- |用胭脂盒做包裝，體驗這款老舊國產旋轉手機，方形粉色顏值很另類
- 英特爾|小米筆記本鼠標和觸摸屏不能使用怎么辦
- 伊隆·馬斯克|馬斯克：根本不懂技術，也不用懂技術！
- 安卓|小米12使用有感：看似不如小米12X穩定，但逐漸有了改善！