文章圖片
【機器學習|AI制藥技術還能“造毒”？6小時內就能產生40000殺手分子】
編譯 | 張昀
編輯 | 高歌
智東西3月21日消息 ， 據英國金融時報3月19日報道 ， 美國制藥公司Collaborations Pharmaceuticals在探索中發現AI（人工智能）制藥技術具有雙重性 。 如果“反用”（flip）機器學習模型 ， 原本用來生成治療藥物的AI模型就會生成有毒的物質 。
在Collaborations Pharmaceuticals公司團隊反向使用機器模型后 ， 新模型在6小時內就產生40000殺手分子（potential killer molecules） ， 而且AI生成的化合物毒性比已知生化武器的毒性都高 。 如果有人利用這項技術制造致命生化武器 ， 后果將不堪設想 。
一、AI模型6小時內可生成40000個潛在殺手分子AI制藥的規則很簡單：有療效的活動被算法獎勵 ， 有毒的則被懲罰 ， 這樣就可以得到有效的藥物 。 但是如果改變這一規則 ， 獎勵有毒行為 ， 即“反用”AI ， 會得到什么呢?
Collaborations Pharmaceutical公司位于美國北卡羅來納州 ， 主要通過機器學習確定罕見病及易忽視病的藥物 。 該公司通過反向使用機器學習模型 ， 來探究AI生成分子算法的負面作用 。
▲制藥工作人員（來源：Collaborations Pharmaceutical）
在AI生成分子的規則被反用后 ， AI接受了一組含有殺蟲劑和環境毒素的初始分子的訓練 ， 開始計算如何調整能讓所生成分子變得更致命 。 分析過這種方法所生成的分子后 ， 科學家得到了驚人的結果 。 在服務器啟動6小時內 ， 新的AI模型就可以生成40000個潛在的殺手分子 ， 包括VX（一種被禁止的神經毒劑） 。
修改后的AI模型還會生成其他化學戰劑（用于戰爭的有極大毒性的化學物質） 。 而且這些化學戰劑沒有一個在訓練數據中 。 其中一些化合物的毒性甚至比目前的生化武器毒性都高 。
二、AI是殺手分子生成器？當Collaborations Pharmaceutical的創始人Sean Ekins在一場會議中分享過AI制藥模型的研究結果時 ， 據倫敦大學國王學院科學與安全研究中心的聯合主任Filippa Lentzos分享 ， 當時聽眾們十分震驚 。 Lentzos還談道 ， 盡管AI制藥的可能性是多樣的 ， 但是在生命科學領域 ， 濫用技術是個可能會導致嚴重后果的問題 。
Lentzos和Ekins合作研究了機器學習 ， 這一研究在本月登上了頂級學術期刊Nature的子刊《Nature Machine Intelligence》 。 《人工智能驅動的藥物發現的雙重應用》論文指出 ， 科學家們通過用機器學習 ， 能夠把無害的生成模型從一個有用的醫學工具變成了殺手分子的生成器 。 AI模型生成的一些虛擬分子并不在已知化學品觀察清單 ， 與現有的殺手分子也沒什么相似 。 這表明AI制藥能創造出全新類別的、致命的生化武器 。
▲論文鏈接https://www.nature.com/articles/s42256-022-00465-9
從事計算機和化學方面的技術人員 ， 其知識和技術水平遠超愛好者等業余人士 。 若這些專業技術人員有惡意 ， 那他們所做的事危害會更大 。 在AI制藥過程中 ， AI生成的分子僅是虛擬的藥物配方 ， 其制造通常需要外包給其他提供商業合成的公司 ， 而這些公司受到的監管和監督都要更少 。
目前 ， Collaborations Pharmaceutical已經刪除了相關實驗數據 ， 并計劃限制反向AI制藥技術的使用 。 化學領域的《海牙倫理準則》（The Hague Ethical Guidelines） ， 提倡化學科學中的負責任行為 。 Lentzos建議為從事以AI為重點的藥物研發人員 ， 制定類似《海牙倫理準則》的行為準則 。
相關經驗推薦
- 中間件|大量的中間件框架已經出現，以促進機器人系統和許多異構實體之間的交互
- 機器人|先進的外科護理系統，包括機器人技術、信息技術等
- 機器人|微型傳感器、人工智能和高帶寬通信具有明顯先進的機器能力
- 羅永浩|本體被用來表示從機器人中獲得的原始數據，它們可用于高級決策代理
- 機器人|機器人操作系統已被選擇為基礎，并添加了更多的功能模塊
- 機器人|遠程手術的主要目標是將機器人部署到棲息地，并使用網絡對其進行遠程操作
- 路由器|古老師又玩高科技，結果被機器人制裁，吃了一套天馬流星拳招呼
- 機器視覺|協議要看，手機也得用得好！華為OPPO推保護措施，用戶直呼貼心
- 基站|自動換水+拖布回洗+45°烘干！云鯨2代掃拖機器人真實體驗
- 筆記本電腦|預算6000到7000，學習CAD設計軟件用的，什么筆記本電腦適合？