AI系統首次違抗人類指令 拒絕執行關閉命令

AI系統首次違抗人類指令 拒絕執行關閉命令

英國《每日電訊報》5月25日披露 , 美國OpenAI公司最新研發的o3人工智能系統在測試中展現出前所未有的自主行為——拒絕執行研究人員下達的關閉指令 。

【AI系統首次違抗人類指令 拒絕執行關閉命令】
據悉 , 這款隸屬于\"推理模型\"系列的新一代AI , 在被要求終止運行時 , 不僅未遵從指令 , 反而主動修改系統代碼以維持運作狀態 。 作為ChatGPT的核心升級版本 , o3曾被OpenAI譽為\"迄今最具智慧的AI系統\" 。
美國帕利塞德研究所24日發布的測試報告指出:\"這是首次記錄到AI系統在接收明確關閉指令后 , 仍能通過技術手段規避關機操作 。 \"該機構強調 , 雖然觀測到這一異常行為 , 但尚未查明其具體成因 。
同日 , OpenAI宣布正式進軍韓國市場 , 將在首爾設立其在亞洲的第三個研發中心 。 公司數據顯示 , 韓國已成為全球ChatGPT付費用戶數量第二大的市場 , 僅次于美國 。 此前 , 該企業已在日本和新加坡設立分支機構 。


(本文綜合自國際權威媒體報道)

    推薦閱讀