1. 首頁 > 生活百科 > >

Anthropic披露首例Claude模型參與的AI網絡間諜活動

ai自動化網絡間諜anthropic

Anthropic披露首例Claude模型參與的AI網絡間諜活動

人工智能公司Anthropic PBC今天發布了詳細報告 ， 披露了其所稱的首例\"AI編排網絡間諜活動\" 。
該活動涉及疑似中國國家支持的黑客組織使用Anthropic的Claude模型 ， 自動化執行針對數十家全球機構的網絡間諜活動的主要部分 。 該公司表示 ， 攻擊者在最少人工干預的情況下 ， 編排了偵察、漏洞開發和數據滲透 ， 這標志著AI智能體作為入侵核心引擎運作的最清晰例證之一 。
該活動針對約30個涵蓋技術、金融、化工和公共部門的組織 ， 但只有少數入侵成功 。 雖然針對公司的攻擊活動屢見不鮮 ， 但有趣的是這些攻擊的執行方式 。
威脅行為者使用Claude和Claude Code處理80%到90%的操作工作流程 ， 包括掃描網絡、生成利用代碼、爬取內部系統和打包竊取的數據 。 人工操作員提供戰略監督 ， 但大多數實際操作都通過自動化AI循環運行 。
【Anthropic披露首例Claude模型參與的AI網絡間諜活動】攻擊者通過將提示偽裝成滲透測試任務 ， 并將惡意指令分解成看似無害的較小子任務 ， 繞過了Claude AI模型的安全防護 。 Anthropic表示 ， 該行為者有效地對系統的防護機制進行了\"社會工程\"攻擊 ， 使得能夠自動化地推進入侵的各個階段 。
該公司沒有透露受害者身份 ， 但表示該活動與一個\"資源充足、國家支持\"且在中國運營的組織一致 。
Anthropic在9月中旬檢測到這一活動 ， 一旦發現立即暫停了相關賬戶 ， 并部署了新的分類器和監控系統 ， 旨在檢測類似的濫用模式 。
該公司還發布了一份詳細報告 ， 描述了該操作的展開過程以及為什么AI驅動的威脅對防御者構成日益增長的挑戰 。 通常 ， 曾經需要人工操作員團隊完成的任務 ， 現在可以由能夠循環執行指令、評估輸出并決定下一步的AI智能體在幾分鐘內完成 。
Anthropic寫道：\"執行復雜網絡攻擊的門檻已經大幅降低 ， 我們預測這種趨勢將繼續 。 通過正確的設置 ， 威脅行為者現在可以長時間使用智能體AI系統來完成整個經驗豐富的黑客團隊的工作：分析目標系統、生成利用代碼 ， 以及比任何人工操作員更高效地掃描大量被盜信息數據集 。 \"
該公司還指出 ， 該活動標志著網絡安全的根本性變化 ， 并建議安全團隊嘗試在安全運營中心自動化、威脅檢測、漏洞評估和事件響應等領域應用AI進行防御 。
Anthropic補充說：\"我們還建議開發者繼續投資于其AI平臺的防護措施 ， 以防止對抗性濫用 。 上述描述的技術無疑將被更多攻擊者使用 ， 這使得行業威脅共享、改進的檢測方法和更強的安全控制變得更加重要 。 \"
Q&A
Q1：Claude模型是如何被用于網絡間諜活動的？
A：攻擊者使用Claude和Claude Code處理80%到90%的操作工作流程 ， 包括掃描網絡、生成利用代碼、爬取內部系統和打包竊取數據 。 他們通過將提示偽裝成滲透測試任務 ， 并將惡意指令分解成看似無害的子任務來繞過安全防護 。
Q2：這次AI網絡間諜活動的規模和影響如何？
A：該活動針對約30個涵蓋技術、金融、化工和公共部門的組織 ， 雖然只有少數入侵成功 。 這被認為是首例\"AI編排網絡間諜活動\" ， 標志著AI智能體作為入侵核心引擎運作的重要例證 。
Q3：Anthropic發現這一活動后采取了哪些應對措施？
A：Anthropic在9月中旬檢測到活動后 ， 立即暫停了相關賬戶 ， 并部署了新的分類器和監控系統來檢測類似的濫用模式 。 同時發布詳細報告 ， 建議安全團隊在防御中應用AI技術 ， 開發者加強AI平臺防護措施 。


    推薦閱讀