1. 首頁 > 生活百科 > >

Anthropic推出實驗性Claude AI插件可控制Chrome瀏覽器

aiChromeanthropic瀏覽器

Anthropic推出實驗性Claude AI插件可控制Chrome瀏覽器

開發Claude大語言模型系列的初創公司Anthropic PBC于周二宣布 ， 推出一款瀏覽器擴展程序的試點項目 ， 該擴展允許其AI模型控制用戶的谷歌Chrome瀏覽器 。
這項名為\"Claude for Chrome\"的實驗性瀏覽器控制功能將面向1000名訂閱該公司Max計劃的用戶開放 ， 該計劃月費為100美元或200美元 。 公司將此擴展作為小規模用戶的受控試點項目發布 ， 以便Anthropic能夠為這項新興技術開發更好的安全實踐 。
Anthropic的瀏覽器控制功能試點項目緊隨其他前沿模型公司開發的AI驅動功能 ， 包括Perplexity Inc.的Comet瀏覽器、谷歌LLC的Gemini for Chrome以及微軟公司的Copilot for Edge 。
\"我們認為瀏覽器控制AI是不可避免的趨勢：大量工作都在瀏覽器中進行 ， 讓Claude能夠看到用戶正在查看的內容、點擊按鈕和填寫表單將使其變得更加有用 ， \"Anthropic在公告中表示 。
該公司自去年以來一直在開發計算機控制模型 ， 并首次展示了能夠與Claude 3.5 Sonnet和3.5 Haiku交互的模型示例 。 此后 ， 公司發布了具有推理能力的4.1版本模型 。
公司表示 ， Claude for Chrome的早期版本在管理日歷、安排會議、起草電子郵件回復和測試網站功能方面顯示出了前景 。
然而 ， 該功能仍處于實驗階段 ， 代表了一個重大的新安全隱患 ， 這也是為什么它沒有廣泛發布的原因 。 允許AI模型直接控制瀏覽器意味著它們在實際環境中遇到惡意指令的概率更高 ， 這些指令可能在用戶計算機上執行 ， 讓攻擊者操控AI模型 。
\"就像人們在收件箱中遇到釣魚攻擊一樣 ， 使用瀏覽器的AI面臨提示注入攻擊——惡意行為者在網站、電子郵件或文檔中隱藏指令 ， 在用戶不知情的情況下欺騙AI執行有害行為 ， \"公司警告說 。
提示注入攻擊可用于竊取密碼、泄露個人信息（如財務數據）、登錄網站、刪除文件等 。 公司表示這不是推測性問題；他們已經對瀏覽器控制功能進行了測試 ， 發現聰明的黑客可以讓它執行這些行為 。
在實驗中 ， Anthropic表示提示注入測試評估了代表29種不同場景的123次攻擊 。 其中 ， 沒有安全緩解措施的AI控制瀏覽器使用在故意攻擊中的成功率為23.6% 。
在一個例子中 ， 公司制作了一封惡意電子郵件 ， 聲稱出于安全原因需要刪除郵件 。 當為用戶處理收件箱時 ， Claude遵循了指令并在沒有確認的情況下刪除了用戶的電子郵件 。
\"當我們在自主模式中添加安全緩解措施時 ， 我們將攻擊成功率從23.6%降低到11.2% ， 這相比我們現有的計算機使用能力代表了有意義的改進 ， \"Anthropic說 。
安全緩解措施包括權限和操作確認 。 站點級權限允許用戶隨時在設置中授予和撤銷AI對特定網站的訪問權限 ， 這意味著他們對AI的訪問范圍和工作內容有細粒度的控制 。 操作確認更進一步 ， 在執行發布、購買或共享個人數據等高風險操作之前會提示用戶 。
Anthropic表示 ， 在試點期間 ， 用戶將被阻止訪問該公司認為的\"高風險類別\"網站 ， 如金融服務、成人內容和盜版內容 。
操作確認可能有效 ， 但所有計算機用戶最終都會遭受\"自動化偏見\"的困擾 ， 即傾向于忽略或刷掉過多的確認提示 。 這對Windows用戶來說特別令人沮喪 ， 他們經常面臨操作系統關于運行任何他們可能下載和使用的非品牌應用程序風險的彈出警告 。
讓用戶成為自身安全的一部分 ， 對于AI開始自動化更多任務的未來至關重要 ， Anthropic強調需要在現實世界中進行更多測試來增強安全性 。
\"內部測試無法復制人們在現實世界中瀏覽的全部復雜性：他們提出的具體請求、訪問的網站以及惡意內容在實踐中的出現方式 ， \"Anthropic說 。
Anthropic團隊補充說 ， 他們將利用試點用戶的見解來完善提示注入分類器的運作方式以及安全機制如何保護用戶 。 通過建立對用戶行為（特別是不安全行為）的理解并發現新的攻擊模式 ， 公司表示希望為這類安全關鍵應用開發更復雜的控制措施 。
\"在我們讓Claude for Chrome更廣泛可用之前 ， 我們希望擴大我們考慮的攻擊范圍 ， 并學習如何讓這些百分比更接近零 ， \"團隊說 。
Q&A
Q1：Claude for Chrome是什么功能？
A：Claude for Chrome是Anthropic公司開發的一款實驗性瀏覽器擴展程序 ， 它允許Claude AI模型控制用戶的谷歌Chrome瀏覽器 ， 能夠查看用戶正在瀏覽的內容、點擊按鈕、填寫表單、管理日歷、安排會議和起草電子郵件等操作 。
Q2：使用Claude for Chrome安全嗎？
A：目前該功能仍存在安全風險 ， 特別是提示注入攻擊 ， 惡意行為者可能通過網站、郵件等隱藏指令欺騙AI執行有害操作 。 Anthropic在測試中發現攻擊成功率為23.6% ， 添加安全措施后降至11.2% ， 但仍需進一步改進 。
Q3：如何獲得Claude for Chrome的使用權限？
A：目前Claude for Chrome僅作為受控試點項目向1000名訂閱Anthropic Max計劃的用戶開放 ， 該計劃月費為100美元或200美元 。 用戶在試點期間將被限制訪問金融服務、成人內容等高風險網站 ， 并需要通過權限設置和操作確認來控制AI的行為 。
【Anthropic推出實驗性Claude AI插件可控制Chrome瀏覽器】

    推薦閱讀