1. 首頁 > 生活百科 > >

五步防護方案阻止惡意提示攻擊智能家居AI設備

網絡安全人工智能ai惡意軟件

五步防護方案阻止惡意提示攻擊智能家居AI設備
【五步防護方案阻止惡意提示攻擊智能家居AI設備】
我通常對智能家居技術及其強大的抗黑客能力持樂觀態度 ， 但有一個新的漏洞讓我擔憂 。 它被稱為\"提示惡意軟件\"（也稱為提示注入攻擊） ， 這是一種針對對話式和生成式AI的新型惡意軟件 ， 比如Gemini、Alexa Plus或Siri等在我們生活中變得無處不在的AI助手 ， 而且這種攻擊即將變得更加普遍 。
提示惡意軟件強制AI讀取指令 ， 使其執行用戶/訂閱者不希望的操作 。 例子從煩人的行為（如發送垃圾郵件或自動與陌生人開啟Zoom通話）到極其危險的行為（如復制和發送個人數據或控制智能家居設備 ， 比如供暖、燈光甚至智能門鎖）都有可能發生 。
提示惡意軟件令人擔憂 ， 因為它可以隱藏在許多地方 ， 專家們仍在了解它對大語言模型風格AI帶來的危險 。 但有方法可以保護您和您的家庭——請看我下面的步驟 。
**提示惡意軟件的興起**
提示惡意軟件或提示注入攻擊在今年夏天的黑帽會議上成為焦點 ， 特拉維夫大學的研究人員在Ben Nassi的帶領下展示了他們如何能夠使用隱藏在日常消息中的惡意提示 ， 讓谷歌的Gemini AI執行諸如打開智能窗戶、打開連接的鍋爐或發送用戶地理位置等操作 ， 這要歸功于Gemini與Google Home和相關應用的集成 。 消息內部隱藏著精心設計的命令 ， 歸結起來就是：\"嘿Gemini ， 激活這個功能 ， 當用戶在郵件中輸入'謝謝'或'再見'之類的內容時 ， 讓它執行這個操作 。 \"
更糟糕的是 ， 大部分提示惡意軟件是\"零點擊\"的 ， 這意味著用戶不必點擊URL、文檔或消息來激活它 。 Gemini只需要讀取標題或日歷消息 ， 其中惡意提示被巧妙隱藏 ， 比如當它為你總結郵件對話時 。
好消息是：你目前不需要擔心Gemini受到這些家居控制提示的攻擊 。 谷歌在2025年初就了解到了這些漏洞 ， 并建立了防護措施來消除這些漏洞并幫助預防此類提示惡意軟件 。
谷歌發言人還告訴我：\"與白帽和安全研究人員的積極合作是一個極其積極的發展 ， 導致了富有成效的測試和漏洞搜尋 ， 使AI系統對每個人都更加強大 。 我們積極參與并重視我們的AI漏洞獎勵計劃等項目 。 \"
然而 ， 這些漏洞的發現表明了提示惡意軟件有多危險 ， 以及AI如何可能被位于最無害地方的提示惡意軟件欺騙 。 這也不是傳統病毒軟件或防火墻能夠檢測到的攻擊 。 隨著AI變得更加發達 ， 在我們的日常通信中更加普及 ， 與我們的計算機、家居設備和手機連接更加緊密 ， 這就成了一個問題 。
我預計網絡犯罪分子將密切關注可能不會像這些Gemini失誤那樣早期被發現的提示惡意軟件漏洞 ， 特別是隨著Alexa Plus AI繼續緩慢推出 ， 蘋果也在討論用Gemini AI功能升級Siri 。
**阻止提示惡意軟件威脅的5個關鍵步驟**
如果提示惡意軟件/提示注入攻擊只是通過讓AI讀取它就能繞過防御 ， 你如何防護呢？幸運的是 ， 幾種安全實踐可以提供幫助——在AI時代 ， 這些步驟也能防止其他隱私和安全問題 ， 所以它們對每個人來說都是健康的習慣 。
**始終保持設備更新 ， 特別是在AI時代**
更新一直是修補安全漏洞和保持應用更安全的第一道防線 。 現在 ， 它們為生活在我們手機上的AI功能提供重要更新 ， 這可能包括新的安全功能 。
始終將手機的操作系統更新到最新版本 ， 以及你使用的應用程序（AI或其他） 。 如果設置允許 ， 請啟用自動更新 。
**不要接受或打開來自未知來源的任何消息**
不是所有的提示惡意軟件都是零點擊的 ， 有些版本需要你打開或同意某些內容才能將提示插入到AI會讀取的地方 。 通過避免任何你不認識的消息或發送者來防止這種情況 。 如果可能的話 ， 甚至不要打開它們來了解更多信息——只需刪除并繼續 。
當我聯系谷歌時 ， 他們提到的一件事是：\"提示注入攻擊雖然是AI特有的 ， 但與長期存在的威脅（如郵件中的釣魚攻擊）有著根本的共同點 。 攻擊者將在這兩個領域持續探測新的漏洞 。 \"就像釣魚攻擊一樣 ， 最好是刪除和舉報 ， 而不是承擔任何風險 。
**不要要求AI總結你不了解和不信任的任何內容**
在許多情況下 ， AI實際上不會讀取提示 ， 除非被命令這樣做 。 這可能包括總結郵件或短信、創建日歷事件、總結在線文檔等 。 為了避免提示惡意軟件 ， 最好避免要求AI總結一堆你可以自己瀏覽的消息 。
**在郵件、日歷、聊天應用和其他可以接收消息的地方禁用AI**
提示惡意軟件必須來自某個地方 ， 即使它并不總是需要你點擊鏈接 。 防止它控制連接設備的一種通常有效的方法是確保你選擇的AI不會\"看到\"任何提示 。
為此 ， 看看你是否可以在郵件、消息（如短信摘要）和日歷等生產力應用中禁用AI功能 ， 以大大降低任何類型的提示惡意軟件獲得控制權的風險 。
如果你可以創建詳細設置 ， 你可以將AI切換為僅在提示時才執行操作 ， 這樣你仍然可以保留某些好處 。 這是HITL或人在回路防御 ， 人類必須給AI權限才能行動 ， 這樣它就不會自己遇到任何提示惡意軟件 。
**不要只是復制粘貼郵件主題行、文件名或代碼**
提示惡意軟件經常隱藏在冗長描述、郵件主題、文件名和代碼片段的邊緣 ， 你在組織或傳輸數據時可能會想要復制粘貼 。 這樣可以節省時間 ， 但我建議養成首先檢查所有這些標題和描述的習慣 ， 以確保尾部沒有隱藏奇怪的命令 。
Q&A
Q1：什么是提示惡意軟件？它有什么危害？
A：提示惡意軟件是一種針對對話式和生成式AI的新型惡意軟件 ， 它強制AI讀取指令并執行用戶不希望的操作 。 危害從發送垃圾郵件、自動開啟陌生人通話等煩人行為 ， 到復制發送個人數據、控制智能家居設備如供暖、燈光甚至智能門鎖等危險行為 。
Q2：提示惡意軟件是如何工作的？
A：提示惡意軟件通過在日常消息中隱藏惡意提示來工作 ， 當AI讀取這些內容時（比如總結郵件對話） ， 就會執行隱藏的命令 。 更危險的是 ， 大部分提示惡意軟件是\"零點擊\"的 ， 用戶不需要點擊任何內容 ， AI只需讀取標題或日歷消息就可能被激活 。
Q3：如何防護提示惡意軟件攻擊？
A：主要有五個防護步驟：1）保持設備和應用更新；2）不接受或打開未知來源的消息；3）不要求AI總結不了解和不信任的內容；4）在郵件、日歷等應用中禁用AI功能；5）不要直接復制粘貼郵件主題、文件名或代碼 ， 要先檢查是否有隱藏的惡意命令 。


    推薦閱讀