便捷與安全,誰的優先級?豆包手機助手放棄銀行App引責任之辯

便捷與安全,誰的優先級?豆包手機助手放棄銀行App引責任之辯

文章圖片


近期 , 豆包手機的熱度不斷攀升 , 卻在近日主動放棄了操作銀行App 。
據了解 , 在豆包手機剛剛發布后幾天 , 體驗者紛紛在社交平臺上爆料 , 部分銀行App禁止豆包手機助手使用 。 隨后 , 豆包手機官宣 , 主動限制了金融類應用的使用 。
12月10日 , 貝殼財經記者在豆包手機上下載了工商銀行、農業銀行、中國銀行、建設銀行、招商銀行、中信銀行的手機銀行App , 并喚醒豆包手機助手 , 要求其打開相關銀行App并執行任務均告失敗 。
豆包手機助手的主動放棄源于市場對其安全性的擔憂 。 對此 , 豆包手機助手在12月5日發布公告稱 , 豆包手機助手“不會代替用戶進行相關授權和敏感操作”“豆包手機助手需要用戶主動授權 , 才可以調用該權限 , 使用操作手機功能” 。 但上述說辭并未能打消金融機構對這一模式下客戶金融安全的顧慮 。
多位銀行業內人士認為 , 對將安全看作生命線的銀行來講 , 在安全無法保障的前提下 , 銀行不會輕易松口 。 豆包手機助手所代表的AI操作系統若成為主流 , 還應率先解決諸多金融合規性問題 。 因此無論是銀行還是豆包手機助手 , 在合規性問題未得到切實解決時 , 限制金融類應用的使用是明智的選擇 。
【實測】
打開即失敗豆包手機助手已無法使用銀行手機App
豆包手機助手可以通過用戶的一句話指令 , 調動手機App并完成相關指令 。 但這樣“黑科技”模式最初就遭到了至少兩家銀行App抵制 。 如今 , 豆包手機助手已主動官宣限制金融類應用的使用 。
貝殼財經記者測試了工商銀行、農業銀行、中國銀行、建設銀行、招商銀行、中信銀行的手機銀行App , 豆包手機助手在打開上述6家銀行的App試圖執行任務時即全部失敗 , 并且理由保持一致:豆包手機助手顯示“出于資金安全、隱私保護和金融合規要求 , 我無法幫您操作” 。
在未喚醒豆包手機助手的情況下打開農業銀行App , 收到了圖中提示 。 圖/手機截屏
如果不使用豆包手機助手 , 而是手動打開上述App , 則仍然可以使用上述App 。 但貝殼財經記者發現 , 有時即便手動打開App , 也有可能觸及App的風控機制 , 如記者在關閉豆包手機助手打開中國農業銀行App時 , 該App彈出了“檢測到您的設備正在屏幕共享!為了保障您的資金安全 , 請關閉屏幕共享后再使用掌銀”的彈窗 。
記者注意到 , 12月5日 , 豆包手機助手官方曾發布“關于調整AI操作手機能力的說明” , 其中就提到了進一步限制金融類應用的使用:“銀行、互聯網支付等金融場景 , 直接關聯用戶的資金安全 , 雖然手機助手在敏感操作時都需要用戶授權 , 但審慎起見 , 豆包手機助手也將暫時下線操作這類App的能力 。 我們也會積極與相關廠商溝通 , 希望共同制定清晰、安全的AI操作行為準則 。 ”
截至貝殼財經記者截稿時 , 銀行方面目前均未對豆包手機使用問題進行官方回應 。 但有銀行內部人士告訴貝殼財經記者 , 手機銀行App彈出相關提示 , 應是觸發了銀行內部風控系統 , 如屏幕共享等可能潛藏電信詐騙風險等 。 為了資金安全考慮 , 即便豆包手機助手沒有主動放棄 , 銀行端也會必然禁用其操作App 。
使用豆包手機助手打開上述銀行的App , 收到了同樣的提示 。 圖/手機截圖
【隱憂】
讀屏技術真的安全嗎?金融信息收集“最小必要”原則面臨挑戰
在使用豆包手機助手完成指令時 , 用戶只需通過語音操作即可 。 據豆包手機助手的官方解釋 , 當用戶給豆包手機助手指令、要求操作手機時 , 助手確實需要讀取屏幕 , 否則無法完成用戶任務 。 這種業內稱為“讀屏”的技術其實并非新事物 , 此前就有支付公司在部分產品上嘗試使用 。 但是此次豆包將其大規模運用在了手機底層系統中 , 是首創 。
“讀屏技術其實并不難實現 , 技術也無壁壘 。 但之所以沒有大規模使用在金融領域 , 主要是因為業界對其安全性的考量 。 ”有金融科技公司人士告訴貝殼財經記者 , 所謂讀屏技術 , 主要是手機對用戶手機屏幕的截圖或錄屏 , 并通過AI技術分析后再按照指示進行下一步操作 。
另有安全專家告訴貝殼財經記者 , AI手機助手的相關技術在方便個人用戶使用的同時 , 也對安全風控提出了挑戰 。 例如一些App的風控機制的核心在于判斷用戶是否為“真人” , 若未來AI手機助手技術普及 , 這一識別的難度將顯著提高 。
在貝殼財經記者的采訪中 , 大部分銀行從業者坦言 , 若無法完全準確地判斷客戶本人在操作 , 也無法確認相關操作本身是客戶本人的意愿 , 那么客戶的銀行賬戶安全將面臨巨大風險 , 而這也可能給技術類的電信詐騙提供滋生的“溫床” 。 一旦發生風險 , 將很難確認責任 。
博通咨詢金融行業資深分析師王蓬博也指出 , 該模式打破了現有App間的數據隔離原則 , 使銀行無法確認操作主體是否為真實用戶 , 動搖了金融交易“本人知情、本人授權、本人操作”的基本合規邏輯 , 也動搖了現有的數據隔離和金融安全要求的基礎 。
面對質疑 , 豆包手機助手曾表示 , 豆包手機助手需要用戶主動授權 , 才可以調用該權限 , 使用操作手機功能;豆包手機助手在執行長任務時會在屏幕有明確提示 , 且用戶可以隨時中斷 , 全程可控 。 操作第三方App若遇到敏感授權 , 如系統敏感權限授權彈窗、支付環節、身份驗證等 , 任務會暫停 , 并由用戶人工接管完成相關授權、支付、驗證動作 , 豆包手機助手不會代替用戶進行相關授權和敏感操作 。
但這未能打消金融機構的顧慮 。 有銀行人士指出 , 當前豆包所依賴的權限可模擬用戶操作繞過了銀行App原有的身份驗證與行為監控機制 , 極易被風控系統識別為高危環境 。
基于讀屏技術 , 另一個針對個人金融信息安全的問題接踵而至 。 讀屏技術無法區分敏感信息 , 可能會觸碰監管對個人金融信息采集時的“最小必要”原則紅線 。
上海市君悅律師事務所高級合伙人陳茉也表示 , AI助手在讀取屏幕、解析內容的過程中 , 實質上處理了大量敏感數據 , 但用戶往往并未就每一類信息的處理場景、存儲方式等獲得清晰、具體的告知與授權 , 這使得其合規基礎存在薄弱環節 。 而在實現指令的過程中 , 系統需獲取并解析整個屏幕內容 , 這一過程不可避免會接觸到與當前操作無直接關聯的其他信息 。 這在客觀上形成了信息過度采集的傾向 , 與僅收集實現功能所必需數據的原則存在沖突 。
【邊界】
承諾不儲存信息就可免責?需有實質的信息隔離舉措
基于讀屏技術 , 另一個針對個人金融信息安全的問題接踵而至 。 讀屏技術無法區分敏感信息 , 因此這些敏感信息如何儲存、如何處理備受爭議 。
對此 , 豆包手機助手則公開承諾“屏幕和操作過程都不會在服務器端留下存儲 , 且所有的相關內容也都不會進入模型訓練 , 確保用戶隱私安全” 。
但僅有口頭上的承諾遠遠不夠 。 有金融科技公司人士表示 , 一旦相關讀屏數據出現泄露 , 相關數據就可能會以“明文”而非加密后的“密文”形式傳遞出去 , 將加大金融安全風險 。 尤其是在金融行業中 , 必須率先處理好安全問題 , 要形成數據安全與業務之間的隔離和邊界問題 。
陳茉也認為 , “數據不存儲”“實時脫敏”等金融數據安全的承諾更多依賴企業自律 , 其具體實現方式缺乏公開透明的第三方驗證和監督 。 在技術層面 , 內存數據泄露、傳輸鏈路被攻擊等風險依然無法完全排除 , 其承諾的可驗證性存疑 。
業界的質疑聲并非毫無依據 。 豆包背后的字節跳動本身也有商城、支付、小貸等諸多業務 。 事實上 , 在《中華人民共和國個人信息保護法》發布之前 , 不少平臺企業通過支付為入口 , 打開了金融業務的格局 , 他們通過電商數據、社交數據反哺貸款業務 。 也有部分金融科技公司 , 通過數據違規“撞庫”等形式 , 不斷豐富自身數據庫 , 但相關操作也損害了金融消費者的個人信息的安全 。
將大型科技公司內部的多平臺之間數據建立“防火墻” , 是近年來金融監管對科技平臺的合規整頓的關鍵動作 。 如發布相關法律法規;批復新設立多個征信機構 , 將個人金融信息與業務之間建立安全壁壘等 。 因此 , 在業內人士看來 , 豆包手機助手僅有口頭承諾不會儲存和使用相關信息是遠遠不夠的 , 若該模式想要取得長足發展 , 還需有切實的數據隔離的具體措施來完成合規性考量 。
【合規】
AI操作系統會成未來主流?合規性和商業共贏問題亟待解決
除了安全問題之外 , 豆包手機助手還面臨“端口之爭”的生存問題 。
中國政法大學法治與可持續發展研究中心副主任車寧表示 , 隨著各主流人工智能工具在智能搜索、語音交互、個性化推薦上的持續突破 , 不但傳統“App+菜單”式的金融服務界面正被“AI Agent”所取代 , 部分機構甚至推出深度整合自身AI工具的智能手機 , 原本已趨于穩定的各類服務線上渠道的競爭格局、交互外觀乃至運營邏輯將面臨深刻變革 。
“在人工智能工具開發的巨大成本壓力下 , 對落地場景的探索將持續 , 競爭甚至存量競爭也可能更加激烈 。 ”在車寧看來 , 如果未來AI操作系統成為主流 , 金融脫媒的進程將更加顯著 , 銀行可能將成為操作系統生態背后的模塊 , 更加偏向于處在后臺位置為客戶提供服務 。
事實上 , 如果豆包手機助手所代表的模式未來成為各類終端的操作系統主流 , 那么從前臺App變成后臺API(應用程序編程接口)的就不止有銀行業 , 電商、游戲、支付等也都將退居后臺 。 也就是說 , 這個以該模式提供者為核心的生態系統 , 如何構建共贏的商業邏輯是該模式未來發展的核心 。
若變為生態構造者 , 該模式提供者還需進一步考慮反壟斷等合規問題 。 車寧指出 , 業務發展首先需要滿足合規要求 , AI手機或其他AI商業模式需要先解決法律規章 , 行政監管的遵從性問題 。 如果該模式最終成為主流 , 監管可能會對其集中度和壟斷問題做出進一步規定 , 避免市場出現“九犬一獒”的景象 。
【便捷與安全,誰的優先級?豆包手機助手放棄銀行App引責任之辯】新京報貝殼財經記者 姜樊 羅亦丹 編輯 陳莉 校對 吳興發

    推薦閱讀