1. 首頁 > 生活百科 > >

Airbnb也翻車了，房東用AI偽造圖片讓用戶賠錢

相機蘋果ios26

Airbnb也翻車了，房東用AI偽造圖片讓用戶賠錢

文章圖片

Airbnb也翻車了，房東用AI偽造圖片讓用戶賠錢

文章圖片

Airbnb也翻車了，房東用AI偽造圖片讓用戶賠錢

文章圖片

Airbnb也翻車了，房東用AI偽造圖片讓用戶賠錢

無論是否承認 ， 如今AI已經在改變世界 ， 例如打工人用它來實現效率倍增 ， 互聯網大廠也有樣學樣 ， 將其作為裁員的導火索 ， 砸掉了一大批打工人的飯碗 。 同時它還成為了居心不良的黑灰產團隊受眾的武器 ， 不久前#僅退款AI圖#就曾登上微博熱搜 ， 更是引發了諸多關注 。 在這樣的情況下 ， 海外商家也開始加入使用AI的行列 。



日前《衛報》的相關報道顯示 ， 今年早些時候 ， 一名用戶在Airbnb上預訂了一個紐約曼哈頓的公寓 ， 但由于一些原因 ， 他提前結束了租期 。 然而在這位用戶離開在Android上預訂的這個公寓后 ， 房東聲稱其給他的公寓造成了數千美元的損失 ， 并且Airbnb方面在接受了房東提交的證據后 ， 做出了用戶需要支付7053美元賠償的處罰決定 。
可是在看到了用戶方面提交的證據后 ， 他們才發現房東提交的咖啡桌、掃地機器人、沙發等物品受損照片是由AI生成 。 隨后Airbnb進行了道歉 ， 退還了這位用戶的全部住宿費用 ， 并刪除了房東留下的負面評價 。



如果說國內的商家對于AI技術普遍不了解 ， 導致他們會輕易被羊毛黨糊弄 ， 可Airbnb作為一家知名的互聯網大廠 ， 居然也會在這件事上翻車 。 要知道在這一輪AI浪潮中 ， Airbnb并非作壁上觀 。 早在2023年11月 ， 他們就曾以約2億美元的價格收購AI創業公司GamePlanner.AI ， 以增強在智能化住宿服務領域的實力 。
到了2024年10月 ， Airbnb創始人Brian Chesky宣布要讓AI徹底改變旅行 ， 并將用戶帶到一個真正由AI驅動的應用程序上 。 由此不難發現 ， Airbnb其實對于AI是相當敏感的 ， 可為什么他們會如此輕易地就被AI圖片欺騙呢？問題的答案同樣是由Brian Chesky給出 ， 他在采訪中提及Airbnb率先應用AI技術的場景是客戶服務 ， 當用戶聯系客戶服務時 ， 有越來越多的部分將由AI完成 。



彼時Brian Chesky興奮地向媒體描述AI客服的優秀 ， “AI可以講所有語言 ， 它可以全天候24小時工作 ， 并且可以讀取所有用戶反饋的語料庫 ， 提供最好的答案” 。 顯然 ， 這次是AI客服翻車了 ， 它在收到來自房東的反饋后 ， 根據AI圖片就做出了用戶需要賠償的決定 。
我們之所以會篤定是AI客服的鍋 ， 是因為后者已經普遍應用在這種程式化的問題中 。 在用戶與房東的糾紛中 ， 證據無疑是重中之重 ， 所以通常只要一方能提供實證 ， AI客服就會傾向于那一邊 。 當房東利用AI生圖軟件生成了一批物品受損照片、并提交后 ， AI看到“證據”自然就會進入賠償流程 。



事實上 ， 這一事件真正的問題 ， 在于Airbnb的AI客服沒能正確識別AI圖片 。 而這位用戶之所以能翻盤的關鍵 ， 是在房東提供的同一張受損咖啡桌的不同角度照片中 ， 呈現的裂縫不一致 。 因此Airbnb在重新判定后告訴房東 ， 無法驗證他作為投訴一部分提交的圖片 。
如果Airbnb沒有大規模引入AI客服 ， 可能也就不會有這樣的烏龍了 。 畢竟在真人客服看來 ， 同一張咖啡桌的不同角度照片是一回事 ， 但AI就大概率會將其識別為不同的咖啡桌 。 事實上 ， AI客服導致的問題已經讓不少企業深受其害 。



比如瑞典金融科技企業Klarna此前曾宣稱 ， “AI已能完成所有人力工作” ， 并選擇用AI客服完全代替人工客服 。 但在使用了一段時間的純AI客服后 ， Klarna CEO不得不承認AI降本是以犧牲質量為代價， 所以又重新大規模招聘客服員工 。
此前國內媒體曾報道過清華大學與廣西電網的研究發現 ， 引入AI助手作為“數智客服”雖改進了語音轉錄、信息回顧等流程 ， 但也帶來了語音識別錯誤、口音識別困難、對話記錄不完整等問題 。 所以人工客服不僅要學習與AI協作 ， 還需要糾正后者的錯誤、安撫因此不滿的客戶 ， 甚至AI的“幫倒忙”反而增加了工作壓力 。



回到Airbnb此次的事件上 ， 導致用戶因房東用AI圖片被錯誤判定需要賠償的核心 ， 無疑是AI為什么沒能判斷出圖片是由AI生成的？其實這是因為目前用AI識別AI還有很大的局限性 。 雖然早在去年5月 ， OpenAI就推出了專用的圖像檢測分類器 ， 并且識別DALL-E 3生成圖像的準確率可高達98% 。
但問題是DALL-E 3是OpenAI自己推出的AI圖片生成工具 ， 并且他們也承認這個工具在區分DALL-E 3與其他AI圖片工具的產出方面表現不佳 。 更別提這次Airbnb房東用的是“局部偽造”技術 ， 即將真實照片中的局部區域替換為由AI生成的內容 。
【Airbnb也翻車了，房東用AI偽造圖片讓用戶賠錢】


事實上 ， 整個AI業界至今都沒能拿出真正擁有可靠性的AI內容檢測工具 ， 現在業界的普遍做法是AI數字水印技術 ， 即在生成式AI產出圖片、視頻時 ， 在元數據中加入不可見的水印 ， 從而在源頭上解決問題 。 為此 ， 微軟、Adobe、索尼、OpenAI、Meta等公司組建了C2PA（內容來源和真實性聯盟） ， 如今ChatGPT等工具生成的圖片中就已經有了C2PA元數據 。
可遺憾的是 ， 到目前為止 ， 還沒有證據表明Airbnb加入了C2PA或使用C2PA的服務 。 也就是說Airbnb方面可能只看到了AI技術光鮮亮麗的一面 ， 卻忽視了它可能會帶來的風險 。 并且Airbnb此次事件或許只是個開始 ， 幾乎所有C2C類平臺都不得不面對基于生成式AI深度偽造內容的沖擊 ， 平臺、消費者 ， 以及賣家的關系將會在這一沖擊中被重塑 。

    推薦閱讀