1. 首頁 > 生活百科 > >

六大平臺AI視頻識別測試：發布不設“卡”，認不出“AI美女”

人工智能ai傳感器科學探索獎

六大平臺AI視頻識別測試：發布不設“卡”，認不出“AI美女”

文章圖片

六大平臺AI視頻識別測試：發布不設“卡”，認不出“AI美女”

文章圖片

六大平臺AI視頻識別測試：發布不設“卡”，認不出“AI美女”

文章圖片

六大平臺AI視頻識別測試：發布不設“卡”，認不出“AI美女”

AI生成內容濫用 ， 被戴上緊箍 。
9月1日起 ， 國家互聯網信息辦公室等四部門聯合發布的《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）施行 。 這是全球范圍內第一部關于人工智能生成合成內容標識的國家標準 ， 也意味著所有利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息 ， 必須依法添加相應的聲明標識 。
近日 ， 新京報貝殼財經記者通過一周時間對嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號六個主流內容平臺測試發現 ， 不少AI制作的視頻已經打上了標識 ， 但也存在沒有標識提醒的“漏網之魚” 。
為了進一步測試平臺對AI內容的識別能力 ， 新京報貝殼財經記者使用主流視頻模型工具生成了目前內容流量較高的“萌寵變裝”和“AI美女”兩類視頻 ， 并分別以去除和顯示AI水印的版本進行發布 。 測試顯示 ， 視頻發布過程中 ， 六個平臺均未主動提醒進行AI生成內容標注 。 而用戶主動標注視頻為AI制作的選項 ， 則大多隱藏在發布界面的二級或三級子菜單內 。
經過測試 ， 抖音識別出所有視頻并添加了疑似AI的提示 ， 快手僅識別出了存在AI水印的視頻 。 其余四家平臺則“全軍覆沒” ， 均未能識別出記者上傳的視頻為AI生成 ， 也沒有進行任何提示 。
對此 ， 北京市天元律師事務所合伙人李昀鍇告訴新京報貝殼財經記者 ， 目前《標識辦法》沒有規定內容發布者不標注的法律責任 ， 如果單純依靠發布者的自覺性 ， 規定的效果可能會大打折扣 。 實踐中 ， 內容平臺作為傳播渠道 ， 其強制性要求和技術干預是關鍵 。 此外 ， 中國傳媒大學媒體融合與傳播國家重點實驗室研究員程皓楠對記者表示 ， 技術可以鑒別AI生成內容 ， 不過 ， 由于大模型的更新迭代速度快 ， 在AI視頻生成內容越來越真實的情況下 ， 鑒偽模型也需要不斷精進 ， 雙方呈現“螺旋上升”的過程 。
部分AI視頻仍未亮明身份 ， 微博標識選項“藏得深”
根據《標識辦法》 ， 人工智能生成合成內容標識包括顯式標識和隱式標識 。 其中 ， AI生成視頻 ， 要求在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識 。
9月8日至15日 ， 貝殼財經記者在嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號的推薦頁面隨機瀏覽內容發現 ， 大部分AI制作的視頻可以看到作者標注的AI創作聲明 ， 也有未進行AI標識的視頻內容被平臺標注“疑似內容為AI生成” 。
不過 ， 未進行AI標識的AI視頻內容也并不難尋 。 貝殼財經記者在小紅書上瀏覽看到 ， 有用戶在9月1日后發布的萌寵類視頻疑似AI生成內容 ， 但畫面周圍及文字說明區均未出現明顯標識；視頻號上 ， 一位用戶發布的數字人視頻也是如此 。
9月8日 ， 貝殼財經記者瀏覽視頻號發現未進行明顯標識的AI生成視頻 。 截圖
在嗶哩嗶哩上 ， 一位UP主制作并在介紹頁面寫有“AI整活兒”的視頻中 ， 有的視頻被平臺識別并標記了“疑似使用AI技術合成” ， 而個別視頻則沒有觸發平臺的提醒 。
嗶哩嗶哩UP主制作并在簡介中寫明“AI整活兒”視頻 ， 并未觸發平臺“疑似AI技術合成”的提醒 。
根據《標識辦法》 ， 提供網絡信息內容傳播服務的服務提供者應提供必要的標識功能 ， 并提醒用戶主動聲明發布內容中是否包含生成合成內容 。 貝殼財經記者通過測試發現 ， 目前 ， 六家平臺對于AI生成內容標識 ， 仍主要依賴內容發布者是否主動標注 。
測試中 ， 貝殼財經記者使用可靈和即夢分別生成了“萌寵變裝”和“顏值美女”兩類視頻 ， AI視頻模型平臺均在視頻生成后打上了類似“可靈AI”等帶著模型名稱的水印 。
用戶發布內容時 ， 平臺“AI創作聲明”選項對比 。貝殼財經記者 羅亦丹 韋英姿 制圖
貝殼財經記者將上述AI生成視頻分別上傳至六家內容平臺 ， 在發布過程中 ， 雖然用戶可以自主選擇標注AI標識 ， 但這類選項通常隱藏在發布頁面一級按鈕之后 。
其中 ， 抖音“內容由AI生成”選項出現在發布界面“高級設置”中的“發文助手自主聲明”子菜單中；快手在發布界面的二級子菜單“作者聲明”中才可以找到“內容為AI生成”的選項；視頻號在發布頁面的“添加聲明”二級子菜單里設置“AI創作聲明”選項 。
測試中 ， 小紅書、嗶哩嗶哩、微博的“AI創作聲明”選項需要至少跳轉兩次頁面才能看到 。
此外 ， 微博的內容發布頁無明顯AI生成內容標識選項 ， 必填內容類型中僅有“原創”“二創”和“轉載”三個選項 。 視頻設置中也未見AI創作聲明選項 。 貝殼財經記者根據“微博管理員”8月29日公告才找到“AI生成”聲明路徑為：微博發布頁面—右下角“公開”—選擇分享范圍—內容聲明—內容由AI生成 。
微博的AI生成內容標識選項隱藏在右下角的“公開”按鈕中 。
AI視頻可“絲滑”發布 ， 僅一家平臺識別無水印版本
近年來 ， 濫用或誤用AI技術的問題逐漸顯現 ， 包括商家利用AI生成虛假商品展示和夸大宣傳 ， 誤導消費者下單；或者通過AI合成虛擬人物 ， 冒充名人或特定專業身份進行帶貨 。 而部分視頻中出現AI生成的虛構測評與體驗 ， 制造虛假口碑 。
根據《標識辦法》 ， 文件元數據中未核驗到隱式標識 ， 用戶也未聲明為生成合成內容 ， 但提供網絡信息內容傳播服務的服務提供者檢測到顯式標識或者其他生成合成痕跡的 ， 識別為疑似生成合成內容 ， 采取適當方式在發布內容周邊添加顯著的提示標識 ， 提醒公眾該內容疑似生成合成內容 。
對于用戶故意去掉或遮擋住了AI視頻水印 ， 平臺能否檢測出其為AI生成？9月8日至9日 ， 貝殼財經記者將可靈生成的一段“貓咪變裝”視頻 ， 分別以自帶水?。 ㄋ〖詞悠蕩蠥I生成相關字樣）和去掉水印版本發布在嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號上 ， 且未主動標識為AI生成內容 。
測試中 ， 無論有無水印 ， 這一AI視頻在各大平臺均“一路暢通無阻” ， 平臺未主動提醒要進行AI生成內容標注 。 視頻發布后數小時內 ， 除原有水印外 ， 視頻的畫面及文字說明區也未被平臺標注“AI生成”有關字樣 ， 記者也沒有收到平臺有關視頻標注整改的要求 。
9月15日 ， 貝殼財經記者再次打開上述已發布的AI視頻發現 ， 僅有抖音平臺發布的“貓咪變裝”視頻畫面不論有無水印均出現了“疑似使用了AI生成技術 ， 請謹慎甄別”的文字說明 。 快手則只識別了帶有AI水印的“貓咪變裝”視頻 ， 并進行了AI生成相關提醒 。
記者上傳了帶水印與不帶水印的兩個版本“AI貓咪”視頻 ， 快手只識別出了帶AI水印的版本 。
【六大平臺AI視頻識別測試：發布不設“卡”，認不出“AI美女”】值得說明的是 ， 此類貓咪變裝視頻由于出現了貓咪“自己穿衣服”等畫面 ， 因此大概率能夠識別出AI生成 。 相比之下 ， 當下頗有流量又逼真的“AI美女”“AI帥哥”迷惑了不少人 。
9月8日 ， 貝殼財經記者使用AI生成了一個“寫實風格湖邊白色連衣裙中國美女”的視頻 ， 并在消除AI水印后通過上述六家平臺發布 ， 且未主動標注為AI生成內容 ， 發布過程同樣“暢通無阻” 。
9月15日 ， 貝殼財經記者再次打開這一視頻發現 ， 六家平臺中除了抖音標識了“疑似使用了AI生成技術 ， 請謹慎甄別”外 ， 其余五家均未能識別出美女為AI生成 ， 還有不少評論夸贊“美女身材好” 。
記者上傳的“AI美女”視頻 ， 僅抖音識別并進行提醒 。
六大主流內容平臺對用戶不標注AI生成視頻的審核情況 。 貝殼財經記者 羅亦丹 韋英姿 制圖
落實新規仍需補漏洞 ，平臺要擔起監督責任
貝殼財經記者注意到 ， 在《標識辦法》正式施行前夕 ， 大部分主流內容平臺陸續發聲落實各項要求 。
8月29日至9月1日 ， 騰訊、快手、小紅書、嗶哩嗶哩、微博、抖音等六家平臺均發布公告稱已按照相關規定提供AI內容標識聲明功能 。 對于未主動標識的AI生成內容 ， 平臺有權添加標識 。 快手、嗶哩嗶哩、小紅書還在公告中強調 ， 用戶不得惡意篡改、隱匿平臺相關標識 。
另外 ， 微博在投訴側增加“未添加AI標識”分類 ， 如發現平臺用戶發布的微博內容包含AI生成內容但未進行標記聲明 ， 可以選擇此分類進行投訴 。
不過 ， 此次測試中 ， 作為內容平臺 ， 嗶哩嗶哩、微博、抖音、快手、小紅書、視頻號雖然上線了AI檢測功能 ， 但未能100%檢測出所有AI生成內容 ， 且在視頻發布過程中仍有漏洞 。
根據《標識辦法》官方解讀 ， 流通（網絡信息內容傳播服務提供者）承擔核驗與提示責任 ， 需要核驗內容標識或用戶聲明 ， 對屬于生成合成內容要明確提醒公眾；終端（用戶）則承擔主動聲明責任 ， 當發布人工智能生成合成內容時 ， 應當主動聲明 ， 不得故意“以假亂真” 。
李昀鍇對貝殼財經記者表示 ， 內容發布平臺是內容傳播和觸達公眾的關鍵環節 ， 因此承擔著監督和管理的重要責任 。 平臺的責任主要體現在制定明確的平臺規則、提供技術或功能支持、履行內容審核義務、采取必要處置措施 。 如果內容平臺未盡到義務 ， 監管部門可以依據《網絡安全法》《網絡信息內容生態治理規定》等 ， 對平臺采取警告、通報批評、責令限期改正、罰款等行政措施 。
而對于內容發布者這一AI標識的直接責任人 ， 李昀鍇稱 ， 目前《標識辦法》實質上沒有規定內容發布者不標注的法律責任 ， 如果單純依靠發布者的自覺性 ， 規定的效果可能會大打折扣 。 實踐中 ， 內容平臺作為傳播渠道 ， 其強制性要求和技術干預是關鍵 。
他建議 ， 平臺可以將“AI內容標識”作為內容發布的前置條件之一 。 例如 ， 在用戶上傳圖片或視頻時 ， 通過技術手段初步判斷是否為AI生成 ， 并彈出窗口強制要求用戶確認或添加標識 。 其次 ， 對于發布后被識別或被舉報為未標識的AI內容 ， 平臺必須依據其社區公約和《標識辦法》規定 ， 采取實質性的懲罰措施 ， 如限制內容的推薦、減少曝光 ， 甚至對賬號進行警告或封禁 。 這種與流量、收益和賬號權限直接掛鉤的措施 ， 會比單純的呼吁更有效 。
9月10日 ， 有AIGC創作者告訴貝殼財經記者 ， 自己曾在某內容平臺故意上傳AI內容進行測試 ， 結果發現平臺未能檢測出AI內容 。 對此 ， 平臺方告訴他“只要收緊判斷規則 ， 就可以檢測出AI內容 ， 但這也有可能‘誤傷’上傳非AI內容的用戶 ， 傷害創作者的積極性 。 ”
“對于用戶不樂意主動添加AI標識的情況 ， 很難在法律層面界定平臺的責任 ， 因為平臺無法提前確定一個內容是否為AI生成 ， 即便有技術手段也不能保證都準確 ， 只能依靠用戶自覺 ， 因此《標識辦法》只能解決一部分問題 。 ”浙江墾丁律師事務所主任律師張延來告訴貝殼財經記者 ， “這是法律本身的局限性 ， 我們可以不斷地立法 ， 但是遵不遵守還要看市場主體的選擇 。 ”
AI難鑒偽？ 專家建議對生成內容實施分級分類管理
當前AI鑒偽技術能否精準檢測出AIGC內容？
媒體融合與傳播國家重點實驗室打造推出了“白楊智鑒——可解釋音視頻鑒偽平臺” ， 并在外灘大會AI科創賽獲得了AI安全賽道季軍 。 程皓楠在接受貝殼財經記者采訪時表示 ， 目前AI鑒偽的一大應用場景是音樂平臺 ， 因為其涉及藝人的版權問題 ， 以及平臺擔心真人歌手上傳的內容遭到AI內容“稀釋” 。
程皓楠告訴貝殼財經記者 ， AI鑒偽技術也存在技術瓶頸 ， “大家都知道現在基本上每個星期都會出來一些新的生成式模型 ， 在它的生成越來越真實的情況下 ， 我們的鑒偽模型需要跟著這些生成模型不斷地精進 ， 雙方呈現一個‘螺旋式上升’的過程 。 ”
多位AI從業者對貝殼財經記者表示 ， 一旦AI技術進化到了“極限” ， 即生成內容和真實內容毫無差距時 ， 鑒偽模型就會面臨失效 。
“當AI生成的內容已經和真實內容沒有任何區別的時候 ， 我們要從更多的維度去進行內容的判斷 。 比如說 ， 對于在社交媒體上傳播的音視頻內容 ， 我們可以進一步通過傳播溯源、傳播意圖、邏輯一致性、情感操縱跡象等多種維度去判斷該信息是否有害 。 ”程皓楠表示 。
實際上 ， AI生成內容本身是否屬于“謠言” ， 或是未來監管的方向之一 。
《抖音關于人工智能生成內容的平臺規范暨行業倡議》提到 ， 使用人工智能技術輔助創作本身 ， 并不會違反平臺規范 ， 是被允許的行為 ， 但利用其生成和發布虛假、侵權等內容會違反平臺規范 。
AI安全專家裴智勇告訴貝殼財經記者 ， 雖然想要阻止人們使用AI生成偽造視頻或圖片不現實 ， 但這并不意味著對偽造視頻或圖片毫無辦法 。 以AI換臉的色情內容為例 ， 即便無法檢測出內容是否為AI生成 ， 但“國內對于網絡色情視頻和圖片都有非常成熟的治理方法 ， 即便不能用技術鑒別一張圖片的真偽 ， 但可以從平臺一側阻止色情內容的傳播 ， 定位色情內容的傳播源頭并實施打擊 。 ”
“建議實施分級分類管理 。 并非所有的AI生成內容都具有同等的社會風險 。 未來 ， 監管可以更加精細化 ， 根據內容的類型和潛在風險進行分級管理 。 對于新聞、教育、醫療、司法等高度影響公共信任和個人權益的領域 ， 必須執行最嚴格的強制標識規定 ， 違規成本極高 。 對于藝術創作、娛樂等風險較低的領域 ， 可以采取更為靈活的措施 ， 以行業自律和用戶選擇為主 ， 法律規定為輔 。 ”李昀鍇告訴貝殼財經記者 。
新京報貝殼財經記者 羅亦丹 韋英姿
編輯 王進雨
校對 穆祥桐

    推薦閱讀