文章圖片
文章圖片
文章圖片
文章圖片
文章圖片
文章圖片
文章圖片
文章圖片
文章圖片
“作品含AI內容”的標識成為一種標配 ， 不知道有多少人松了一口氣 。
9月1日 ， DeepSeek在官方公眾號發布公告 ， 表示對AI生成合成內容添加標識 ， 并明確提醒用戶相關內容由AI生成 。
其他大模型廠商其實也早有動作 ， 8月31日 ， 騰訊元寶也在公眾號發布了《關于AI內容標識的公告》 。 字節豆包、阿里通義、Kimi、智譜清言等也已紛紛更新了用戶協議中與AI標識相關的內容 ， 表示已履行AI標識相關義務 ， 包括但不限于顯性標識和隱性標識 。
在大模型廠商紛紛“打標”的背后 ， 是9月1日起正式實施的《人工智能生成合成內容標識辦法》 。 該《辦法》由國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局四部門聯合發布 ， 要求所有AI生成的內容都要“亮明身份” 。
·文本、圖片、音頻、視頻、虛擬場景等 ， 通通包括在內；
【DeepSeek等大模型集體“打標”，從此告別AI造假？】·AIGC技術服務者、平臺、用戶都得遵守 。
首先 ， AIGC技術服務者需要在生成AI內容時 ， 就埋好隱性標識 ， 做好“出廠蓋章” 。
其次 ， 平臺識別并給AI內容添加顯式標識和隱式標識 ， 如在內容下方標明“作品含AI內容” ， 做好“上架明牌” 。
最后 ， 用戶在發布和傳播相關內容的時候 ， 不可以用任何方式刪除、篡改、偽造或隱匿平臺添加的AI標識 。
因此 ， 除了大模型廠商之外 ， B站、抖音、快手等互聯網平臺也紛紛上線相關功能 ， 讓用戶可以主動聲明AI內容 ， 并且配以平臺識別打標 。
經常網上沖浪的朋友都清楚 ， AI標識是一場及時雨 。 這幾年 ， 大家眼睜睜看著AI內容越來越多、越來越多樣、越來越真：
AI文案與文章賺著點擊 ， AI美女在線擦邊騙口水 ， AI乖孫生生把爺爺奶奶“哄成胚胎” ， AI說教視頻都成了長輩的催婚利器……最可怕的是 ， 連十級沖浪選手都驚恐地發現 ， 昨天剛給老人做了“如何辨別AI內容”的教育工作 ， 今天自己就中了招 。
我們要么被騙 ， 要么被“創” ， 一不小心已經走進了《黑鏡》的片場 。
01
AI乖孫的魔力
很多人第一次被AI內容震撼到 ， 是發現老人愛上AI乖孫 。
本來在辦公室當著脫脂牛馬 ， 用AI寫代碼寫方案做PPT ， 讓AI幫忙解讀體檢報告 ， 在無聊的時候和AI玩角色扮演 ， 或者用AI合成網絡模因 ， 和AI的關系挺和諧的 。
結果過年一回家 ， 卻看到老人抱著手機憨笑 ， 里面傳來一陣陣“奶奶”“爺爺”的孩童甜音 ， 一瞅居然是平滑感十足的“六指靈童”在作祟 。 發視頻的知道那是AI合成的 ， 你也知道那是AI合成的 ， 唯獨老人當真的看 。
最絕望的是 ， 老人不僅相信了還愛得不行 ， 拿AI乖孫和真孫比 。 沒想到都已經成年了 ， 還得遭受“看看人家孩子看看你”的折磨 ， 況且這次把你比下去的不是隔壁小李 ， 而是空氣 。
這種震撼有兩層 。 一層是驚訝 ， 你以為的“一眼假” ， 其實只是你以為 。 一層是擔憂 ， 把AI內容被當成真的 ， 被騙到的不僅是點擊 ， 還可能是感情甚至金錢 。
現實也確實如此 。
說兩個極端例子 。
一個例子是今年6月的時候 ， 馬來西亞有一對老夫妻在網上看到一則“記者走訪”視頻 。 視頻中一名記者正在介紹某景區的纜車項目 ， 于是他們說走就走 ， 驅車4.5小時前往 ， 卻被當地旅館員工告知根本沒有纜車 。
“我向阿姨解釋說 ， 這段影片是AI制作的 ， 并不是真的 。 我在這里土生土長 ， 如果真有纜車 ， 這里一定比現在熱鬧得多 。 ”
我們也專門找到這則視頻 ， 畫面中有意為之的低畫質 ， 右上角的電視臺標 ， 配上“記者走訪”這種形式和流暢的畫面 ， 纜車悠然穿越樹林 ， 溪流和山脈的壯麗景觀 ， 都極具迷惑性 。
雖然可以通過一些動作和行人不自然地走姿看出端倪 ， 但要精準地傳達給一位老人“假”在哪里 ， 還真不容易 。
另一個例子是今年3月 ， 中國工程院院士、天津中醫藥大學名譽校長張伯禮推薦某美白護膚產品的視頻出現在網絡上 ， 他不得不出來辟謠：這些內容全是假的 。 我從來沒用過這個護膚品 ， 我也沒做過這方面的宣傳 ， 更沒研究過 ， 所以里邊完全是編造的 。
當時網絡上涉及他形象和聲音的假視頻在網絡上傳播的至少還有十幾條 。
道理都懂 ， 但是給老人講清楚又是另一回事 ， 難度堪比解釋為什么有人花三十萬買那個齜牙咧嘴的玩偶拉布布 。 甚至有博主專門拍攝用AI工具合成“乖孫”的視頻 ， 就是方便大家轉發給家中老人 。
辨別能力有限的不止有老人 ， 更不只是中國用戶 。 YouTube上一位憂心忡忡的用戶就分享說 ， 自己的孩子看了一則短視頻 ， 是關于“游樂場惡魔”的 ， 嚇得不輕 。 她不得不費勁給孩子解釋什么是人工智能 ， 最后干脆禁止孩子再用YouTube 。
AI標識變為標配 ， 無疑是對在這方面辨別能力有限的群體的一種保護 。 至少可以告訴他們 ， 凡是有“作品有AI內容”這樣的標識 ， 就別信以為真 。
02
當年輕人也無法識別AI內容
除了單純地擔憂家人之外 ， 年輕人自己也會直接變成“受害人” 。
爺爺奶奶用AI乖孫PUA你 ， 都已經算小意思 ， 嘗過長輩用AI催婚的人才知道什么是真正的苦澀 。
“媽媽說了這番話 ， 我想結婚了”“不結婚的人以后有多慘”“人到中年最可怕的事是孤身一人”“不結婚的十大壞處” ， 不知道什么時候開始 ， 各種催婚視頻變成了老人的“嘴替” 。
更魔幻的是 ， 你從明顯的掉幀 ， 以及“穿模”的牙齒 ， 驚訝地發現如今催婚視頻都在用AI了——原視頻也許只是一段普通的街頭采訪 ， 被人用AI一處理 ， 就成了對口型文案點讀機 。
好歹以前營銷號的催婚視頻還是真人拍攝 ， 如今就只動動小手指用AI搞deepfake？更有甚者 ， 直接用AI貓貓成親視頻配催婚文案 ， 就連你家貓看了都得連連擺手 ， 為自己的物種發聲 。
真把老實人逼沒轍了 ， 年輕人開始用“魔法打敗魔法” 。
輕則讓AI支招緊急學習反催婚話術；重則用AI合成自己和光頭大金鏈子油膩男擁抱的視頻 ， 騙長輩“已經找到對象了 ， 勿催”；或者直接合成貓貓洗衣做飯的視頻 ， 下次長輩再問“不生孩子老了怎么辦” ， 你只需要說“請看VCR”——誰用AI不是用啊 ， 年輕人還能自己制作 ， 直接讓自家貓貓上場 。
不過在和家長斗智斗力的過程中 ， 都還是憤怒的對抗 ， 畢竟那些催婚視頻 ， 不管是貓貓結婚還是路人被對口型 ， 都還是和老年人愛上的“AI乖孫”一樣 ， 是一眼假的視頻 。
當十級沖浪選手發現 ， 連自己都會開始分辨不出AI視頻和真實視頻的時候 ， 這一切才真的變成賽博恐怖故事 。
這就不得不說到“袋鼠登機”視頻了 。 今年5月 ， 一則視頻走紅網絡 ， 獲得百萬點贊 。 視頻中一位女士正在和工作人員理論 ， 她們中間站著一只袋鼠 ， 手里握著登機牌 ， 一臉無辜地看著鏡頭 。
由于沒有明顯的光影、動作、肢體硬傷 ， 袋鼠的表情又實在惹人憐愛 ， 很多人壓根就來不及想“袋鼠能不能坐飛機”的問題 ， 甚至注意不到女人揮舞的手露出了破綻 ， 就沖到評論區瘋狂鍵入“好可愛呀” 。
最后發現小丑竟是自己 ， 這是一則AI視頻 ， 甚至引來多家媒體幫忙辟謠 。
不過在那之后 ， 第三方視頻還在轉發這則視頻 ， 而評論區依然有“蒙鼓人（被蒙在鼓里的人）” 。
這種事兒對年輕人的打擊無疑是巨大的 ， 上午還在跳腳“這么假的AI視頻你為什么要相信” ， 下午就發現自己也分不出來：我三歲玩iPad ， 五歲玩電腦 ， 十二歲就已經是沖浪滿級選手 ， 結果發現AI視頻是不長眼的 ， 作為人類的自信心是沒有的 ， 真與假的界限是模糊的 。
好在AI標識來了 ， 袋鼠再可愛 ， 也別想騙我 。
03
AI標識成標配 ， 真的很有必要
AI的能力越來越強 ， 真與假的界限在屏幕里逐漸變得模糊 ， 人為劃清這道界限就顯得尤為重要 。
這并不容易 。
正如剛剛開始實施的《辦法》 ， 強制規范 ， AI生產商、平臺、用戶三方共同努力 ， 意味著不留“視情況遵守”的灰色地帶 ， 也不留“貓鼠游戲”的空間 ， 這樣的力度在全球都實屬罕見 。
比較相似的是韓國和西班牙 ， 前者有人工智能框架法 ， 后者有AI標識要求 ， 都是在今年年初的動作 。
歐盟動作比較快 ， 2024年正式公布《人工智能法案》（EU AI Act） ， 不過這是一個針對AI比較大、全的法案 ， 核心是人工智能規制分級管理 ， 將人工智能系統分為“禁止類”“高風險類”“有限風險類”與“最低風險類” ， 并據此提出差異化監管要求 。 目前法案還在逐步鋪開 ， 強制標簽要求可能要到2026年生效 。
而且這個法案并非沒遇到阻力 ， 如8月 ， 美國科技巨頭就是不是要自愿簽署《通用人工智能行為準則》進行了表態 ， Meta就明確表示拒絕 。
在美國本土 ， 至今還沒有關于AI標識的全國性法規 ， 部分州（如加州）有強制標簽要求 ， 但聯邦層面僅有指導性的意見 ， 而科技公司如OpenAI、谷歌、Meta等是自愿支持AI水印、AI標識等措施 。
“自愿”可靠嗎？
在非強制性監管的環境之下 ， AI標識的落實也好 ， AI內容的控制也罷 ， 確實不盡如人意 。
最典型的就是谷歌旗下視頻平臺YouTube的亂象 。
雖然谷歌自己的Gemini模型早就自愿加入“打水印”的行列 ， 但是在YouTube這個平臺上 ， AI短視頻泛濫已經到了夸張的程度 ， 周排名里前幾的短視頻總是AI視頻 ， 尤其是兒童頻道 ， 簡直就是重災區 。
這些AI短視頻有的是蹩腳和無意義的 ， 有的是貓貓狗狗配上狗血短劇劇情 ， 還有的是生成的詭異生物/怪物在飄蕩 ， 而最引人擔憂的則是AI短視頻講歷史講科學知識 ， 但是錯誤百出 。 而且不少AI視頻賬號 ， 會重復上傳十幾條相同的視頻 。 以此來多賺流量激勵 。
這背后當然是利益驅使 ， 曾有人在Medium發文 ， 表示利用AI短視頻 ， 5天就賺了5000美元 。
而AI內容的泛濫 ， 勢必會擠壓人類創作者的生存空間 ， 已經有不少YouTuber制作視頻討論此類亂象 ， 呼吁平臺治理 。
雖然YouTube已經表態會打擊大規模生產的、重復的AI短視頻 ， 但是目前YouTube Shorts仍然有烏煙瘴氣之感 ， 并沒有從根本上解決問題 。
更值得玩味的是 ， YouTube在8月底還陷入了另一場爭議 。
有創作者發現 ， 自己的短視頻上傳到YouTube Shorts之后 ， 質感變得很奇怪 ， 貌似變得更清晰了 ， 但是邊緣過度銳利、畫面有詭異的平滑感、陰影格外明顯……換句話說 ， 明明是真正的人類視頻 ， 卻莫名其妙變得很“塑料” ， 就像AI視頻一樣 。
但是同步分發到Instagram（Meta旗下社交媒體）的短視頻并沒有異常 ， 因此懷疑YouTube擅自為短視頻做了AI增強 。 本來AI短視頻泛濫就很煩人了 ， 真人視頻也強行被AI過了一手 。
這件事也已經被多家美國主流媒體報道 ， 基本上是實錘了 。
用AI功能賦能創作者是一回事 ， 不打聲招呼偷偷摸摸給統一加上一層“AI濾鏡”是另一回事 ， 也難怪YouTuber都很生氣 。
“我不喜歡我的視頻變成這樣 ， 我更不希望我的粉絲誤認為我開始做AI視頻了 。 ”
YouTube的這兩件事（AI短視頻泛濫和偷偷做AI增強）暴露了一個很大的問題——AI的規范只被當作科技公司的“自愿”行為 ， 是遠遠不夠的 。
尤其是既做面包又賣面包的科技巨頭 ， 是有原始動力多加糖、多做、多賣的 ， 盡管它在宣傳的時候要大談健康 。
未來AI視頻的數量恐怕只會越來越多 。
分享兩個數據 。
一個是Twicsy.com的一項研究 ， 稱人類影響者目前的平均收入是AI影響者的46倍 。 這主要是因為AI內容在真實性、情感連接和信任方面仍有差距 ， 導致贊助和廣告收入較低 。
46倍感覺是人類大勝 ， 但是轉念想想人類制作視頻的投入水平 ， 和AI視頻的投入水平（以創作者來論） ， 這個差距不是太大 ， 反而是小得可怕 。
另一個數據是 ， Business Insider的2025創作者市場報告顯示 ， 整個創作者經濟（包括AI生成內容）在2025年已達250億美元 ， 比2022年的164億美元增長了52% 。 KBV Research的報告預測 ， 虛擬創作市?。 òˋI生成的內容創作者）到2030年將達到378億美元 。
如今我們是AI內容試圖混入“真實”世界 ， 在不遠的將來 ， 會不會反過來、我們需要在AI世界里挑揀“真實”內容？不好說 。
《辦法》正式實施 ， AI標識的難點仍然存在 ， “漏網之魚”也總會出現 ， 明顯的AI標識甚至有可能依然阻擋不了長輩用AI視頻催婚、老人對著“AI乖孫”憨笑 。
但至少先把腳抬起來了 ， 才能邁開步子 。
推薦閱讀
- 大模型開始打王者榮耀了
- DeepSeek、GPT-5都在嘗試的快慢思考切換，有了更智能版本
- 等了七年，Touch ID終于回歸！可只在最貴的新iPhone上
- 豆包千問DeepSeek，沒上蘋果先“上車”
- 又一國產多模態大模型開源，復雜聲音一耳朵分辨，多測試SOTA，還能聊哲學
- 大規模強化學習框架RLinf!清華、北京中關村學院、無問芯穹等開源
- 科普向：一文解構大模型后訓練，GRPO和它的繼任者們的前世今生
- 清華崔鵬團隊LimiX：首個結構化數據通用大模型，性能超越SOTA
- DeepSeek、GPT-5帶頭轉向混合推理，一個token也不能浪費
- 微軟與OpenAI同日開火：語音之戰+通用大模型，AI霸權決戰打響