1. 首頁 > 生活百科 > >

指望創作者自覺沒戲，抖音也開始用AI治理AI謠言

抖音人工智能aigc

指望創作者自覺沒戲，抖音也開始用AI治理AI謠言

文章圖片

指望創作者自覺沒戲，抖音也開始用AI治理AI謠言

文章圖片

指望創作者自覺沒戲，抖音也開始用AI治理AI謠言

早在生成式人工智能（AIGC）、大語言模型走紅的2023年年底 ， 就曾有不少從業者預言AI將會成為互聯網虛假內容的“制造機” 。 現實也確實如此 ， 僅僅過去不到兩年時間 ， “AI污染互聯網”就已經成為了諸多網友的共識 。



作為壓實平臺主體責任的一環 ， 抖音近日再次出手 ， “AI抖音求真”功能目前已正式上線 。 根據抖音方面介紹 ， 當用戶瀏覽到容易產生誤解的內容 ， 或是搜索謠言相關的信息時 ， 就能夠通過“AI抖音求真”獲知事件的完整信息 ， 了解相關辟謠內容 。
抖音相關負責人表示 ， 近期已將大模型技術應用于謠言治理 ， 7月以來平臺謠言曝光量下降67% 。 以往的謠言治理往往需要依靠媒體報道或機構發聲 ， 有了辟謠信息就能將謠言信息點人工納入謠言庫 ， 并以此為樣本 ， 回查、下架和攔截新增的同類謠言內容 。
具體來說 ， “AI抖音求真”依托于抖音訓練的“謠言治理大模型”、“資訊大模型” ， 以及專門的辟謠運營團隊 ， 實現了精準定義“內容誤導性”、“公共價值”、“可證偽”等謠言特征的能力 ， 做到“化被動為主動” ， 主動審查平臺上到達一定熱度的內容 ， 并通過提取視頻信息、分析主旨、聯網搜索 ， 來完成對內容是否為謠言的風險判斷 。



當然 ， “AI抖音求真”也并非萬靈藥 ， 抖音副總裁李亮就在社交平臺上表示 ， “AI識謠辟謠是一個新嘗試 ， 可能還存在一些不準確、覆蓋面不夠完整的情況 ， 我們會持續提升 。 也歡迎大家在瀏覽視頻和搜索場景 ， 多體驗 ， 多給產品功能提意見 。 ”
兜兜轉轉一圈后 ， 抖音最終還是選擇了“以AI治AI” 。 作為AI時代的弄潮兒 ， 互聯網大廠對于AI的破壞力顯然心知肚明 。 早在此前的百模大戰剛剛開打時 ， 抖音、快手、知乎等內容平臺就開始要求創作者主動添加“內容由AI生成”的聲明 。
只可惜 ， 創作者普遍相信一旦打上了這個標簽 ， 自己的作品就必然會被限流 。 其實這種陰謀論在創作者群體中有市場的原因也很簡單 ， 因為內容平臺對于AI可以說是又愛又恨 ， 既希望AIGC能實現內容的多元化、從而豐富內容池的深度和廣度 ， 又不愿意看到低質量的AIGC內容污染自家內容生態 。



以彼時AI大模型的水平 ， 絕大多數使用AI生產內容的創作者還很難做出高質量的作品 。 再加上最初一批準備使用AIGC的創作者往往“目的不純” ， 他們對于這個新技術敏感的原因 ， 往往是在上個時代通過“內容農場”賺到錢了 。 但相比自動化腳本 ， 基于多模態大模型的AIGC與人類創作的界限就更加模糊 。
“內容農場”的自動化腳本 ， 也就只能寫寫“XX到底是怎么回事呢？XX相信大家都很震驚 ， 但是XX到底是怎么回事呢 ， 下面就讓小編帶大家一起了解吧 。 ”隨著網民們被這種生硬呆板的“小編體”拷打多了 ， 自然也就會對其脫敏 。 再說了 ， “小編體”由于呆板也很容易被平臺的算法過濾 。


【指望創作者自覺沒戲，抖音也開始用AI治理AI謠言】
可反觀AIGC ， 它之所以會出圈 ， 就是因為表達能力與人類實在太過接近 。 但由此又誕生了另一個問題 ， 那就是為了讓AI表現出與人類相似的智能 ， OpenAI、字節跳動等大廠可謂是窮盡一切 ， 使得AI與人類進入了“安能辨我是雌雄”的狀態 。
與此同時 ， 流量分成依然是互聯網內容平臺堅持的政策 。 既然有利可圖 ， 當年做“內容農場”的人現在做“AI農場”也就順理成章了 ， 可偏偏平臺沒法自廢武功 ， 畢竟取消流量分成會極大打擊正常創作者的熱情 。 由于指望消滅無良創作者用AI牟利的企圖不太現實 ， 所以平臺也就只能嘗試用技術手段來解決這個問題 。
那么“AI抖音求真”能解決抖音平臺的AI虛假內容嗎？事實上 ， 這一招在短時間內還只能做到“治標不治本” 。 因為“AI抖音求真”依托的“謠言治理大模型”是通過聯網搜索來判斷內容的真假 ， 模型的搜索信源則來自權威媒體報道、政務公開平臺 ， 以及歷史謠言庫樣本 。



所以這就導致“AI抖音求真”對于以往存在的謠言類型會有效 ， 但對“新鮮事”、“新花樣”可能就有力未逮了 。 換而言之 ， “AI抖音求真”的效能主要依托于“謠言治理大模型”的迭代速度 ， 如果它的進化能跟上AI虛假內容的發展 ， 那么用AI來治理AI就是有效的 。 可要是權威媒體沒有報道相關內容 ， “AI抖音求真”就只能給出“存疑”的判斷了 。

    推薦閱讀