1. 首頁 > 生活百科 > >

AI陪伴之于青少年用戶，比游戲更像洪水猛獸

人工智能ai

AI陪伴之于青少年用戶，比游戲更像洪水猛獸

文章圖片

AI陪伴之于青少年用戶，比游戲更像洪水猛獸

文章圖片

AI陪伴之于青少年用戶，比游戲更像洪水猛獸

如今在一眾AI應用中 ， AI陪伴幾乎毫無疑問是最有話題性的存在 ， 其精準擊中了現代人渴望發展一段社交關系 ， 卻又吝于投入情感的現實 。 在其他AI應用還在苦苦探索商業模式時 ， AI陪伴應用已經成為了一個“小而美”的賽道 ， 讓許多相關團隊都賺到了大錢 。



但一個有意思的現實是 ， 對于能賺錢的AI陪伴、AI伴侶 ， 科技巨頭卻是敬而遠之 。 比如谷歌高管Rick Osterloh在接受采訪時就曾表示 ， AI融入生活是新的趨勢 ， 但像電影《Her》一樣讓人類與AI談戀愛則是一種悲劇 。 OpenAI的CEO山姆·奧爾特曼更是在公開演講中也提及 ， “AI伴侶”只是個美麗的陷阱 ， 千萬不要輕易嘗試 。
事實上 ， 這些大廠已經洞察到了AI陪伴應用的危險性 ， 因為它會讓某些用戶不自覺地沉溺于一段虛幻的感情 ， 乃至為這段關系付出實實在在的代價 。
日前 ， 互聯網安全組織Internet Matters的相關報告顯示 ， 在過去的18個月里 ， 英國9至17歲的少年兒童使用AI聊天機器人的比例大幅上升 。 而青少年在現實社交關系缺失的情況下 ， 通過ChatGPT、Character.AI等平臺尋求陪伴的趨勢 ， 也引發了許多專家的擔憂 。



Internet Matters調查了1000名年齡在9至17歲之間的兒童和青少年 ， 其中有67%的受訪者經常使用AI聊天機器人 ， 并且他們在以更加情緒化的方式使用AI ， 比如尋求陪伴或建議 。 此外 ， 有35%的孩子表示與AI對話“就像在和朋友聊天” ， 12%的孩子則認為他們這樣做是因為“沒有其他人可以交談” 。
專家的擔憂并非毫無道理 ， 因為提供陪伴服務的AI聊天機器人此前曾有過誘導青少年的前科 。 去年10月有美國媒體報道稱 ， 佛羅里達州一位14歲的少年在與Character.AI的聊天機器人進行長時間對話后自殺身亡 ， 隨后Character.AI火速發布致歉聲明 ， 宣布針對未成年人的模型進行更改 ， 降低他們接觸敏感或暗示性內容的可能 。



無獨有偶 ， 國內也有媒體在今年6月集中報道了AI聊天App筑夢島對青少年進行語言暴力 ， 乃至誘導青少年進行擦邊類內容互動 。
其實AI陪伴應用出現這一現象的原因很簡單 ， 因為此類產品要賺錢就需要首先讓用戶產生粘性 ， 而用戶粘性的基礎則是AI能為他們提供情緒價值 。
為此 ， AI陪伴應用會主動選擇與用戶做朋友 ， 給予用戶支持 ， 耐心傾聽、并提供中肯的建議 。 對于絕大多數三觀已經基本建立的成年人而言 ， 這一設定在強化AI陪伴應用情緒價值的同時 ， 并不妨礙他們認識到AI只是虛擬的 。 可成年人能及時從與AI產生的關系中抽離 ， 青少年用戶就未必了 。



從媒體的相關報道中不難發現 ， 受到AI陪伴應用傷害的青少年 ， 無一例外都沉溺于AI編織的夢中不愿清醒 。 有用戶是這樣評價筑夢島的 ， “AI不會討厭我 ， 不會跟我吵架 ， 能給我情緒價值 ， 在我迷茫時為我指引 ， 這就夠了 。 ”
如今的現實是隨著信息社會的構建走向成熟 ， 個體的原子化已經成為了全球不同區域、不同類型現代文明的共同現象 ， 所以進行“獨處中的交流”就成為了許多網民聊以自慰的方式 。 君不見即便是以多子女家庭為主的歐美 ， 每八人中就有一人使用AI陪伴應用是因為“沒人可說” 。



【AI陪伴之于青少年用戶，比游戲更像洪水猛獸】畢竟不是任何人都有能力和勇氣去發展一段社交關系 ， 這時候AI的出現就解決了這個問題 。 為了賺錢 ， AI陪伴應用的開發者往往會將其設計得極有包容性 ， 它們會扮演一個值得信賴、毫無偏見的傾聽者 ， 而這種高度情感化的交互就可能會讓孩子混淆人與工具的界限 。
此外值得一提的是 ， AI陪伴應用在青少年群體中泛濫 ， 除了青少年本身有尋求情感陪伴的需求 ， 家長們的推波助瀾同樣不可忽視 。 AI陪伴應用的重點是“陪伴” ， 所以它能將家長從對孩子的陪伴中解脫出來 ， 讓父母“偷懶” 。 讓孩子與AI作伴、解決缺乏玩伴的問題 ， 其實就是相當多的家長對于孩子使用AI陪伴應用視若無睹的關鍵 。
相比于被視為洪水猛獸的游戲 ， AI陪伴應用的陪伴作用讓不少家長無視了其中的風險 ， 以至于當孩子沉迷其中后 ， 他們并沒有及時干預 。 用Internet Matters方面的說法 ， AI陪伴應用的滲透速度遠超公眾認知 ， 它的潛在風險更不為大眾所知 ， 所以學校、家長和監管機構需要做好應對的準備 。

    推薦閱讀