欧美日韩国产一区二区|qovd片|小明个人发布看看|小浪货你夹真紧水又多|老头把我添高潮了A片故|99热久久精品国产一区二区|久久久春色AV

  1. 首頁(yè) > 生活百科 > >

ChatGPT很厲害，但還有關(guān)鍵問(wèn)題懸而未決

生活百科文章


ChatGPT很厲害，但還有關(guān)鍵問(wèn)題懸而未決

文章插圖

ChatGPT很厲害，但還有關(guān)鍵問(wèn)題懸而未決

文章插圖

ChatGPT很厲害，但還有關(guān)鍵問(wèn)題懸而未決

文章插圖


出品|虎嗅科技組
作者|齊健
編輯|陳伊凡
頭圖| 6penAI生成
1月27日，路透社消息稱法國(guó)頂尖學(xué)府之一的巴黎政治學(xué)院宣布該校將禁止使用ChatGPT，對(duì)使用該軟件的處罰可能會(huì)嚴(yán)重到被學(xué)校開(kāi)除，甚至被整個(gè)法國(guó)高等教育開(kāi)除 。
“ChatGPT軟件正在向全世界的教育工作者和研究人員提出一個(gè)涉及欺詐和剽竊的嚴(yán)肅問(wèn)題 ， ”巴黎政治學(xué)院在這份通知中稱，“在沒(méi)有透明參考的情況下，除特定課程目的外 ， 學(xué)生不得使用該軟件制作任何書(shū)面作品或演示文稿 。”
巴黎政治學(xué)院并不是第一所宣布禁用ChatGPT的學(xué)校 。ChatGPT發(fā)布不到一個(gè)月，就引起了美國(guó)教育界的高度重視 。多所美國(guó)中學(xué)及大學(xué)陸續(xù)宣布校內(nèi)禁用ChatGPT ， 并通過(guò)減少課后作業(yè)的方式，避免學(xué)生利用家庭網(wǎng)絡(luò)訪問(wèn)ChatGPT作弊 。美國(guó)紐約市教育部，甚至要求全紐約市的學(xué)生和教師不要使用這款A(yù)I工具 ， 并對(duì)下轄的教育部設(shè)備或互聯(lián)網(wǎng)設(shè)卡，限制訪問(wèn)ChatGPT 。
AI生成內(nèi)容的倫理和法律問(wèn)題，正在引發(fā)社會(huì)各界的廣泛討論與思考 。
AI背后的學(xué)術(shù)隱憂
“ChatGPT很好玩 ， 但它不是作者”，這是《Science》期刊主編Holden Thorp在1月26日發(fā)表的一篇關(guān)于人工智能的社論 。Holden Thorp指出，“原創(chuàng)”是Science發(fā)表論文的基礎(chǔ) ， 而利用ChatGPT編寫(xiě)文本的行為 ， 等同于從ChatGPT中抄襲 。
“我們正在更新編輯政策，要求作者不要使用ChatGPT（或任何其他人工智能工具）生成的文本、數(shù)據(jù)、圖像或是圖形 。違反這一政策將被Science期刊視為學(xué)術(shù)不端行為，這與篡改圖像或抄襲無(wú)異 。”不過(guò)Holden Thorp也表示，上述規(guī)定并不包含AI論文中以研究為目的生成的數(shù)據(jù) 。
在AI學(xué)界，知名機(jī)器學(xué)習(xí)會(huì)議之一的ICML（International Conference on Machine Learning）最近也宣布禁止“發(fā)表包含從大型語(yǔ)言模型（LLM，Large Language Model）生成的文本（例如ChatGPT）的論文（相關(guān)研究除外）”，以免出現(xiàn)“意想不到的后果和無(wú)法解決的問(wèn)題” 。
對(duì)于學(xué)術(shù)期刊和頂會(huì)論文來(lái)說(shuō) ， AI生成的內(nèi)容最大的問(wèn)題在于知識(shí)權(quán)屬和責(zé)任確定問(wèn)題 。作為論文作者，研究人員無(wú)疑要對(duì)論文的觀點(diǎn)和內(nèi)容負(fù)責(zé)，而AI要如何對(duì)文章內(nèi)容負(fù)責(zé)？如果AI生成的內(nèi)容出現(xiàn)了謬誤、不恰當(dāng)、造假，甚至是抄襲剽竊 ， 又該如何追責(zé)呢？
考慮到“AI作弊”帶來(lái)的普遍問(wèn)題，目前從OpenAI官方，到學(xué)術(shù)期刊出版商，以及“草根”開(kāi)發(fā)者都在研究如何分辨一篇文章的“作者”到底是人還是機(jī)？
目前，OpenAI正在研發(fā)相應(yīng)的AI檢測(cè)工具 。OpenAI客座研究員Scott Aaronson在德克薩斯大學(xué)的一次演講中表示，他們正在通過(guò)給AI生成內(nèi)容打“水印”來(lái)打擊作弊 。這項(xiàng)技術(shù)將通過(guò)調(diào)整ChatGPT生成單詞的規(guī)則 ， 在生成內(nèi)容的特定位置制造“偽隨機(jī)”的特定單詞，讀者很難察覺(jué)，但就如同密電碼一樣 ， “握有密鑰”的人就輕易判斷這篇內(nèi)容是否是ChatGPT生成的了 。
《Nature》的出版商Springer Nature也正在開(kāi)發(fā)可以檢測(cè)LLM的技術(shù) 。而就在前不久，普林斯頓大學(xué)的一位22歲的華裔學(xué)生Edward Tian研究出了一款專門給ChatGPT挑毛病的應(yīng)用GPTZero ， 可以通過(guò)檢測(cè)文本的“困惑性（Perplexity）”和“突發(fā)性（Burstiness）”這兩項(xiàng)指標(biāo)，來(lái)判斷內(nèi)容是人類創(chuàng)作還是機(jī)器生成 。

相關(guān)經(jīng)驗(yàn)推薦