欧美日韩国产一区二区|qovd片|小明个人发布看看|小浪货你夹真紧水又多|老头把我添高潮了A片故|99热久久精品国产一区二区|久久久春色AV

  1. 首頁(yè) > 科技 > >

VR|AI偏見(jiàn)無(wú)處不在！超1/3公司因AI偏見(jiàn)而蒙受損失

蘋果it芯片芯片arVR

VR|AI偏見(jiàn)無(wú)處不在！超1/3公司因AI偏見(jiàn)而蒙受損失

當(dāng)你看短視頻 ， AI會(huì)根據(jù)你的喜愛(ài)推薦內(nèi)容 ， 這就是一種偏見(jiàn) 。 很多企業(yè)也在引入AI系統(tǒng) ， 偏見(jiàn)可能會(huì)給企業(yè)帶來(lái)?yè)p失 。

DataRobot在美國(guó)、英國(guó)調(diào)查350多名技術(shù)人員 ， 超過(guò)三分之一（36%）聲稱它們因AI偏見(jiàn)蒙受損失 。 在受損失的企業(yè)中超過(guò)一半（62%）損失了營(yíng)收或者客戶（61%） ， 將近一半（43%）失去了員工 ， 超過(guò)三分之一（35%）卷入法律糾紛 。
世界經(jīng)濟(jì)論壇AI專家Firth-Butterfield認(rèn)為 ， AI造成損失的原因很多 。 他說(shuō)：“如果你用AI HR算法挑選出不合適的人 ， 可能會(huì)損害營(yíng)收 。 如果你用帶偏見(jiàn)的算法貸款 ， 業(yè)務(wù)就沒(méi)法增長(zhǎng) ， 因?yàn)樽罱KAI選擇的貸款對(duì)象會(huì)是恒定的一小部分人 。 ”
受訪者認(rèn)為 ， 算法不可避免會(huì)對(duì)人產(chǎn)生偏見(jiàn) ， 產(chǎn)生偏見(jiàn)的因素很多 ， 有性別（34%）、年齡（32%）、種族（29%）、性取向（19%）、宗教（18%） 。
Forrester在報(bào)告中警告說(shuō)：“基于人工智能的歧視——即使是無(wú)意的——也會(huì)對(duì)監(jiān)管、聲譽(yù)和收入造成可怕的影響 。 ”雖然大多企業(yè)面對(duì)AI時(shí)將公平作為原則 ， 但要持續(xù)下去是一大挑戰(zhàn) 。
華盛頓DC智庫(kù)Cato Institute的高管Mathew Feeney認(rèn)為 ， AI產(chǎn)生偏見(jiàn)是很復(fù)雜的 ， 很大程度是因?yàn)橛?xùn)練系統(tǒng)的數(shù)據(jù)帶來(lái)的 。 Mathew Feeney認(rèn)為 ， 現(xiàn)在面部識(shí)別很流行 ， 它用到了AI技術(shù) ， 而面部識(shí)別充滿偏見(jiàn) 。
Mathew Feeney解釋說(shuō)：“當(dāng)我們用系統(tǒng)識(shí)別黑人身份時(shí) ， 可靠性沒(méi)有那么高 。 系統(tǒng)要訓(xùn)練 ， 訓(xùn)練需要照片 ， 當(dāng)面向特定種群的照片不夠多 ， 或者質(zhì)量不夠好時(shí)就會(huì)出現(xiàn)偏見(jiàn) 。 ”“并不一定是工程師或者設(shè)計(jì)師心存邪念 ， 只是訓(xùn)練數(shù)據(jù)有問(wèn)題 。 ”
Firth-Butterfield認(rèn)為：“開(kāi)發(fā)算法的人也有偏見(jiàn) ， 這種偏見(jiàn)也會(huì)影響算法 。 如果算法開(kāi)發(fā)者是一名30歲的男子 ， 他是白人 ， 他帶入的偏見(jiàn)會(huì)與30歲的非裔美國(guó)女子不同 。 ”
信息技術(shù)與創(chuàng)新基金（Information Technology & Innovation Foundation）副總裁Daniel Castro認(rèn)為人類在使用AI偏見(jiàn)一詞時(shí)反復(fù)無(wú)常 。
Daniel Castro說(shuō)：“我認(rèn)為所謂的AI偏見(jiàn)是算法精準(zhǔn)度存在的錯(cuò)誤 ， 也就是估計(jì)值與真實(shí)值之間的差異 。 ”“大多公司有強(qiáng)烈的市場(chǎng)意愿來(lái)消除AI偏見(jiàn) ， 因?yàn)檫@樣做算法才會(huì)更精準(zhǔn) 。 ”“例如 ， 如果算法未能將最優(yōu)產(chǎn)品推薦給購(gòu)物者 ， 公司營(yíng)收就會(huì)減少 ， 蛋糕被競(jìng)爭(zhēng)對(duì)手拿走 。 ”“企業(yè)出于聲譽(yù)考慮會(huì)要求消除AI偏見(jiàn) ， 否則產(chǎn)品和服務(wù)就會(huì)被認(rèn)為不合格 。 ”
Daniel Castro還認(rèn)為 ， 有時(shí)靠市場(chǎng)力量消除偏見(jiàn)沒(méi)有效果 。 他說(shuō)：“出于稅收目的 ， 政府機(jī)構(gòu)可能會(huì)用AI算法估算財(cái)產(chǎn)價(jià)值 ， 想用這種市場(chǎng)機(jī)制來(lái)消除偏見(jiàn)是很難的 。 在這種環(huán)境下 ， 政府應(yīng)該提供一套替代性監(jiān)管機(jī)制 ， 比如通過(guò)透明的的措施來(lái)保證 。 ”
“有些人提到AI偏見(jiàn)會(huì)將它視為歧視 。 如果房東歧視特定租戶 ， 不論是用算法還是人力來(lái)歧視 ， 我們都應(yīng)該訴諸法律 。 ”
DataRobot就AI監(jiān)管詢問(wèn)了受訪者 。 81%的人認(rèn)為政府監(jiān)管在兩個(gè)方面很有用 ， 一是定義偏見(jiàn) ， 二是預(yù)防偏見(jiàn) 。 但也有45%的人認(rèn)為政府監(jiān)管會(huì)導(dǎo)致經(jīng)營(yíng)成本增加 。 32%的人擔(dān)心如果沒(méi)有政府監(jiān)管部分群體可能會(huì)受傷 。
Feeney說(shuō)：“有許多人呼吁政府監(jiān)管 ， 但要監(jiān)管的AI范圍太廣了 ， 有面部識(shí)別、無(wú)人駕駛、軍事應(yīng)用等等 。 ”
德勤預(yù)測(cè) ， 2022年圍繞AI監(jiān)管會(huì)有很多的討論 ， 但監(jiān)管全面實(shí)施至少要等到2023年 。 有些地區(qū)可能會(huì)完全封殺AI部分細(xì)分產(chǎn)業(yè) 。
德勤高管Paul Silverglate說(shuō)：“AI有很大的潛力 ， 2022年它會(huì)面臨更多的審查 ， 因?yàn)楸O(jiān)管者想深入理解新興AI應(yīng)用的隱私、數(shù)據(jù)安全問(wèn)題 ， 力求保護(hù)好消費(fèi)者 。 ”

相關(guān)經(jīng)驗(yàn)推薦