1. 首頁 > 云知道 > >

取到真經之前，AI還需要一個“緊箍咒”

倫理


取到真經之前，AI還需要一個“緊箍咒”



吳紅梅 科技日報采訪人員 王春
特斯拉汽車事故風波仍未停歇 ， 人臉識別技術引發的隱私泄露問題尚待解決 ， 人工智能落地產品責任權屬問題依舊存在巨大爭議 。 今天 ， 人工智能的發展已經不僅僅聚焦于技術進步上 ， 與之相隨的是治理形勢的日益嚴峻 。 人工智能在追求卓越的同時如何兼顧倫理和情感？如何更加安全友好？如何與人類和諧共生而不是替代？7月10日下午 ， 第二屆世界人工智能治理主題論壇在線上召開 ， 以“發展負責人的人工智能”為主題 ， 數十位國內外專家、企業代表齊聚 ， 從理論與實踐的角度探討了如何發展負責任的人工智能 ， 并在大會上成立了“上海國家新一代人工智能創新發展試驗區專家咨詢委員會治理工作組” ， 旨在使人工智能的治理“為之于未有 ， 治之于未亂” 。
吳紅梅 科技日報采訪人員 王春
特斯拉汽車事故風波仍未停歇 ， 人臉識別技術引發的隱私泄露問題尚待解決 ， 人工智能落地產品責任權屬問題依舊存在巨大爭議 。 今天 ， 人工智能的發展已經不僅僅聚焦于技術進步上 ， 與之相隨的是治理形勢的日益嚴峻 。 人工智能在追求卓越的同時如何兼顧倫理和情感？如何更加安全友好？如何與人類和諧共生而不是替代？7月10日下午 ， 第二屆世界人工智能治理主題論壇在線上召開 ， 以“發展負責人的人工智能”為主題 ， 數十位國內外專家、企業代表齊聚 ， 從理論與實踐的角度探討了如何發展負責任的人工智能 ， 并在大會上成立了“上海國家新一代人工智能創新發展試驗區專家咨詢委員會治理工作組” ， 旨在使人工智能的治理“為之于未有 ， 治之于未亂” 。
論壇現場? ?主辦方供圖

人工智能并非萬能 ， 其中存在許多問題需要通過治理來解決 。
【取到真經之前，AI還需要一個“緊箍咒”】 圖靈獎獲得者John Hopcroft在大會演講時談到 ， “AI將會改變我們生活的諸多方面 ， 且隨著AI的普及 ， 大量社會問題也將隨之浮現 。 ” 此次治理論壇上提及最多的當屬人臉識別技術 。 如今人臉識別技術已經滲透到了人們生活中的方方面面 ， 人臉識別門禁、人臉識別考勤、人臉識別訪客登記、人臉識別驗證等一系列方案應用于各行業領域 。 但是 ， 人臉識別技術在給人們帶來極大便利的同時 ， 也不免帶來了許多人的擔憂 。 2019年10月 ， 杭州一位消費者因當地野生動物園要求消費者刷臉入園 ， 將動物園告上法庭 ， 被稱為“中國人臉識別第一案” 。 人臉識別的紛爭在無形中由無聲進入到了有聲階段 。 人臉識別技術是否會泄露用戶隱私 ， 有何制度保障用戶的肖像權 ， 人臉識別技術從研發到應用的整個過程是否能夠做到公開、公正、透明？曠世科技為人工智能的治理工作提供了可供借鑒的方案 。 曠視是全球最早一批探索人工智能商業化的拓荒者 ， 從早期單一的人臉識別應用到城市中各場景的智能改造 ， 曠視的核心產品和軟硬一體的全棧解決方案已經得到了全球數十萬開發者和上千家行業客戶的驗證 。 曠世的創始人之一兼首席執行官印奇開發出世界最頂尖的人臉識別技術 ， 帶領曠視科技在各項國際人工智能頂級競賽中多次擊敗谷歌、Facebook、微軟等巨頭 。 如今 ， 作為人工智能領域的獨角獸企業之一 ， 曠世已經不僅僅停留在技術的研發上 ， 而是把目光聚焦到人工智能治理上來 。 曠世在去年7月份成立了自己的人工智能治理委員會 ， 并且在治理委員會下面設立了人工智能研究院 ， 是中國為數不多的幾個在人工智能治理方面采取這一措施的公司之一 。 印奇在大會上表示 ， 曠視對待人工智能治理的態度是“不缺席 ， 不對立 ， 行勝于言 。 ”作為人工智能領域的標桿企業 ， 曠世在治理方面所作的努力目前正在輻射整個行業 。 為充分發揮行業引領作用 ， 曠視曾先后參與19項人工智能相關的國家及行業標準制定 ， 結合自身經驗與行業伙伴共謀技術發展 。 人工智能的治理工作并不能僅靠企業的努力 。 發展負責任的人工智能 ， 要尋求“技術 制度”雙輪驅動的治理綜合解決方案 ， 探尋人工智能治理新模式 。 印奇認為 ， “技術的問題就要通過技術來解決 。 ” 中國科學院院士何積豐表示 ， “數據安全和算法安全是我們關注的問題 ， 我們對此提出了七大對策 ， 包括算法的可解釋性 ， 隱私保護 ， 公平建模 ， 可信驗證 ， 主動防御 ， 倫理法律和系統倫理等 。 ”這為人工智能治理提供了很好的技術研究方向 。 但是構建一定的法律規范、倫理制度也是人工智能治理必不可少的環節 。 2019年國家新一代人工智能治理專業委員會發布了“新一代人工智能治理原則” ， 發展負責任的人工智能 。 此次論壇成立了人工智能治理工作組 ， 旨在負責加強人工智能治理相關研究 ， 促進國際交流參與全球人工智能治理合作 ， 就人工智能立法、倫理規范、標準評估等提出建議 ， 推進人工智能治理原則落到實處 。 這一系列舉措 ， 都表明了我國正在制度層面為人工智能治理開辟出一個更好的環境 。 正如復旦大學應用倫理學研究中心主任王國豫所說 ， “要負責任地發展人工智能 ， 首先要使得我們具有這樣的負責任的環境 ， 而技術僅僅是其中的一個要素 ， 而且絕對不是唯一的要素 。 ”? 由此可見 ， 人工智能在取到“真經”之前 ， 還得靠治理這個“緊箍咒”給他規范發展方向、路徑以及價值取向等 ， 以保證其真正做到技術向善 ， 造福于民 。

推薦閱讀