1. 首頁 > 云知道 > >

發展負責任的人工智能

科普應用小知識薛瀾治理原則智力


發展負責任的人工智能



數據來源：《中國新一代人工智能發展報告2019》
核心閱讀
我國數據資源豐富， 應用場景需求迫切， 基礎研究、技術開發的水平顯著提升， 人工智能較快發展 。 與此同時， 治理方面的問題也隨之出現 。
國家新一代人工智能治理專業委員會發布《治理原則》， 以“發展負責任的人工智能”為主題， 希望“負責任”貫穿人工智能的研發和應用， 促進技術的健康發展 。
近年來， 人工智能迅速發展， 作為引領新一代科技革命和產業變革的戰略性技術， 人工智能正深刻影響社會生活、改變世界， 在引發巨大變革的同時， 也帶來了諸多風險， 人工智能該如何健康發展？
6月17日， 國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》（以下簡稱《治理原則》）， 提出了人工智能治理的框架和行動指南 。 這是我國促進新一代人工智能健康發展， 加強人工智能法律、倫理、社會問題研究， 積極推動人工智能全球治理的一項重要成果 。
治理問題引起廣泛關注， 學界業界都在探索自律
“自2017年國家新一代人工智能發展規劃發布以來， 我國人工智能與各行業各領域的融合日益深入， 展現出巨大的發展潛力 。 ”清華大學蘇世民書院院長、國家新一代人工智能治理專業委員會主任薛瀾說， 人工智能正在對政府管理經濟模式、社會結構、國家安全甚至國際關系產生深刻的影響， 隨著技術的發展和應用， 治理方面的問題不斷出現， 引起了科技界、產業界和社會的廣泛關注 。 “很多國際組織、產業聯盟和知名企業都在研究制定人工智能相關的準則， 我國一些學術組織和產業聯盟在這方面非常活躍， 業界也在積極探索行業自律 。 ”薛瀾說 。
為促進新一代人工智能健康發展， 國家新一代人工智能治理專業委員會成立， 統籌推進人工智能治理的相關工作， 起草這份《治理原則》就是委員會今年的重點工作之一 。
【發展負責任的人工智能】起草過程中， 委員會注重廣泛聽取各方面意見 。 “我們在網絡上公開動員公眾參與， 形成了上百條重要建議 。 ”薛瀾說， 委員會還多次召開有關高校科研院所和企業代表參加的座談會， 廣泛凝聚了學界、業界和社會的共識 。
中國科學院自動化研究所研究員、國家新一代人工智能治理專業委員會委員曾毅介紹， 目前全球各國政府、非政府組織和產業界機構已發布了超過40份人工智能準則， 這些準則往往是在發布征求意見稿之后聽取意見 。 “《治理原則》是在未發布任何內容的情況下， 收集從業人員甚至普通用戶對人工智能的期待和愿景， 這是《治理原則》最主要的一個特點 。 ”
“負責任”是主題， 涵蓋人工智能的基礎研發到應用
“發展負責任的人工智能”成為《治理原則》的主題， 在受訪專家看來， “負責任”涵蓋了人工智能的基礎研發層到應用層， 更應成為貫穿人工智能發展的一條主線 。 薛瀾舉例說：“比如我們提出的‘和諧友好’等原則， 強調無論是人工智能提供的產品還是服務， 都應該是負責任的、全面的， 應以增進人類共同福祉為目標， 應該符合人類的價值觀和倫理道德， 避免誤用， 禁止濫用、惡用 。 ”
《治理原則》旨在更好協調人工智能發展與治理的關系， 確保人工智能安全可控可靠， 推動經濟、社會及生態可持續發展， 共建人類命運共同體， 這也構成了《治理原則》的4個主要亮點 。

推薦閱讀