1. 首頁 > 云知道 > >

審視人臉識別：一種AI技術的全球性濫用

實用


審視人臉識別：一種AI技術的全球性濫用



作者 Admin
2020 年的NeurIPS和往屆有所不同 。 除了在線上舉辦 ， 不同還在于組委會提出了一個新的投稿要求：作者需要在投稿論文中單獨擬一個 “影響陳述” 章節 。
該章節必須討論文中工作將帶來的更廣泛影響 ， 包括可能帶來的正面或負面的社會影響 。 “評審員和地區主席的評估將僅基于技術貢獻進行 。 但是 ， 如果將某篇論文標記包含潛在的道德問題 ， 則該論文將被發送給另一組以道德評估和機器學習為專長的審閱者 。 這些論文的最終接受還取決于第二批審稿人的正面評價 。 ”NeurIPS 2020通訊主席Michael Littman如此表示 。
這也是AI頂會首次采用這種評估作法 。 但NeurIPS不是唯一一個有此要求的場合 。
同樣在今年 ， Nature Machine Intelligence雜志也提出：機器學習論文作者在文中加入對研究更廣泛的社會影響和道德承諾的聲明 。
甚至有人在審視自己的AI研究之后已經無法承受某種道德瑕疵 。
今年早些時候 ， YOLO系列 （v1-v3） 作者 Joe Redmon 宣布 ， 因為無法忽視自己工作帶來的負面影響 ， 他決定退出計算機視覺領域 ， 不再進行該方向的研究 。 此前 ， Redmon 曾與 Ali Farhadi 共同創建了 YOLO 實時物體檢測系統 ， 后者的公司 Xnor 最近被蘋果收購 。
這些信息并不是獨立的故事線 。 最近 ， Nature 官網連續刊登3篇文章 ， 集中反映了以人臉識別為代表的 AI 技術濫用及其效應 。 這三篇文章分別是《Is facial recognition too biased to be let loose？》、《The ethical questions that haunt facial-recognition research》和《Resisting the rise of facial recognition》 。
顯然 ， 一場比以往更大范圍的對AI技術合理使用（尤其是人臉識別）的批判正在展開 。
人臉識別問世所走過的60年
人臉識別技術的起源可以追溯到1960年代 。
當時 ， 一位名叫 Woodrow Wilson Bledsoe 的計算機科學家首次使用電磁脈沖對人臉進行了測量 ， 進而得以把人臉數據輸入到測量系統中 ， 將一張新的未知面孔與先前輸入的照片的數據點進行比較 。 以我們今天的技術標準來看 ， 那個系統的運行速度自然是非常慢 ， 但事實證明 ， 這一想法是很有價值的 。 很長一段時間內 ， 由于 Bledsoe 的研究有情報機構的贊助 ， 使得其對于人臉識別技術基本緘口不言 ， 直到 2000 年以后 CIA 逐漸解密 ， Bledsoe 才被公認是最早研究人臉識別技術的科學家 。
Bledsoe 的發明之后 ， 技術的改進集中在如何增加人臉測量點上 。 1970 年代 ， Goldstein、Harmon 和 Lesk 三人建立了 21 個人臉測量點；1980 年代 ， 研究人員使用線性代數使用了大約 100 個人臉測量點 ， 人臉圖像的低維表示進一步鋪平道路 。
1990 年代 ， 第一個基于圖像的粗略自動人臉檢測誕生 ， 人臉識別也從強調人臉特征識別逐漸走向了人機交互 。 期間不但誕生了若干代表性的人臉識別算法 ， 美國國防高級研究計劃局（DARPA）和美國國家標準技術研究院（NIST）更是推出了著名的人臉識別技術（FERET）項目 ， 研發最先進的人臉識別算法和數據庫 。 主要目的便是用于安全監控 。 這也為人臉識別引發全球轟動的時間線埋下伏筆 ， 例如 2011 年時的本拉登事件：基地組織負責人 Osama bin Laden 在美國突襲中被殺后 ， 最終由軍方的人臉識別算法成功辨認 。
21 世紀的第二個 10 年 ， 基于深度學習神經網絡的當代人臉識別技術勢如破竹 。
與仍需要人工操作的人機交互階段相比 ， 人臉識別的自動化程度和精確度都更高 。 在這個新的歷史時期 ， 企業開始大量投入其中 ， 從而進一步推動人臉識別走向商用市場：云端——2010 年起 ， Facebook 招募了圖像身份自動標記人員 ， 從那時開始 ， FB 平臺上每天有超過一百萬張照片被上傳和標注；終端——諸如 Windows Hello 和 Android 的 Trusted Face ， 將人臉識別作為一種安全功能集成到了個人設備中 ， 然后在 2017 年推出了 iPhone X 和 Face ID 。 到了 2017 年 ， iPhone X 成為全球最暢銷的帶有人臉識別功能的手機 。

推薦閱讀