倫理|人工智能（AI）和道德倫理的標準在哪里？機器人

文章圖片

使用一套開發人工智能的原則真的有用嗎？

來源：Conyl Jay/Getty Images
我們如何創造“好的”人工智能，機器合乎道德意味著什么，我們如何在道德的基礎之上使用人工智能？Good in the Machine——2019年SCINEMA國際科學電影節的參賽作品——深入研究了這些問題，我們道德的起源，以及人工智能和我們自己的道德指引之間的相互作用。
鑒于過去幾年有言論對人工智能的未來發出可怕的警告，人工智能倫理學領域已成為研究的重中之重。
這些警告來自牛津大學的尼克·博斯特羅姆等各種專家，也有來自埃隆·馬斯克和已故斯蒂芬·霍金等更多公眾人物的警告。
作為回應，有些人制定了一套原則來指導人工智能研究人員，并幫助他們談判人類道德和倫理的難題。
AI倫理領域通常分為兩個領域：一個涉及指導開發人工智能的人類的倫理學，另一個涉及指導人工智能或機器人自身道德行為的機器倫理學。然而，這兩個領域并不是那么容易分得開。
機器倫理學歷史悠久。 1950年，偉大的科幻作家Isaac Asimov在他的作品《機器人》中明確闡述了他著名的“機器人三定律” ，并提出了這樣的建議：

機器人不得傷害人，或通過不作為允許人受到傷害。
機器人必須服從人類賦予它的命令，除非此類命令與第一定律相沖突。
【倫理|人工智能（AI）和道德倫理的標準在哪里？】只要這種保護不與第一或第二定律沖突，機器人必須保護自己的存在。

這些法律標準加在一起是阿西莫夫（和編輯約翰·W·坎貝爾）思考如何確保人工智能系統不會讓其創建者過于興奮（避免生產不安全或不受控制的人工智能）。
2004年，改編自《I Robot》的電影上映，以人工智能為特色，該人工智能對三條法律的解釋導致了一項統治人類的計劃。
近幾年大火的西部世界也是如此。（注：本人最喜歡的美劇之一）。
為了突出這三條法律的道德原則的缺陷，一個由美國人工智能研究員Eliezer Yudkowsky領導的名為人工智能奇點研究所（現為機器智能研究所）的組織啟動了一個名為“三法不安全”的在線項目。

來源：Alex Gotfryd/CORBIS/Corbis、Getty Images
艾薩克·阿西莫夫在1950年闡述了他的“機器人三定律” 。

Yudkowsky是超級智能人工智能的早期理論家，也是友好人工智能思想的支持者，他認為，如果人工智能發展到阿西莫夫小說中描繪的階段，這些原則將毫無希望地簡單化了。
盡管這三項法律的缺點得到了廣泛承認，但從私營企業到政府，許多組織仍然堅持實施開發基于原則的人工智能道德系統的項目，其中一份文件列出了迄今為止發布的“84份包含人工智能道德原則或準則的文件” 。
這種對倫理原則的持續關注的部分原因是，雖然這三條法律旨在僅管理人工智能行為，但人工智能倫理原則上適用于人工智能研究人員以及他們開發的智能。 AI的道德行為部分反映了設計和實施它們的人的道德行為，正因為如此， AI道德的兩個領域密不可分。
如果我們要避免人工智能批評者設想的一些更災難性的情況，人工智能開發需要強有力的道德指導。
國際非營利組織Atomium-歐洲科學、媒體和民主研究所發起的AI4People于2018年發表的一份評論報告稱，其中許多項目制定了與醫學倫理學非常相似的一套原則：慈善（只做好事）、非惡意（不傷害）、自治（人類做出個人決定的權力）和正義。