人工智能作為一種具有代表性的顛覆性技術(shù)，正在釋放科技革命和產(chǎn)業(yè)變革積蓄的巨大能量，深刻改變著人類生產(chǎn)生活方式和思維方式。同時，作為建設(shè)數(shù)字中國的重要載體，人工智能已經(jīng)上升為國家戰(zhàn)略，它落地所遇到的問題往往是社會、倫理和法律問題，不可能完全通過技術(shù)解決。因此，從人工智能倫理與安全入手，規(guī)范人工智能技術(shù)與行業(yè)的治理規(guī)范已經(jīng)刻不容緩。哲學和社會科學界應(yīng)緊跟新一代人工智能的發(fā)展，持續(xù)跟蹤和評估人工智能研究的進展和問題，保障其健康發(fā)展。

保障人工智能健康發(fā)展，倫理與安全須先行。

2017年12月12日，電氣電子工程師學會（IEEE）于全球發(fā)布了第2版的《人工智能設(shè)計的倫理準則》白皮書，旨在指導我們認識這些技術(shù)可能造成的技術(shù)外的影響，確保人工智能設(shè)計能夠符合人類的道德價值和倫理原則，并充分發(fā)揮系統(tǒng)益處。

歐盟于2019年4月8日發(fā)布了《人工智能倫理準則》，提出了高科技的人文思考和倫理考量，研究內(nèi)容包括人工智能的社會學、倫理學、未來學等多個方面。

中國國家新一代人工智能治理專業(yè)委員會2021年9月25日發(fā)布《新一代人工智能倫理規(guī)范》，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動的自然人、法人和其他相關(guān)機構(gòu)等提供倫理指引。

2021年11月24日，在聯(lián)合國教科文組織大會第41屆會議上審議通過了《人工智能倫理問題建議書》，該《建議書》旨在促進人工智能為人類、社會、環(huán)境以及生態(tài)系統(tǒng)服務(wù)，并預(yù)防其潛在風險。

……

目前由不同國家地區(qū)的政府、非政府組織及研究機構(gòu)和產(chǎn)業(yè)頒布的人工智能倫理準則提案已經(jīng)超過40個。但不同的準則涉及的議題視角各不相同。由于文化、地域、領(lǐng)域的差異，“大一統(tǒng)”的準則提案不但很難做到，而且沒有必要。因此，不同國家、組織之間倫理準則如何協(xié)同很重要。所以，我們應(yīng)該基于中國的國情，研究中國特色的人工智能倫理與科技哲學，并基于此與世界其他國家和地區(qū)求同存異，共同實現(xiàn)造福人類的目標。

人工智能的倫理與安全是當今世界值得每個人高度關(guān)注的時代命題，尤其值得人工智能研究人員普遍關(guān)注和深入思考。

思考一：可信的人工智能

人工智能發(fā)展的核心是安全可信人工智能，這一概念最早由我國提出，并在G20會議上獲得多國認可。

人工智能的“可信”，也需要建立相應(yīng)的法律、法規(guī)、標準和社會倫理準則?，F(xiàn)階段技術(shù)的發(fā)展已經(jīng)觸碰到了應(yīng)用邊線，在很大程度上屬于邊界問題。

“安全”人工智能有三方面的要求：一是技術(shù)安全，涵蓋數(shù)據(jù)安全、網(wǎng)絡(luò)安全、算法安全和隱私安全；二是應(yīng)用安全，涵蓋智能安防、輿情監(jiān)測、金融風控和網(wǎng)絡(luò)防護；三是倫理安全，涵蓋倫理規(guī)范和法律法規(guī)。

“可信”人工智能包含三個要素：人、信息、物理，要求強人工智能系統(tǒng)能夠?qū)崿F(xiàn)復(fù)雜的信息、物理與人的融合交互。

簡而言之，就是要求人工智能具備與人類智能類似的特質(zhì)，包括對未知情況的魯棒性、自我反省性、自適應(yīng)性和公平性。人工智能的技術(shù)進步是可持續(xù)性的，只有人工智能倫理與安全同時兼顧安全、可信，才能實現(xiàn)人工智能的健康發(fā)展。

聯(lián)邦學習是實現(xiàn)安全可信人工智能的一個主要思路，與傳統(tǒng)的集中式機器學習不同，聯(lián)邦學習通過將訓練任務(wù)下放到用戶側(cè)，僅將訓練得到的模型參數(shù)結(jié)果發(fā)送給服務(wù)端，從而使數(shù)據(jù)保持在用戶本地，保證了用戶數(shù)據(jù)的隱私。

思考二：人工智能倫理規(guī)范

人工智能倫理問題發(fā)生在人工智能技術(shù)的應(yīng)用場景中，即人工智能技術(shù)介入了人與人之間，改變了原來應(yīng)該的人與人的關(guān)系，而引發(fā)了新的倫理問題。人工智能倫理規(guī)范就是要探討如何解決這些倫理問題，包括提出人工智能倫理準則，制定人工智能設(shè)計原則，約束從業(yè)人士職業(yè)規(guī)范等。

人工智能的“大腦”是“算法”，而以算法為核心的軟件機器人既有自動監(jiān)控能力和自主決策能力，也負載著文化，具有技術(shù)偏向和路徑依賴性。我們需要制定人工智能從業(yè)人員的職業(yè)倫理準則，來達到下列目標：

（1）為防止人工智能技術(shù)的濫用設(shè)立紅線；

（2）提高職業(yè)人員的責任心和職業(yè)道德水準；

（3）確保算法系統(tǒng)的安全可靠；

（4）使算法系統(tǒng)的可解釋性成為未來引導設(shè)計的一個基本方向；

（5）使倫理準則成為人工智能從業(yè)者的工作基礎(chǔ)；

（6）提升職業(yè)人員的職業(yè)抱負和理想。

人工智能的發(fā)展具有開放性與不確定性，相應(yīng)的倫理和治理也應(yīng)該是開放的和未完成的，因此在倫理上應(yīng)尋求開放性共識，在治理上應(yīng)施以適應(yīng)性治理。

人工智能倫理目前的研究方向包括但不限于以下四點：第一是重視發(fā)展和治理的綜合性，來避免計算主義貶低人類的生命；第二是強化人工智能倫理研究的階段性；第三是建立生態(tài)影響評價體系；第四是建立人工智能的責任機制。

人工智能倫理準則的建構(gòu)并非易事，其中存在著文化困境、倫理規(guī)范的困境、利益相關(guān)者的價值困境，以及技術(shù)困境這四方面的問題。建構(gòu)適宜的人工智能倫理準則首先需要克服這些困境，具體的邏輯建構(gòu)體系包括人工智能語言體系、人工智能價值體系、人工智能標準體系、人工智能責任體系和人工智能評價體系五方面。并且，人工智能倫理準則的建構(gòu)需要以“實踐智慧”為核心，及時有效地調(diào)整人工智能倫理標準的實施方法，力求最大程度地實現(xiàn)人工智能倫理準則的實踐有效性。

思考三：人工智能法律法規(guī)

人工智能技術(shù)迅猛發(fā)展，短時間大量資本涌入，造成市場泡沫，資本與有問題的倫理觀結(jié)合，可能會打開“潘多拉魔盒”，催生出“壞的技術(shù)”，導致人工智能不但無法造福人類，還會帶來不可預(yù)測的倫理、法律、社會問題。人工智能的應(yīng)用前景看似魔幻，其實近在眼前，為之立法需盡早行動。人工智能立法需要思考的不是消滅客觀危險，而是在這些潛在的威脅和挑戰(zhàn)面前，增強風險認識能力，提高制度風險意識，通過法律和其他社會規(guī)范來預(yù)防規(guī)避風險，引導規(guī)范人工智能技術(shù)健康發(fā)展。

在新技術(shù)的沖擊下，必須有新的法律和現(xiàn)實相適應(yīng)，這一點毋庸置疑。但人工智能法律法規(guī)必須具備較好的包容性，要為新技術(shù)的發(fā)展留下足夠的空間，法律條文應(yīng)當以原則性為主，而不宜過細、過死。立法的過程一方面要重視“本地知識”的作用，多聽取人工智能行業(yè)從業(yè)者與相關(guān)專家的意見，法學家與人工智能科學家應(yīng)該相互協(xié)同以制定出與行業(yè)現(xiàn)狀相符合的法律法規(guī)；另一方面要重視調(diào)查研究，理解清楚人工智能技術(shù)的本質(zhì)，深入探討人工智能與人之間的關(guān)系，立足應(yīng)用場景研究潛在風險，確保立法的明確性和適應(yīng)性。

人工智能從產(chǎn)品到技術(shù)都在迅猛發(fā)展，現(xiàn)在是人工智能立法的準備階段、摸索階段、積累階段，也是人工智能立法的促進階段，可以先制定促進人工智能發(fā)展法。立法應(yīng)該優(yōu)先考慮對人們生活已經(jīng)有影響的領(lǐng)域，如自動駕駛、服務(wù)類機器人領(lǐng)域，率先啟動立法、立項工作。將人工智能復(fù)雜環(huán)境中的突發(fā)事件納入法律規(guī)制的范圍，探索歸納該場景下突發(fā)事件的應(yīng)對主體、問責機制，為后續(xù)立法提供借鑒。

人工智能立法是全人類所面臨的新課題，有學者提出，堅持以人為本的原則、建立全流程監(jiān)管體系、明晰法律責任制度、明確數(shù)據(jù)信息保護與隱私權(quán)保護、強化涉及人工智能發(fā)展的知識產(chǎn)權(quán)保護、加強國際合作，加快制定專門的《人工智能發(fā)展法》。一部體系和結(jié)構(gòu)完整的《人工智能發(fā)展法》既需要廓清人工智能機器人的基本職責、權(quán)利和義務(wù)，還需要厘清人（法人）機之間的責任分配以及責任承擔方式，更需要不同領(lǐng)域相關(guān)法律的配合和補充。

從上述思考中，您是否得到了啟發(fā)？如果您想更深入地了解人工智能倫理與安全，那么不妨和小編一起讀讀這本書……

2021年12月21日，由中國科學院院士何積豐、中國人工智能學會原理事長鐘義信院士聯(lián)袂作序，清華大學出版社出版的新書《人工智能倫理與安全》在“上襲·師成達學暨2021數(shù)字思想峰會”上進行全球首發(fā)。

本書從人工智能公平性和包容性、透明性和隱私性，人和人工智能系統(tǒng)之間的合作，以及相關(guān)技術(shù)的可靠性與健壯性等角度，覆蓋信息科學、倫理、哲學、法律等社會學各界的先進思想與理論，為讀者全面理解相關(guān)領(lǐng)域知識奠定基礎(chǔ)。

在打開本書的同時，我們也掀開了國內(nèi)人工智能倫理與安全領(lǐng)域在人、信息、物理這三個要素上的可信方面研究新的一頁。

本書出版有巨大的現(xiàn)實意義和長遠的戰(zhàn)略意義。

人工智能的奇點會不會到來、什么時候到來都未知，甚至無法控制，但保持對未來的思考、探索更多的可能性，甚至引導人工智能向?qū)θ祟愑幸娴姆较虬l(fā)展，都是非常重要的命題。然而，人類需要保持的對未來的思考，又何止人工智能。

人類將向著什么樣的方向發(fā)展？

當技術(shù)足夠先進，我們的生命在宇宙中傳播的終極物理限制是什么？

我們的宇宙現(xiàn)在是充滿了地外生命，還是只有我們？

如果不同的宇宙文明相遇會發(fā)生什么？

如果生命的極限被技術(shù)打破和重塑，那么最終會去往何處？

生命終究能走多遠，持續(xù)多久？

或許人工智能可以幫助人類更快地找到答案?？傊３謱ξ磥淼乃伎己烷_放包容的態(tài)度，重視人工智能倫理與安全的研究和發(fā)展，總是利大于弊的。人工智能科技革命的浪潮滾滾而來，這個時代的每個人都需要做好足夠的準備，以應(yīng)對這場技術(shù)和倫理的雙重沖擊，請保持思考、保持勇敢，讓我們以AI之名，一起向未來！