中國(guó)網(wǎng)/中國(guó)發(fā)展門(mén)戶(hù)網(wǎng)訊   人工智能（AI）是第四次產(chǎn)業(yè)革命中的核心技術(shù)，得到了世界的高度重視。我國(guó)也圍繞人工智能技術(shù)制定了一系列的發(fā)展規(guī)劃和戰(zhàn)略，大力推動(dòng)了我國(guó)人工智能領(lǐng)域的發(fā)展。然而，人工智能技術(shù)在為經(jīng)濟(jì)發(fā)展與社會(huì)進(jìn)步帶來(lái)重大發(fā)展機(jī)遇的同時(shí)，也為倫理規(guī)范和社會(huì)法治帶來(lái)了深刻挑戰(zhàn)。2017 年，國(guó)務(wù)院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出“分三步走”的戰(zhàn)略目標(biāo)，掀起了人工智能新熱潮，并明確提出要“加強(qiáng)人工智能相關(guān)法律、倫理和社會(huì)問(wèn)題研究，建立保障人工智能健康發(fā)展的法律法規(guī)和倫理道德框架”。2018 年，習(xí)近平總書(shū)記在主持中共中央政治局就人工智能發(fā)展現(xiàn)狀和趨勢(shì)舉行的集體學(xué)習(xí)時(shí)強(qiáng)調(diào)，要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險(xiǎn)研判和防范，維護(hù)人民利益和國(guó)家安全，確保人工智能安全、可靠、可控。要整合多學(xué)科力量，加強(qiáng)人工智能相關(guān)法律、倫理、社會(huì)問(wèn)題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德。2019 年，我國(guó)新一代人工智能發(fā)展規(guī)劃推進(jìn)辦公室專(zhuān)門(mén)成立了新一代人工智能治理專(zhuān)業(yè)委員會(huì)，全面負(fù)責(zé)開(kāi)展人工智能治理方面政策體系、法律法規(guī)和倫理規(guī)范研究和工作推進(jìn)。《中華人民共和國(guó)國(guó)民經(jīng)濟(jì)和社會(huì)發(fā)展第十四個(gè)五年規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》中專(zhuān)門(mén)強(qiáng)調(diào)要“探索建立無(wú)人駕駛、在線(xiàn)醫(yī)療、金融科技、智能配送等監(jiān)管框架，完善相關(guān)法律法規(guī)和倫理審查規(guī)則”。這些均體現(xiàn)了我國(guó)對(duì)人工智能倫理及其治理的密切關(guān)注程度和積極推進(jìn)決心，同時(shí)也突出了這一問(wèn)題的重要性。

當(dāng)前人工智能倫理問(wèn)題

倫理是處理人與人之間關(guān)系、人與社會(huì)之間關(guān)系的道理和秩序規(guī)范。人類(lèi)歷史上，重大的科技發(fā)展往往帶來(lái)生產(chǎn)力、生產(chǎn)關(guān)系及上層建筑的顯著變化，成為劃分時(shí)代的一項(xiàng)重要標(biāo)準(zhǔn)，也帶來(lái)對(duì)社會(huì)倫理的深刻反思。人類(lèi)社會(huì)于20 世紀(jì)中后期進(jìn)入信息時(shí)代后，信息技術(shù)倫理逐漸引起了廣泛關(guān)注和研究，包括個(gè)人信息泄露、信息鴻溝、信息繭房、新型權(quán)力結(jié)構(gòu)規(guī)制不足等。信息技術(shù)的高速變革發(fā)展，使得人類(lèi)社會(huì)迅速邁向智能時(shí)代，其突出表現(xiàn)在帶有認(rèn)知、預(yù)測(cè)和決策功能的人工智能算法被日益廣泛地應(yīng)用在社會(huì)各個(gè)場(chǎng)景之中；前沿信息技術(shù)的綜合運(yùn)用，正逐漸發(fā)展形成一個(gè)萬(wàn)物可互聯(lián)、萬(wàn)物可計(jì)算的新型硬件和數(shù)據(jù)資源網(wǎng)絡(luò)，能夠提供海量多源異構(gòu)數(shù)據(jù)供人工智能算法分析處理；人工智能算法可直接控制物理設(shè)備，亦可為個(gè)人決策、群體決策乃至國(guó)家決策提供輔助支撐；人工智能可以運(yùn)用于智慧家居、智慧交通、智慧醫(yī)療、智慧工廠(chǎng)、智慧農(nóng)業(yè)、智慧金融等眾多場(chǎng)景，還可能被用于武器和軍事之中。然而，邁向智能時(shí)代的過(guò)程如此迅速，使得我們?cè)趥鹘y(tǒng)的信息技術(shù)倫理秩序尚未建立完成的情況下，又迫切需要應(yīng)對(duì)更加富有挑戰(zhàn)性的人工智能倫理問(wèn)題，積極構(gòu)建智能社會(huì)的秩序。

計(jì)算機(jī)倫理學(xué)創(chuàng)始人 Moore將倫理智能體分為4 類(lèi)：倫理影響智能體（對(duì)社會(huì)和環(huán)境產(chǎn)生倫理影響）；隱式倫理智能體（通過(guò)特定軟硬件內(nèi)置安全等隱含的倫理設(shè)計(jì)）；顯示倫理智能體（能根據(jù)情勢(shì)的變化及其對(duì)倫理規(guī)范的理解采取合理行動(dòng)）；完全倫理智能體（像人一樣具有自由意志并能對(duì)各種情況做出倫理決策）。當(dāng)前人工智能發(fā)展尚處在弱人工智能階段，但也對(duì)社會(huì)和環(huán)境產(chǎn)生了一定的倫理影響。人們正在探索為人工智能內(nèi)置倫理規(guī)則，以及通過(guò)倫理推理等使人工智能技術(shù)的實(shí)現(xiàn)中也包含有對(duì)倫理規(guī)則的理解。近年來(lái)，越來(lái)越多的人呼吁要賦予人工智能機(jī)器一定的道德主體地位，但機(jī)器能否成為完全倫理智能體存在巨大的爭(zhēng)議。盡管當(dāng)前人工智能在一些場(chǎng)景下的功能或行為與人類(lèi)接近，但實(shí)則并不具有“自由意志”。從經(jīng)典社會(huì)規(guī)范理論來(lái)看，是否能夠成為規(guī)范意義上的“主體”來(lái)承擔(dān)責(zé)任，并不取決于其功能，而是以“自由意志”為核心來(lái)構(gòu)建的。黑格爾的《法哲學(xué)原理》即以自由意志為起點(diǎn)展開(kāi)。因此，當(dāng)前階段對(duì)人工智能倫理問(wèn)題的分析和解決路徑構(gòu)建應(yīng)主要圍繞著前3 類(lèi)倫理智能體開(kāi)展，即將人工智能定性為工具而非主體。

當(dāng)前階段，人工智能既承繼了之前信息技術(shù)的倫理問(wèn)題，又因?yàn)樯疃葘W(xué)習(xí)等一些人工智能算法的不透明性、難解釋性、自適應(yīng)性、運(yùn)用廣泛等特征而具有新的特點(diǎn)，可能在基本人權(quán)、社會(huì)秩序、國(guó)家安全等諸多方面帶來(lái)一系列倫理風(fēng)險(xiǎn)。例如：人工智能系統(tǒng)的缺陷和價(jià)值設(shè)定問(wèn)題可能帶來(lái)公民生命權(quán)、健康權(quán)的威脅。2018 年，Uber 自動(dòng)駕駛汽車(chē)在美國(guó)亞利桑那州發(fā)生的致命事故并非傳感器出現(xiàn)故障，而是由于 Uber 在設(shè)計(jì)系統(tǒng)時(shí)出于對(duì)乘客舒適度的考慮，對(duì)人工智能算法識(shí)別為樹(shù)葉、塑料袋之類(lèi)的障礙物做出予以忽略的決定。人工智能算法在目標(biāo)示范、算法歧視、訓(xùn)練數(shù)據(jù)中的偏失可能帶來(lái)或擴(kuò)大社會(huì)中的歧視，侵害公民的平等權(quán)。人工智能的濫用可能威脅公民隱私權(quán)、個(gè)人信息權(quán)。深度學(xué)習(xí)等復(fù)雜的人工智能算法會(huì)導(dǎo)致算法黑箱問(wèn)題，使決策不透明或難以解釋?zhuān)瑥亩绊懝裰闄?quán)、程序正當(dāng)及公民監(jiān)督權(quán)。信息精準(zhǔn)推送、自動(dòng)化假新聞撰寫(xiě)和智能化定向傳播、深度偽造等人工智能技術(shù)的濫用和誤用可能導(dǎo)致信息繭房、虛假信息泛濫等問(wèn)題，以及可能影響人們對(duì)重要新聞的獲取和對(duì)公共議題的民主參與度；虛假新聞的精準(zhǔn)推送還可能加大影響人們對(duì)事實(shí)的認(rèn)識(shí)和觀(guān)點(diǎn)，進(jìn)而可能煽動(dòng)民意、操縱商業(yè)市場(chǎng)和影響政治及國(guó)家政策。劍橋分析公司利用 Facebook 上的數(shù)據(jù)對(duì)用戶(hù)進(jìn)行政治偏好分析，并據(jù)此進(jìn)行定向信息推送來(lái)影響美國(guó)大選，這就是典型實(shí)例。人工智能算法可能在更不易于被察覺(jué)和證明的情況下，利用算法歧視，或通過(guò)算法合謀形成橫向壟斷協(xié)議或軸輻協(xié)議等方式，破壞市場(chǎng)競(jìng)爭(zhēng)環(huán)境。算法決策在社會(huì)各領(lǐng)域的運(yùn)用可能引起權(quán)力結(jié)構(gòu)的變化，算法憑借其可以處理海量數(shù)據(jù)的技術(shù)優(yōu)勢(shì)和無(wú)所不在的信息系統(tǒng)中的嵌入優(yōu)勢(shì)，對(duì)人們的權(quán)益和自由產(chǎn)生顯著影響。例如，銀行信貸中通過(guò)算法進(jìn)行信用評(píng)價(jià)將影響公民是否能獲得貸款，刑事司法中通過(guò)算法進(jìn)行社會(huì)危害性評(píng)估將影響是否進(jìn)行審前羈押等，都是突出的體現(xiàn)。人工智能在工作場(chǎng)景中的濫用可能影響勞動(dòng)者權(quán)益，并且人工智能對(duì)勞動(dòng)者的替代可能引發(fā)大規(guī)模結(jié)構(gòu)性失業(yè)的危機(jī)，帶來(lái)勞動(dòng)權(quán)或就業(yè)機(jī)會(huì)方面的風(fēng)險(xiǎn)。由于人工智能在社會(huì)生產(chǎn)生活的各個(gè)環(huán)節(jié)日益廣泛應(yīng)用，人工智能系統(tǒng)的漏洞、設(shè)計(jì)缺陷等安全風(fēng)險(xiǎn)，可能引發(fā)個(gè)人信息等數(shù)據(jù)泄露、工業(yè)生產(chǎn)線(xiàn)停止、交通癱瘓等社會(huì)問(wèn)題，威脅金融安全、社會(huì)安全和國(guó)家安全等。人工智能武器的濫用可能在世界范圍內(nèi)加劇不平等，威脅人類(lèi)生命與世界和平……

人工智能倫理風(fēng)險(xiǎn)治理具有復(fù)雜性，尚未形成完善的理論架構(gòu)和治理體系。人工智能倫理風(fēng)險(xiǎn)的成因具有多元性，包括人工智能算法的目標(biāo)失范、算法及系統(tǒng)缺陷、受影響主體對(duì)人工智能的信任危機(jī)、監(jiān)管機(jī)制和工具欠缺、責(zé)任機(jī)制不完善、受影響主體的防御措施薄弱等。人工智能技術(shù)和產(chǎn)業(yè)應(yīng)用的飛速發(fā)展，難以充分刻畫(huà)和分析其倫理風(fēng)險(xiǎn)及提供解決方案。這要求我們必須克服傳統(tǒng)規(guī)范體系的滯后性，而采用“面向未來(lái)”的眼光和方法論，對(duì)人工智能的設(shè)計(jì)、研發(fā)、應(yīng)用和使用中的規(guī)范框架進(jìn)行積極思考和構(gòu)建，并從確立倫理準(zhǔn)則等軟法開(kāi)始，引領(lǐng)和規(guī)范人工智能研發(fā)應(yīng)用。

關(guān)于人工智能的發(fā)展，我們既不能盲目樂(lè)觀(guān)，也不能因噎廢食，要深刻認(rèn)識(shí)到它可以增加社會(huì)福祉的能力。因此，在人類(lèi)社會(huì)步入智能時(shí)代之際，必須趁早從宏觀(guān)上引導(dǎo)人工智能沿著科學(xué)的道路前行，對(duì)它進(jìn)行倫理反思，識(shí)別其中的倫理風(fēng)險(xiǎn)及其成因，逐步構(gòu)建科學(xué)有效的治理體系，使其更好地發(fā)揮積極價(jià)值。 

人工智能倫理準(zhǔn)則、治理原則及進(jìn)路

當(dāng)前全球人工智能治理還處于初期探索階段，正從形成人工智能倫理準(zhǔn)則的基本共識(shí)出發(fā)，向可信評(píng)估、操作指南、行業(yè)標(biāo)準(zhǔn)、政策法規(guī)等落地實(shí)踐逐步深入，并在加快構(gòu)建人工智能?chē)?guó)際治理框架體系。

倫理準(zhǔn)則

近幾年來(lái)，眾多國(guó)家、地區(qū)、國(guó)際和國(guó)內(nèi)組織、企業(yè)均紛紛發(fā)布了人工智能倫理準(zhǔn)則或研究報(bào)告。據(jù)不完全統(tǒng)計(jì)，相關(guān)人工智能倫理準(zhǔn)則已經(jīng)超過(guò)40 項(xiàng)。除文化、地區(qū)、領(lǐng)域等因素引起的差異之外，可以看到目前的人工智能倫理準(zhǔn)則已形成了一定的社會(huì)共識(shí)。

近年來(lái)，中國(guó)相關(guān)機(jī)構(gòu)和行業(yè)組織也非常積極活躍參與其中。例如：2018 年1 月，中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院發(fā)布了《人工智能標(biāo)準(zhǔn)化白皮書(shū)（2018 版）》，提出人類(lèi)利益原則和責(zé)任原則作為人工智能倫理的兩個(gè)基本原則；2019 年5 月，《人工智能北京共識(shí)》發(fā)布，針對(duì)人工智能的研發(fā)、使用、治理?3?個(gè)方面，提出了各個(gè)參與方應(yīng)該遵循的有益于人類(lèi)命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15 條原則；2019 年6 月，國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出了人工智能發(fā)展的8 項(xiàng)原則，勾勒出了人工智能治理的框架和行動(dòng)指南；2019 年7 月，上海市人工智能產(chǎn)業(yè)安全專(zhuān)家咨詢(xún)委員會(huì)發(fā)布了《人工智能安全發(fā)展上海倡議》；2021 年9 月，中關(guān)村論壇上發(fā)布由國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)制定的《新一代人工智能倫理規(guī)范》等。從發(fā)布內(nèi)容上看，所有準(zhǔn)則在以人為本、促進(jìn)創(chuàng)新、保障安全、保護(hù)隱私、明晰責(zé)任等價(jià)值觀(guān)上取得了高度共識(shí)，但仍有待繼續(xù)加深理論研究和論證，進(jìn)一步建立共識(shí)。

治理原則

美國(guó)、歐洲、日本等國(guó)家和地區(qū)在大力推動(dòng)人工智能技術(shù)和產(chǎn)業(yè)發(fā)展的同時(shí)，高度重視人工智能的安全、健康發(fā)展，并將倫理治理納入其人工智能戰(zhàn)略，體現(xiàn)了發(fā)展與倫理安全并重的基本原則。

習(xí)近平總書(shū)記高度重視科技創(chuàng)新領(lǐng)域的法治建設(shè)問(wèn)題，強(qiáng)調(diào)“要積極推進(jìn)國(guó)家安全、科技創(chuàng)新、公共衛(wèi)生、生物安全、生態(tài)文明、防范風(fēng)險(xiǎn)、涉外法治等重要領(lǐng)域立法以良法善治保障新業(yè)態(tài)新模式健康發(fā)展”。近年來(lái)，我國(guó)在應(yīng)對(duì)新技術(shù)新業(yè)態(tài)的規(guī)制和監(jiān)管方面，形成了“包容審慎”的總體政策。這項(xiàng)基本政策在2017 年就已正式提出。在2020 年1月1日起實(shí)施的《優(yōu)化營(yíng)商環(huán)境條例》第55 條中更是專(zhuān)門(mén)規(guī)定了“包容審慎”監(jiān)管原則：“政府及其有關(guān)部門(mén)應(yīng)當(dāng)按照鼓勵(lì)創(chuàng)新的原則，對(duì)新技術(shù)、新產(chǎn)業(yè)、新業(yè)態(tài)、新模式等實(shí)行包容審慎監(jiān)管，針對(duì)其性質(zhì)、特點(diǎn)分類(lèi)制定和實(shí)行相應(yīng)的監(jiān)管規(guī)則和標(biāo)準(zhǔn)，留足發(fā)展空間，同時(shí)確保質(zhì)量和安全，不得簡(jiǎn)單化予以禁止或者不予監(jiān)管。”這為當(dāng)前人工智能倫理治理提供了基本原則和方法論。一方面，要注重觀(guān)察，認(rèn)識(shí)到新技術(shù)新事物往往有其積極的社會(huì)意義，亦有其發(fā)展完善的客觀(guān)規(guī)律，應(yīng)予以一定空間使其能夠發(fā)展完善，并在其發(fā)展中的必要之處形成規(guī)制方法和措施。另一方面，要堅(jiān)守底線(xiàn)，包括公民權(quán)利保護(hù)的底線(xiàn)、安全的底線(xiàn)等。對(duì)于已經(jīng)形成高度社會(huì)共識(shí)、凝結(jié)在法律之中的重要權(quán)益、價(jià)值，在執(zhí)法、司法過(guò)程中都要依法進(jìn)行保護(hù)。這既是法律對(duì)相關(guān)技術(shù)研發(fā)者和使用者的明確要求，也是法律對(duì)于在智能時(shí)代保護(hù)公民權(quán)益、促進(jìn)科技向善的鄭重承諾。

治理進(jìn)路

在人工智能治理整體路徑選擇方面，主要有兩種理論：“對(duì)立論”和“系統(tǒng)論”。

“對(duì)立論”主要著眼于人工智能技術(shù)與人類(lèi)權(quán)利和福祉之間的對(duì)立沖突，進(jìn)而建立相應(yīng)的審查和規(guī)制制度。在這一視角下，一些國(guó)家和機(jī)構(gòu)重點(diǎn)關(guān)注了針對(duì)人工智能系統(tǒng)本身及開(kāi)發(fā)應(yīng)用中的一些倫理原則。例如，2020 年《人工智能倫理羅馬倡議》中提出7 項(xiàng)主要原則——透明、包容、責(zé)任、公正、可靠、安全和隱私，歐盟委員會(huì)于2019 年《可信賴(lài)人工智能的倫理指南》中提出人工智能系統(tǒng)全生命周期應(yīng)遵守合法性、合倫理性和穩(wěn)健性3 項(xiàng)要求，都體現(xiàn)了這一進(jìn)路。

“系統(tǒng)論”則強(qiáng)調(diào)人工智能技術(shù)與人類(lèi)、其他人工代理、法律、非智能基礎(chǔ)設(shè)施和社會(huì)規(guī)范之間的協(xié)調(diào)互動(dòng)關(guān)系。人工智能倫理涉及一種社會(huì)技術(shù)系統(tǒng)，該系統(tǒng)在設(shè)計(jì)時(shí)必須注意其不是一項(xiàng)孤立的技術(shù)對(duì)象，而是需要考慮它將要在怎樣的社會(huì)組織中運(yùn)作。我們可以調(diào)整的不僅僅是人工智能系統(tǒng)，還有在系統(tǒng)中與之相互作用的其他要素；在了解人工智能運(yùn)作特點(diǎn)的基礎(chǔ)上，可以在整個(gè)系統(tǒng)內(nèi)考慮各個(gè)要素如何進(jìn)行最佳調(diào)配治理。當(dāng)前在一些政策和法規(guī)中已有一定“系統(tǒng)論”進(jìn)路的體現(xiàn)。例如，IEEE（電氣與電子工程師協(xié)會(huì)）發(fā)布的《合倫理設(shè)計(jì)》11中提出的8 項(xiàng)原則之一即為“資質(zhì)”（competence），該原則提出系統(tǒng)創(chuàng)建者應(yīng)明確對(duì)操作者的要求，并且操作者應(yīng)遵守安全有效操作所需的知識(shí)和技能的原則，這體現(xiàn)了從對(duì)使用者要求的角度來(lái)彌補(bǔ)人工智能不足的系統(tǒng)論視角，對(duì)智能時(shí)代的教育和培訓(xùn)提出了新需求。我國(guó)國(guó)家新一代人工智能治理專(zhuān)業(yè)委員會(huì)2019 年發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》中，不僅強(qiáng)調(diào)了人工智能系統(tǒng)本身應(yīng)該符合怎樣的倫理原則，而且從更系統(tǒng)的角度提出了“治理原則”，即人工智能發(fā)展相關(guān)各方應(yīng)遵循的8 項(xiàng)原則；除了和諧友好、尊重隱私、安全可控等側(cè)重于人工智能開(kāi)放和應(yīng)用的原則外，還專(zhuān)門(mén)強(qiáng)調(diào)了要“改善管理方式”，“加強(qiáng)人工智能教育及科普，提升弱勢(shì)群體適應(yīng)性，努力消除數(shù)字鴻溝”，“推動(dòng)國(guó)際組織、政府部門(mén)、科研機(jī)構(gòu)、教育機(jī)構(gòu)、企業(yè)、社會(huì)組織、公眾在人工智能發(fā)展與治理中的協(xié)調(diào)互動(dòng)”等重要原則，體現(xiàn)出包含教育改革、倫理規(guī)范、技術(shù)支撐、法律規(guī)制、國(guó)際合作等多維度治理的“系統(tǒng)論”思維和多元共治的思想，提供了更加綜合的人工智能治理框架和行動(dòng)指南。基于人工智能治理的特殊性和復(fù)雜性，我國(guó)應(yīng)在習(xí)近平總書(shū)記提出的“打造共建共治共享的社會(huì)治理格局”的指導(dǎo)下，系統(tǒng)性地思考人工智能的治理維度，建設(shè)多元共治的人工智能綜合治理體系。

我國(guó)人工智能倫理治理對(duì)策

人工智能倫理治理是社會(huì)治理的重要組成部分。我國(guó)應(yīng)在“共建共治共享”治理理論的指導(dǎo)下，以“包容審慎”為監(jiān)管原則，以“系統(tǒng)論”為治理進(jìn)路，逐漸建設(shè)形成多元主體參與、多維度、綜合性的治理體系。

教育改革

教育是人類(lèi)知識(shí)代際傳遞和能力培養(yǎng)的重要途徑。通過(guò)國(guó)務(wù)院、教育部出臺(tái)的多項(xiàng)措施，以及聯(lián)合國(guó)教科文組織發(fā)布的《教育中的人工智能：可持續(xù)發(fā)展的機(jī)遇與挑戰(zhàn)》、《人工智能與教育的北京共識(shí)》13等報(bào)告可以看到，國(guó)內(nèi)外均開(kāi)始重視教育的發(fā)展改革在人工智能技術(shù)發(fā)展和應(yīng)用中有著不可或缺的作用。為更好地支撐人工智能發(fā)展和治理，應(yīng)從4 個(gè)方面進(jìn)行完善：普及人工智能等前沿技術(shù)知識(shí)，提高公眾認(rèn)知，使公眾理性對(duì)待人工智能；在科技工作者中加強(qiáng)人工智能倫理教育和職業(yè)倫理培訓(xùn)；為勞動(dòng)者提供持續(xù)的終身教育體系，應(yīng)對(duì)人工智能可能引發(fā)的失業(yè)問(wèn)題；研究青少年教育變革，打破工業(yè)化時(shí)代傳承下來(lái)的知識(shí)化教育的局限性，回應(yīng)人工智能時(shí)代對(duì)人才的需求。

倫理規(guī)范

我國(guó)《新一代人工智能發(fā)展規(guī)劃》中提到，“開(kāi)展人工智能行為科學(xué)和倫理等問(wèn)題研究，建立倫理道德多層次判斷結(jié)構(gòu)及人機(jī)協(xié)作的倫理框架”。同時(shí)，還需制定人工智能產(chǎn)品研發(fā)設(shè)計(jì)人員及日后使用人員的道德規(guī)范和行為守則，從源頭到下游進(jìn)行約束和引導(dǎo)。當(dāng)前有5 項(xiàng)重點(diǎn)工作可以開(kāi)展：針對(duì)人工智能的重點(diǎn)領(lǐng)域，研究細(xì)化的倫理準(zhǔn)則，形成具有可操作性的規(guī)范和建議。在宣傳教育層面進(jìn)行適當(dāng)引導(dǎo)，進(jìn)一步推動(dòng)人工智能倫理共識(shí)的形成。推動(dòng)科研機(jī)構(gòu)和企業(yè)對(duì)人工智能倫理風(fēng)險(xiǎn)的認(rèn)知和實(shí)踐。充分發(fā)揮國(guó)家層面?zhèn)惱砦瘑T會(huì)的作用，通過(guò)制定國(guó)家層面的人工智能倫理準(zhǔn)則和推進(jìn)計(jì)劃，定期針對(duì)新業(yè)態(tài)、新應(yīng)用評(píng)估倫理風(fēng)險(xiǎn)，以及定期評(píng)選人工智能行業(yè)最佳實(shí)踐等多種方式，促進(jìn)先進(jìn)倫理風(fēng)險(xiǎn)評(píng)估控制經(jīng)驗(yàn)的推廣。推動(dòng)人工智能科研院所和企業(yè)建立倫理委員會(huì)，領(lǐng)導(dǎo)人工智能倫理風(fēng)險(xiǎn)評(píng)估、監(jiān)控和實(shí)時(shí)應(yīng)對(duì)，使人工智能倫理考量貫穿在人工智能設(shè)計(jì)、研發(fā)和應(yīng)用的全流程之中。

技術(shù)支撐

通過(guò)改進(jìn)技術(shù)而降低倫理風(fēng)險(xiǎn)，是人工智能倫理治理的重要維度。當(dāng)前，在科研、市場(chǎng)、法律等驅(qū)動(dòng)下，許多科研機(jī)構(gòu)和企業(yè)均開(kāi)展了聯(lián)邦學(xué)習(xí)、隱私計(jì)算等活動(dòng)，以更好地保護(hù)個(gè)人隱私的技術(shù)研發(fā)；同時(shí)，對(duì)加強(qiáng)安全性、可解釋性、公平性的人工智能算法，以及數(shù)據(jù)集異常檢測(cè)、訓(xùn)練樣本評(píng)估等技術(shù)研究，也提出了很多不同領(lǐng)域的倫理智能體的模型結(jié)構(gòu)。當(dāng)然，還應(yīng)完善專(zhuān)利制度，明確算法相關(guān)發(fā)明的可專(zhuān)利性，進(jìn)一步激勵(lì)技術(shù)創(chuàng)新，以支撐符合倫理要求的人工智能系統(tǒng)設(shè)計(jì)。

此外，一些重點(diǎn)領(lǐng)域的推薦性標(biāo)準(zhǔn)制定工作也不容忽視。在人工智能標(biāo)準(zhǔn)制定中，應(yīng)強(qiáng)化對(duì)人工智能倫理準(zhǔn)則的貫徹和支撐，注重對(duì)隱私保護(hù)、安全性、可用性、可解釋性、可追溯性、可問(wèn)責(zé)性、評(píng)估和監(jiān)管支撐技術(shù)等方面的標(biāo)準(zhǔn)制定，鼓勵(lì)企業(yè)提出和公布自己的企業(yè)標(biāo)準(zhǔn)，并積極參與相關(guān)國(guó)際標(biāo)準(zhǔn)的建立，促進(jìn)我國(guó)相關(guān)專(zhuān)利技術(shù)納入國(guó)際標(biāo)準(zhǔn)，幫助我國(guó)在國(guó)際人工智能倫理準(zhǔn)則及相關(guān)標(biāo)準(zhǔn)制定中提升話(huà)語(yǔ)權(quán)，并為我國(guó)企業(yè)在國(guó)際競(jìng)爭(zhēng)中奠定更好的競(jìng)爭(zhēng)優(yōu)勢(shì)。

法律規(guī)制

法律規(guī)制層面需要逐步發(fā)展數(shù)字人權(quán)、明晰責(zé)任分配、建立監(jiān)管體系、實(shí)現(xiàn)法治與技術(shù)治理有機(jī)結(jié)合。在當(dāng)前階段，應(yīng)積極推動(dòng)《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全法》的有效實(shí)施，開(kāi)展自動(dòng)駕駛領(lǐng)域的立法工作；并對(duì)重點(diǎn)領(lǐng)域的算法監(jiān)管制度加強(qiáng)研究，區(qū)分不同的場(chǎng)景，探討人工智能倫理風(fēng)險(xiǎn)評(píng)估、算法審計(jì)、數(shù)據(jù)集缺陷檢測(cè)、算法認(rèn)證等措施適用的必要性和前提條件，為下一步的立法做好理論和制度建議準(zhǔn)備。

國(guó)際合作

當(dāng)前，人類(lèi)社會(huì)正步入智能時(shí)代，世界范圍內(nèi)人工智能領(lǐng)域的規(guī)則秩序正處于形成期。歐盟聚焦于人工智能價(jià)值觀(guān)進(jìn)行了許多研究，期望通過(guò)立法等方式，將歐洲的人權(quán)傳統(tǒng)轉(zhuǎn)化為其在人工智能發(fā)展中的新優(yōu)勢(shì)。美國(guó)對(duì)人工智能標(biāo)準(zhǔn)也尤為重視，特朗普于2019 年2 月發(fā)布“美國(guó)人工智能計(jì)劃”行政令，要求白宮科技政策辦公室（OSTP）和美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）等政府機(jī)構(gòu)制定標(biāo)準(zhǔn)，指導(dǎo)開(kāi)發(fā)可靠、穩(wěn)健、可信、安全、簡(jiǎn)潔和可協(xié)作的人工智能系統(tǒng)，并呼吁主導(dǎo)國(guó)際人工智能標(biāo)準(zhǔn)的制定。

我國(guó)在人工智能科技領(lǐng)域處于世界前列，需要更加積極主動(dòng)地應(yīng)對(duì)人工智能倫理問(wèn)題帶來(lái)的挑戰(zhàn)，在人工智能發(fā)展中承擔(dān)相應(yīng)的倫理責(zé)任；積極開(kāi)展國(guó)際交流，參與相關(guān)國(guó)際管理政策及標(biāo)準(zhǔn)的制定，把握科技發(fā)展話(huà)語(yǔ)權(quán)；在最具代表性和突破性的科技力量中占據(jù)發(fā)展的制高點(diǎn)，為實(shí)現(xiàn)人工智能的全球治理作出積極貢獻(xiàn)。

（作者：張兆翔、譚鐵牛，中國(guó)科學(xué)院自動(dòng)化研究所；張吉豫 中國(guó)人民大學(xué)法學(xué)院；《中國(guó)科學(xué)院院刊》供稿）

相關(guān)文章