數(shù)字化轉(zhuǎn)型讓人類(lèi)世界所依賴(lài)的各種機(jī)器開(kāi)始變得智能，然而它們被數(shù)據(jù)和算法所驅(qū)動(dòng)，正在引發(fā)諸多事前難以預(yù)判預(yù)知的法律、道德、倫理等新問(wèn)題。建議重視數(shù)字科技倫理建設(shè)，秉持“科技向善”理念，構(gòu)建面向數(shù)據(jù)和算法的新規(guī)則，加強(qiáng)數(shù)字科技倫理教育，強(qiáng)化行業(yè)自律，使其最大程度造福人類(lèi)。

 

　　新一代數(shù)字技術(shù)廣泛應(yīng)用挑戰(zhàn)現(xiàn)有道德倫理

 

　　數(shù)字技術(shù)應(yīng)用帶來(lái)個(gè)人數(shù)據(jù)保護(hù)挑戰(zhàn)。當(dāng)前，各類(lèi)移動(dòng)應(yīng)用程序（APP）實(shí)時(shí)記錄著人們的地理位置、聯(lián)系人、瀏覽行為等；人類(lèi)生物特征信息如人臉、視網(wǎng)膜、語(yǔ)音等也正在被各種數(shù)字技術(shù)所采集。盡管企業(yè)數(shù)據(jù)采集、分析、存儲(chǔ)、流轉(zhuǎn)采取了匿名化、加密化等預(yù)防舉措，但在大數(shù)據(jù)分析系統(tǒng)面前，個(gè)體變得越發(fā)透明。這些與個(gè)人緊密相關(guān)的數(shù)據(jù)一旦泄露或被濫用，將嚴(yán)重影響個(gè)人生活乃至國(guó)家政治。此外，不法分子還可能利用數(shù)字技術(shù)非法竊取、識(shí)別個(gè)人信息，實(shí)施網(wǎng)絡(luò)詐騙、竊取錢(qián)財(cái)甚至危及人身安全等犯罪活動(dòng)。加強(qiáng)個(gè)人數(shù)據(jù)和隱私保護(hù)已成為亟須回應(yīng)的優(yōu)先事項(xiàng)。

 

　　算法的公平性和無(wú)歧視性不容忽視。算法是數(shù)字技術(shù)應(yīng)用的根基。伴隨著算法自主決策性能的日漸提高，人工智能技術(shù)已廣泛應(yīng)用于個(gè)性化內(nèi)容推薦、精準(zhǔn)廣告投放、信貸風(fēng)險(xiǎn)評(píng)估、投資決策顧問(wèn)、勞動(dòng)雇用篩查、司法審判、汽車(chē)駕駛等眾多領(lǐng)域。然而，算法不當(dāng)則可能會(huì)在有意或無(wú)意之間，導(dǎo)致歧視或不公，如個(gè)性化推薦算法應(yīng)用于數(shù)字內(nèi)容的分發(fā)，可能影響公眾認(rèn)知、固化思維和強(qiáng)化社會(huì)偏見(jiàn)等。隨著算法決策越來(lái)越多地應(yīng)用于各種社會(huì)場(chǎng)景，類(lèi)似的潛在影響開(kāi)始備受關(guān)注，如近年來(lái)圍繞信息繭房、大數(shù)據(jù)殺熟等事件的輿論熱點(diǎn)，充分體現(xiàn)出人們對(duì)算法公平、對(duì)訓(xùn)練人工智能系統(tǒng)的數(shù)據(jù)樣本是否有代表性的擔(dān)憂(yōu)。

 

　　人工智能的價(jià)值判斷觸及人類(lèi)倫理規(guī)范。人工智能系統(tǒng)以理性代理人的身份進(jìn)入人類(lèi)社會(huì)，必然要遵守人類(lèi)社會(huì)的法律規(guī)范和道德倫理，做出合法合道德的行為。但是，人工智能系統(tǒng)是研發(fā)人員主觀(guān)設(shè)計(jì)的產(chǎn)物，這一問(wèn)題最終要回歸到人工智能設(shè)計(jì)和研發(fā)過(guò)程中的倫理審查問(wèn)題。一方面，要以一種技術(shù)上可行的方式將各種價(jià)值判斷和倫理規(guī)范編碼化，植入人工智能系統(tǒng)，使系統(tǒng)做出合乎人類(lèi)價(jià)值觀(guān)的行為；另一方面，要極力避免研發(fā)人員在人工智能系統(tǒng)研發(fā)過(guò)程中，將其主觀(guān)偏見(jiàn)、好惡、歧視等價(jià)值判斷植入人工智能系統(tǒng)。此外，人工智能系統(tǒng)還涉及“兩難決策”問(wèn)題，如自動(dòng)駕駛汽車(chē)在遭遇突發(fā)危險(xiǎn)狀況時(shí)，“犧牲誰(shuí)、拯救誰(shuí)”因開(kāi)發(fā)者個(gè)體價(jià)值的不同而備受爭(zhēng)議。

 

　　人工智能應(yīng)用帶來(lái)安全和法律責(zé)任分擔(dān)挑戰(zhàn)。人工智能技術(shù)已廣泛應(yīng)用到機(jī)器人、無(wú)人機(jī)、智能診療、智能投顧等領(lǐng)域，由此還帶來(lái)了生產(chǎn)安全、人身安全、財(cái)產(chǎn)安全等新問(wèn)題。一旦出現(xiàn)意外事故，現(xiàn)行制度可能就難以給予有效回應(yīng)，例如自動(dòng)駕駛汽車(chē)出現(xiàn)致命事故時(shí)、智能診療系統(tǒng)給出“不安全”的治療建議時(shí)，人工智能算法的不透明、不可理解、不可解釋等特征，就會(huì)給責(zé)任的確定和分配帶來(lái)眾多分歧，從而讓被侵權(quán)人難以得到應(yīng)有的公正彌補(bǔ)。面對(duì)可預(yù)期的法律責(zé)任挑戰(zhàn)，侵權(quán)法、合同法等法律規(guī)則的局限性和不完備性逐漸顯現(xiàn)。

 

　　我國(guó)政府和產(chǎn)業(yè)界的實(shí)踐與探索

 

　　全球主要國(guó)家在制定國(guó)家數(shù)字化轉(zhuǎn)型戰(zhàn)略時(shí)，紛紛將人工智能倫理和道德規(guī)范等相關(guān)內(nèi)容作為重點(diǎn)組成部分。近年來(lái)，我國(guó)政府和產(chǎn)業(yè)界重點(diǎn)圍繞新一代人工智能開(kāi)始就道德倫理問(wèn)題進(jìn)行研究和探索。

 

　　一是開(kāi)始制定促進(jìn)人工智能發(fā)展的法律法規(guī)和倫理規(guī)范。在2017年出臺(tái)的《新一代人工智能發(fā)展規(guī)劃》中，我國(guó)已認(rèn)識(shí)到人工智能發(fā)展的不確定性可能會(huì)沖擊法律與社會(huì)倫理、侵犯?jìng)€(gè)人隱私、挑戰(zhàn)國(guó)際關(guān)系準(zhǔn)則，并要求必須高度重視可能帶來(lái)的安全風(fēng)險(xiǎn)挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險(xiǎn)，確保人工智能安全、可靠、可控發(fā)展。規(guī)劃提出，到2025年初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系。在立法方面，全國(guó)人大常委會(huì)已將與人工智能應(yīng)用密切相關(guān)的立法項(xiàng)目如個(gè)人信息保護(hù)法、修改科學(xué)技術(shù)進(jìn)步法等列入立法規(guī)劃，努力為人工智能的創(chuàng)新發(fā)展提供有力的法治保障。

 

　　二是科技行業(yè)日益重視科技倫理和數(shù)據(jù)治理。遵從科技倫理是創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略和建設(shè)數(shù)字中國(guó)的重要保障，也是數(shù)字時(shí)代商業(yè)競(jìng)爭(zhēng)的基本要求。2019年國(guó)內(nèi)高校、科研院所和產(chǎn)業(yè)聯(lián)盟發(fā)布《人工智能北京共識(shí)》針對(duì)人工智能的研發(fā)、使用、治理三方面，提出了各個(gè)參與方應(yīng)該遵循的有益于人類(lèi)命運(yùn)共同體構(gòu)建和社會(huì)發(fā)展的15條原則。騰訊等科技公司積極倡導(dǎo)“科技向善”“負(fù)責(zé)任創(chuàng)新”“創(chuàng)新與倫理并重”等理念，提出人工智能“四可”理念，即可用、可靠、可知、可控，確保人類(lèi)與機(jī)器之間友好、和諧的關(guān)系，最大化地促進(jìn)人類(lèi)的發(fā)展。百度公司也提出希望政府組織各方力量，開(kāi)展人工智能倫理的研究和頂層設(shè)計(jì)，推進(jìn)行業(yè)健康發(fā)展。產(chǎn)業(yè)界的探索為構(gòu)建面向數(shù)據(jù)和算法的新規(guī)則提供了鮮活實(shí)踐。

 

　　同時(shí)，也要看到，目前的人工智能技術(shù)雖處在發(fā)展初期，但已經(jīng)引發(fā)了各種各樣的倫理沖突和道德難題。與技術(shù)的快速進(jìn)步相比，我們對(duì)于人工智能與人類(lèi)的關(guān)系認(rèn)識(shí)尚不系統(tǒng)，對(duì)于人工智能發(fā)展的潛在風(fēng)險(xiǎn)缺乏足夠研判和防范，對(duì)于人工智能相關(guān)法律、倫理、道德、社會(huì)問(wèn)題的研究也沒(méi)有形成體系化應(yīng)對(duì)方案。產(chǎn)業(yè)界在人工智能產(chǎn)品研發(fā)、防止產(chǎn)品濫用、防范用戶(hù)沉溺等方面，尚在自行探索，還缺乏共識(shí)或可供遵循的倫理準(zhǔn)則。

 

　　加強(qiáng)科技倫理建設(shè)、踐行科技向善理念的政策建議

 

　　人工智能倫理與規(guī)范是未來(lái)智慧社會(huì)的發(fā)展基石。應(yīng)積極倡導(dǎo)“科技向善”理念，加快構(gòu)建數(shù)據(jù)和算法新規(guī)則，防范新技術(shù)潛在風(fēng)險(xiǎn)，加強(qiáng)科技倫理教育，強(qiáng)化行業(yè)自律，應(yīng)對(duì)數(shù)字技術(shù)應(yīng)用可能引發(fā)的道德倫理危機(jī)，讓人工智能安全、可靠、可控。

 

　　一是制定人工智能相關(guān)的倫理準(zhǔn)則與指南。最近幾年來(lái)，國(guó)際社會(huì)在人工智能、自動(dòng)駕駛等領(lǐng)域的倫理準(zhǔn)則和指南方面，已經(jīng)做了大量的有益探索。面對(duì)新技術(shù)發(fā)展的不確定性，可借鑒國(guó)際經(jīng)驗(yàn)，進(jìn)一步加強(qiáng)對(duì)科技倫理的重視程度，通過(guò)預(yù)警性思考、廣泛的社會(huì)參與和多學(xué)科評(píng)估來(lái)充分討論可能存在的風(fēng)險(xiǎn)和危害，盡快建立人工智能研發(fā)與應(yīng)用的倫理共識(shí)或框架，規(guī)范新技術(shù)研發(fā)應(yīng)用，維護(hù)、促進(jìn)數(shù)字信任，讓大數(shù)據(jù)、人工智能等數(shù)字技術(shù)最大程度地造福于人類(lèi)。

 

　　二是充分發(fā)揮科技倫理的行業(yè)自律作用。科技企業(yè)對(duì)人工智能產(chǎn)品的內(nèi)在運(yùn)行機(jī)理了解比較深入，對(duì)其應(yīng)用的場(chǎng)景及潛在的倫理規(guī)范問(wèn)題也更為清楚?？赏ㄟ^(guò)倫理審查、自律組織、行業(yè)標(biāo)準(zhǔn)、最佳實(shí)踐、技術(shù)指南等方式來(lái)支持和促進(jìn)行業(yè)自律，避免算法共謀或?qū)⑷藶樨?zé)任推脫給算法的行為，以確?？萍及l(fā)展應(yīng)用的正確方向。鼓勵(lì)企業(yè)在人工智能系統(tǒng)研制階段開(kāi)展風(fēng)險(xiǎn)自評(píng)估，推廣應(yīng)用前開(kāi)展風(fēng)險(xiǎn)自測(cè)試，盡力減少倫理風(fēng)險(xiǎn)或潛在的糾紛沖突。

 

　　三是加快完善大數(shù)據(jù)、人工智能領(lǐng)域的法律規(guī)則。優(yōu)先為自動(dòng)駕駛、無(wú)人機(jī)、醫(yī)療診斷、自主智能機(jī)器人等領(lǐng)域的應(yīng)用探索制定恰當(dāng)合理的規(guī)則，建立新的監(jiān)管框架。圍繞算法歧視、人工智能的法律責(zé)任、個(gè)性化推薦算法的影響、人工智能技術(shù)濫用、人工智能智力成果的知識(shí)產(chǎn)權(quán)保護(hù)等，加強(qiáng)前瞻性研究。堅(jiān)持促進(jìn)數(shù)據(jù)利用與保障安全并重，建立數(shù)據(jù)收集、利用的基本規(guī)則，加強(qiáng)數(shù)據(jù)保護(hù)，增強(qiáng)算法透明，防范并打擊數(shù)據(jù)濫用行為。

 

　　四是支持針對(duì)新技術(shù)的跨學(xué)科研究。人工智能技術(shù)的社會(huì)影響是深遠(yuǎn)的、全方位的，要充分認(rèn)識(shí)到數(shù)字技術(shù)應(yīng)用及其對(duì)未來(lái)社會(huì)的風(fēng)險(xiǎn)和挑戰(zhàn)，不可能單單靠技術(shù)手段就能夠解決。建議大力支持、鼓勵(lì)和引導(dǎo)新技術(shù)的社會(huì)學(xué)和跨學(xué)科研究，從國(guó)家安全、社會(huì)治理、就業(yè)結(jié)構(gòu)、法律制度、道德倫理等多個(gè)維度制定切實(shí)合理可行的應(yīng)對(duì)措施。

 

　　五是加強(qiáng)對(duì)數(shù)字科技倫理的教育，鼓勵(lì)全社會(huì)踐行科技向善。搭建數(shù)字科技創(chuàng)新與倫理之間的高效對(duì)話(huà)機(jī)制和溝通平臺(tái)，加強(qiáng)新技術(shù)領(lǐng)域的科普工作和輿論引導(dǎo)，消解并避免制造公眾焦慮，為新技術(shù)發(fā)展?fàn)I造理性的社會(huì)氛圍。制定并在教育培訓(xùn)體系中積極落實(shí)全民數(shù)字素養(yǎng)和數(shù)字倫理培訓(xùn)計(jì)劃，鼓勵(lì)全社會(huì)踐行科技向善理念，嚴(yán)守科技倫理底線(xiàn)，充分發(fā)掘新技術(shù)巨大的“向善”潛力，促進(jìn)經(jīng)濟(jì)和社會(huì)可持續(xù)地發(fā)展進(jìn)步。（曹建峰，騰訊研究院研究員；馬源，國(guó)務(wù)院發(fā)展研究中心企業(yè)研究所研究室主任、研究員）