當(dāng)人工智能越來越多地滲透到我們?nèi)粘Ｉ钪械姆椒矫婷?，人類社?huì)在加速邁向智能化、數(shù)字化的同時(shí)，科技倫理問題也接踵而來。從AlphaGo擊敗人類圍棋世界冠軍，到人臉識(shí)別帶來隱私安全問題，再到特斯拉自動(dòng)駕駛事故頻發(fā)問責(zé)難，以及虛擬人大熱引起職場(chǎng)焦慮，不少學(xué)者都表達(dá)了對(duì)倫理治理問題的擔(dān)憂。

近日，中共中央辦公廳、國務(wù)院辦公廳印發(fā)的《關(guān)于加強(qiáng)科技倫理治理的意見》(以下簡稱“意見”)指出，重點(diǎn)加強(qiáng)生命科學(xué)、醫(yī)學(xué)、人工智能等領(lǐng)域的科技倫理立法研究。這是我國發(fā)布的首個(gè)國家層面科技倫理治理指導(dǎo)性文件，為新興技術(shù)倫理治理設(shè)置了“紅綠燈”。

人工智能的真正價(jià)值不是取代人

“祝賀‘崔筱盼’獲得2021年萬科總部最佳新人獎(jiǎng)!作為萬科首位數(shù)字化員工，‘崔筱盼’今年2月1日正式‘入職’......她催辦的預(yù)付應(yīng)收逾期單據(jù)核銷率達(dá)到91.44%。”今年年初，萬科集團(tuán)董事會(huì)主席郁亮發(fā)布的一條微信在朋友圈刷屏。據(jù)悉，這位名叫“崔筱盼”的虛擬人已經(jīng)工作多日，而不少萬科員工甚至不知道天天與其郵件往來的同事并不是真人，直到“最佳新人獎(jiǎng)”揭曉，一切才真相大白。

伴隨人工智能技術(shù)的飛速發(fā)展，虛擬人快步走向商業(yè)化落地。而眼看著一個(gè)個(gè)身懷絕技的虛擬人走進(jìn)職場(chǎng)，“打工人”愈發(fā)擔(dān)心自己的“飯碗”會(huì)不會(huì)被搶走。要知道這些虛擬人可不止能做到“996”，還能“007”，甚至可以全年無休，連工資都不用給。

然而，正如硬幣的兩面，人工智能的出現(xiàn)也填補(bǔ)了一些高危崗位的空缺，比如作業(yè)環(huán)境有毒有害或危險(xiǎn)性較高的工作，抑或是需要長期遠(yuǎn)離市區(qū)的工作，人工智能對(duì)人力資源起到了很好的補(bǔ)充作用。這一方面，幫助很多企業(yè)解決了“用工難”問題;另一方面，在日趨嚴(yán)重的老齡化趨勢(shì)下，有效緩解了勞動(dòng)力短缺現(xiàn)象。

作為太空探索技術(shù)公司(SpaceX)CEO兼CTO、特斯拉公司CEO，馬斯克對(duì)待人工智能的態(tài)度是復(fù)雜的。他一邊警告說人工智能“脫軌”發(fā)展是人類當(dāng)前面臨的三大威脅之一，要避免徹底開發(fā)人工智能;另一邊又在積極開發(fā)與人友好的人工智能，通過腦機(jī)接口技術(shù)尋求人類和人工智能共生之道，其麾下公司也幾乎都與人工智能相關(guān)。

“人工智能倫理之爭探討的是人機(jī)關(guān)系，更重要的是以人工智能為媒介，人與人之間的關(guān)系。”中國社科院科學(xué)技術(shù)和社會(huì)研究中心主任段偉文對(duì)《中國電子報(bào)》記者說：“目前，人工智能倫理治理主要涉及四大難點(diǎn)：一是可控性和安全性;二是可靠性、精確性和穩(wěn)定性;三是可解釋性和透明度;四是問責(zé)追責(zé)問題。”在他看來，機(jī)器智能發(fā)展的每一步都是在學(xué)習(xí)人類智能，離不開人類智能的幫助，實(shí)際上是人類智能更智能、更智慧，而不是機(jī)器智能。

“人工智能的真正價(jià)值不是取代人，而是以人為本、造福于人。人工智能技術(shù)和倫理之間的關(guān)系，也不是此消彼長或者你強(qiáng)我弱的關(guān)系，而是相輔相成的。”曠視人工智能治理研究院院長張慧在接受《中國電子報(bào)》記者采訪時(shí)表示，“其實(shí)對(duì)于任何技術(shù)來說，都不能脫離開法律法規(guī)、社會(huì)道德、行業(yè)規(guī)范等約束條件無序發(fā)展。在這一點(diǎn)上，人工智能也不例外。在合法合規(guī)、合情合理的框架下，人工智能只會(huì)發(fā)展地更好、更健康。”

全球人工智能倫理治理趨向同頻

目前，全球至少已有60多個(gè)國家制定和實(shí)施了人工智能治理政策，可見世界范圍內(nèi)人工智能領(lǐng)域的規(guī)則秩序正處于形成期，倫理治理發(fā)展趨于同頻。段偉文指出：“國外關(guān)于機(jī)器人的倫理治理應(yīng)該是最為成熟的，像英國、新加坡、歐盟等都有相關(guān)倫理設(shè)計(jì)規(guī)范。”比如英國出臺(tái)了歷史上首個(gè)關(guān)于機(jī)器人倫理的設(shè)計(jì)標(biāo)準(zhǔn)——《機(jī)器人和機(jī)器系統(tǒng)的倫理設(shè)計(jì)和應(yīng)用指南》。英國金融穩(wěn)定委員會(huì)(FBS)制定了人工智能和機(jī)器學(xué)習(xí)在金融服務(wù)領(lǐng)域的應(yīng)用規(guī)范，強(qiáng)調(diào)可靠性問責(zé)制、透明度、公平性以及道德標(biāo)準(zhǔn)等。

美國希望能夠確保和增強(qiáng)在人工智能領(lǐng)域的優(yōu)勢(shì)地位，因此更強(qiáng)調(diào)監(jiān)管的科學(xué)性和靈活性，也更重視實(shí)際應(yīng)用領(lǐng)域的科技倫理治理，比如對(duì)大規(guī)模的生物特征識(shí)別技術(shù)的使用管理嚴(yán)格。美國證券與交易委員會(huì)(SEC)要求企業(yè)刪除一些人臉數(shù)據(jù)庫，甚至包括相關(guān)算法。

歐盟的監(jiān)管風(fēng)格則趨向于強(qiáng)硬，先后出臺(tái)了《歐盟人工智能》《可信AI倫理指南》《算法責(zé)任與透明治理框架》等指導(dǎo)性文件，期望通過高標(biāo)準(zhǔn)的立法和監(jiān)管來重塑全球數(shù)字發(fā)展模式。

微軟、谷歌等國外科技公司在人工智能倫理治理方面也積極探索。比如，微軟內(nèi)設(shè)三大機(jī)構(gòu)，包括負(fù)責(zé)任人工智能辦公室(Office of Responsible AI)、人工智能、倫理與工程研究委員會(huì)(AI and ethics inengineering and research committee)、負(fù)責(zé)任AI戰(zhàn)略管理團(tuán)隊(duì)(Responsible AI Strategy inEngineering)，分別負(fù)責(zé)AI規(guī)則制定、案例研究、落地監(jiān)督等，并研發(fā)了一系列技術(shù)解決方案。

谷歌是從積極方面和消極方面規(guī)定了人工智能設(shè)計(jì)、使用的原則，并承諾愿意隨著時(shí)間的推移而及時(shí)調(diào)整這些原則。它還成立了負(fù)責(zé)任創(chuàng)新中央團(tuán)隊(duì)，推動(dòng)倫理治理實(shí)踐落地，比如，為避免加重算法不公平或偏見，暫停開發(fā)與信貸有關(guān)的人工智能產(chǎn)品;基于技術(shù)問題與政策考慮，拒絕通過面部識(shí)別審提案;涉及大型語言模型的研究謹(jǐn)慎繼續(xù)，在進(jìn)行全面的人工智能原則審查之前，不能正式推出。

在人工智能倫理研究方面，國外較為積極。全球私募股權(quán)巨頭美國的黑石(Blackstone)集團(tuán)聯(lián)合創(chuàng)始人、全球主席兼首席執(zhí)行官斯蒂芬·施瓦茲曼為牛津大學(xué)捐贈(zèng)了1.88億美元，用于資助人工智能倫理方面的研究。馬斯克也曾向生命未來研究所(Future of Life Institute)捐贈(zèng)1000萬美元，教導(dǎo)機(jī)器人“倫理道德”。

張慧指出：“各國的政府、企業(yè)和相關(guān)社會(huì)組織、行業(yè)組織之間正在逐步加強(qiáng)對(duì)話與合作，聯(lián)合國也在國際人工智能治理規(guī)則制定等方面發(fā)揮日趨重要作用?？梢哉f，人工智能治理已經(jīng)成為全球共識(shí)，且已從理念層面進(jìn)入到建章立制、落地實(shí)施的階段。”

“還有一點(diǎn)值得關(guān)注，對(duì)人工智能技術(shù)的動(dòng)態(tài)治理，其實(shí)反過來也會(huì)促進(jìn)人工智能技術(shù)本身的發(fā)展。”段偉文表示。如人臉識(shí)別技術(shù)在某些場(chǎng)景中被禁用的情況只是暫時(shí)的，治理力度加大會(huì)推動(dòng)相關(guān)技術(shù)短板更快地被補(bǔ)上。

人工智能倫理治理還是一個(gè)新命題

人工智能已經(jīng)對(duì)整個(gè)人類社會(huì)產(chǎn)生了深刻影響。張慧談道：“能力越大的技術(shù)，越是需要妥善治理好。人工智能既是我們創(chuàng)造美好生活的重要手段，也是需要進(jìn)行妥善治理的對(duì)象。”

我國人工智能技術(shù)領(lǐng)域走在世界前列，在人工智能倫理治理實(shí)踐方面也處于前沿探索者的位置，一些好的做法也在被海外討論和借鑒。比如，政策層面，《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》《新一代人工智能倫理規(guī)范》《關(guān)于加強(qiáng)科技倫理治理的意見》等的出臺(tái)為科技倫理治理提供了頂層設(shè)計(jì)指導(dǎo)，一些發(fā)展較快的領(lǐng)域也出現(xiàn)了細(xì)分規(guī)范要求。

同時(shí)，國內(nèi)如曠視、京東、科大訊飛等一些科技企業(yè)相繼成立AI道德委員會(huì)、AI治理研究院等專門組織，從企業(yè)內(nèi)部開始、從自身開始大力推動(dòng)AI治理工作落實(shí)。騰訊研究院和騰訊AI Lab聯(lián)合發(fā)布人工智能倫理報(bào)告《智能時(shí)代的技術(shù)倫理觀——重塑數(shù)字社會(huì)的信任》，倡導(dǎo)建立面向人工智能的新技術(shù)倫理觀。阿里安全探索“用AI治理AI”，促進(jìn)人工智能可持續(xù)發(fā)展。曠視最早發(fā)布《人工智能應(yīng)用準(zhǔn)則》，并連續(xù)三年發(fā)起“全球十大人工智能治理事件”評(píng)選。

然而，截至目前，人工智能倫理治理還是一個(gè)新命題，沒有太多歷史經(jīng)驗(yàn)可以參考，整個(gè)行業(yè)也在“邊發(fā)展邊治理”，逐步完善法律法規(guī)和凝聚道德倫理的共識(shí)。

“人工智能企業(yè)面臨‘技術(shù)陷阱’。”段偉文指出，“人工智能技術(shù)在賦能社會(huì)的同時(shí)也會(huì)帶來社會(huì)價(jià)值和倫理方面的沖擊，而且短期內(nèi)，負(fù)面影響可能會(huì)被放大。一些企業(yè)在早期發(fā)展中如果不重視倫理問題，就會(huì)導(dǎo)致社會(huì)對(duì)它的不信任。比如Facebook改名Meta，轉(zhuǎn)型去做元宇宙就招來了一片質(zhì)疑，尤其是對(duì)隱私安全方面的詬病。這時(shí)候就需要進(jìn)行‘倫理回調(diào)’，通過企業(yè)一系列行為讓人工智能變得‘可信’。”

他認(rèn)為，科技發(fā)展過程中帶來的倫理問題要進(jìn)行主動(dòng)回應(yīng)。比如數(shù)據(jù)倫理問題，要加強(qiáng)數(shù)據(jù)隱私保護(hù)、信息安全保護(hù);再比如算法倫理問題，要督促平臺(tái)消除偏見和歧視，盡可能維護(hù)公正公平;信息傳播倫理問題，內(nèi)容平臺(tái)運(yùn)用人工智能技術(shù)分發(fā)內(nèi)容時(shí)需思考如何保證內(nèi)容健康、減少虛假信息等。“僅是制定倫理規(guī)范是不夠的，人工智能企業(yè)應(yīng)該通過這些舉措，把握好一個(gè)‘度’，謀求Social License(社會(huì)許可證)，這樣才能找到技術(shù)與倫理之間的最大公約數(shù)。”

尋找“最大公約數(shù)”一定是一個(gè)多方協(xié)同的過程。張慧表示：“人工智能的應(yīng)用鏈條很長，有技術(shù)提供方、系統(tǒng)集成方、應(yīng)用軟件開發(fā)方、個(gè)人開發(fā)者等企業(yè)和從業(yè)者，也有不同行業(yè)的AI產(chǎn)品和應(yīng)用的使用者、受益者等。目前國家各方面的法律法規(guī)正在逐步完善對(duì)不同相關(guān)方的權(quán)責(zé)說明，隨著行業(yè)的發(fā)展，相信未來人工智能的倫理治理路徑會(huì)越來越清晰。企業(yè)在推動(dòng)AI技術(shù)創(chuàng)新和應(yīng)用的每一個(gè)過程和環(huán)節(jié)也要嚴(yán)格遵守法律法規(guī)，這是所有工作的紅線和底線。”

標(biāo)簽： 最佳新人獎(jiǎng) 人工智能 新興技術(shù)倫理治理 人類智能