【科學(xué)向未來(lái)】

作者：蘇竣（清華大學(xué)智庫(kù)中心主任、清華大學(xué)公共管理學(xué)院教授）；黃萃（浙江大學(xué)公共管理學(xué)院教授、信息資源管理系主任）

作為引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)，人工智能的迅猛發(fā)展將進(jìn)一步釋放歷次科技革命和產(chǎn)業(yè)變革積蓄的巨大能量，給全球經(jīng)濟(jì)發(fā)展、國(guó)家治理、社會(huì)建設(shè)和人民生活帶來(lái)重大而深遠(yuǎn)的影響，推動(dòng)人類邁入以科技進(jìn)步與產(chǎn)業(yè)革新為基礎(chǔ)的智能社會(huì)。但也應(yīng)該看到，人工智能在創(chuàng)造經(jīng)濟(jì)發(fā)展新引擎、推動(dòng)人類文明邁上新臺(tái)階的同時(shí)，模糊了虛擬與現(xiàn)實(shí)、數(shù)字和實(shí)體的界限，給人類社會(huì)的法律規(guī)范、道德倫理、公共治理等方面帶來(lái)了挑戰(zhàn)。

人工智能時(shí)代呼喚全新的治理理念和治理形式。當(dāng)前人工智能技術(shù)正深入發(fā)展，人工智能應(yīng)用場(chǎng)景不斷豐富，人工智能開(kāi)放創(chuàng)新平臺(tái)、人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)正如火如荼推進(jìn)。利用好這一有利契機(jī)，加強(qiáng)人工智能技術(shù)發(fā)展過(guò)程中的人文社會(huì)影響研究，開(kāi)展人工智能社會(huì)實(shí)驗(yàn)，建設(shè)更具有人文溫度的智能社會(huì)意義重大而深遠(yuǎn)。

2019世界人工智能大會(huì) 新華社發(fā)

建設(shè)有人文溫度的智能社會(huì)是大勢(shì)所趨

自16世紀(jì)科學(xué)革命以來(lái)，科學(xué)技術(shù)的“雙刃劍”效應(yīng)就成為人類社會(huì)發(fā)展進(jìn)程中一個(gè)揮之不去的議題?？萍歼M(jìn)步使得生產(chǎn)力得以飛速發(fā)展，為人們的生產(chǎn)和生活都帶來(lái)了極大的便利。但科技創(chuàng)新帶來(lái)的兩極分化、社會(huì)摩擦、生態(tài)破壞、倫理失范等負(fù)面影響也一直縈繞難散。英國(guó)著名科學(xué)家貝爾納在其著作《科學(xué)的社會(huì)功能》中指出：“科學(xué)技術(shù)的發(fā)展本身既為我們揭開(kāi)了改善人類生活的前景，也為我們開(kāi)辟了毀滅人類的可能性。”如今，伴隨智能時(shí)代的到來(lái)，科技的正負(fù)效應(yīng)都在不斷強(qiáng)化，形成巨大的張力，使得人類文明的前景更加迷茫。

2019世界人工智能大會(huì) 新華社發(fā)

隨著人工智能發(fā)展與應(yīng)用的深入，人—機(jī)器的社會(huì)結(jié)構(gòu)，終將為人—智能機(jī)器—機(jī)器的社會(huì)結(jié)構(gòu)所取代。可以肯定的是，人工智能超強(qiáng)的信息儲(chǔ)存、超級(jí)模仿和深度自我學(xué)習(xí)能力，會(huì)把人類從各種危險(xiǎn)、精密、煩瑣、重復(fù)的體力和腦力勞動(dòng)中極大地解放出來(lái)。其發(fā)展與推廣應(yīng)用會(huì)改變“不勞動(dòng)者不得食”的人類社會(huì)基石，不勞動(dòng)者照樣可以豐衣足食，人類想象中的“烏托邦”甚至?xí)驗(yàn)槿斯ぶ悄芗夹g(shù)成為現(xiàn)實(shí)。但值得注意的是，與傳統(tǒng)科技相比，新一代人工智能技術(shù)最大的特色在于它能夠具有和人一樣進(jìn)行思考和決策的能力。這種能力正是人類區(qū)別于動(dòng)物，并能夠建立起燦爛文明的核心因素。在歷史的長(zhǎng)河里，人類智慧的偉大之處不僅在于其對(duì)自然科學(xué)的孜孜以求，也在于其在技術(shù)、人文、社會(huì)科學(xué)領(lǐng)域創(chuàng)造出的累累碩果。然而，當(dāng)人工智能開(kāi)始替代人類進(jìn)行思考與決策時(shí)，它們能否像人類一樣，在理性之上兼顧感性認(rèn)知，在追求效率的同時(shí)也顧及倫理、價(jià)值觀、情感和文化。

新華社發(fā)

一個(gè)有人文溫度的人工智能社會(huì)，不僅要擁有更加高效的生產(chǎn)力，也要有更加豐富多彩的精神空間，更加深厚悠久的文化底蘊(yùn)，更加公平公正的制度保障，更加包容和諧的人文關(guān)懷。這需要我們抓住人工智能技術(shù)應(yīng)用剛剛起步、尚未形成鎖定效應(yīng)的這一良好時(shí)機(jī)，樹(shù)立正確的價(jià)值觀念，深入開(kāi)展基于科學(xué)循證邏輯的實(shí)證研究，構(gòu)建全新的人工智能治理體系，并對(duì)技術(shù)和產(chǎn)業(yè)發(fā)展形成反饋和規(guī)制，引導(dǎo)人工智能技術(shù)良性發(fā)展，及時(shí)規(guī)避大規(guī)模失業(yè)失能、資源財(cái)富分化加劇、數(shù)字和信息鴻溝加深、人類精神文化生活停滯、人工智能技術(shù)失控等潛在風(fēng)險(xiǎn)和危機(jī)。

消解人工智能技術(shù)發(fā)展中的隱憂

作為第四次工業(yè)革命的技術(shù)基石，新一代人工智能技術(shù)發(fā)展與應(yīng)用給人類社會(huì)帶來(lái)的好處自不必說(shuō)，但我們也必須對(duì)人工智能所衍生出的風(fēng)險(xiǎn)和威脅保持警惕。人類對(duì)于人工智能技術(shù)負(fù)面影響的憂慮主要包括兩個(gè)方面，一是對(duì)人工智能技術(shù)失控的擔(dān)憂，二是對(duì)社會(huì)結(jié)構(gòu)與社會(huì)秩序的重塑的擔(dān)憂。英國(guó)科學(xué)家斯蒂芬·霍金和美國(guó)創(chuàng)新企業(yè)家埃隆·馬斯克都曾不斷發(fā)出對(duì)人工智能威脅的警告?；艚鹫J(rèn)為，人工智能會(huì)是“人類歷史上最重大的事件，不幸的是，也可能會(huì)是最后的重大事件”。馬斯克也指出人工智能之險(xiǎn)尤甚于核武器。他們普遍擔(dān)心具有人類決策能力的機(jī)器人最終將擺脫人類的控制，反過(guò)來(lái)奴役人類甚至滅絕人類。電影《流浪地球》里，宇航員懷疑國(guó)際空間站控制系統(tǒng)叛逃的情節(jié)，就反映了我們可能面臨的這種隱患。創(chuàng)新工場(chǎng)創(chuàng)始人李開(kāi)復(fù)則認(rèn)為，人工智能對(duì)人類社會(huì)真正的威脅不在于技術(shù)層面，而在于對(duì)工作的含義、財(cái)富的創(chuàng)造和分配方式的打碎、重塑，由此“引發(fā)前所未有的經(jīng)濟(jì)不平等，甚至改變?nèi)蛄α烤鶆?shì)”。人工智能的發(fā)展會(huì)使大量工作被機(jī)器人取代，從制造業(yè)到服務(wù)業(yè)，各層面都可能有大量工作崗位消失。大規(guī)模失業(yè)的同時(shí)，財(cái)富迅速并大量集中到少數(shù)人手里，進(jìn)一步加劇兩極分化，帶來(lái)嚴(yán)重的民生和政治問(wèn)題。

科技進(jìn)步既改變著人類社會(huì)，也塑造著人本身。對(duì)于人工智能的發(fā)展，我們首先應(yīng)當(dāng)樹(shù)立正確的價(jià)值觀念，防患于未然，應(yīng)對(duì)科技創(chuàng)新帶來(lái)的巨大沖擊。一方面，我們應(yīng)積極倡導(dǎo)建立負(fù)責(zé)任的研發(fā)和創(chuàng)新價(jià)值體系，在人工智能的研發(fā)創(chuàng)新階段以及后續(xù)技術(shù)全生命周期，加強(qiáng)對(duì)科技創(chuàng)新過(guò)程中倫理問(wèn)題的關(guān)注和控制，避免人工智能可能造成的不利影響。另一方面，要從人文社會(huì)科學(xué)的角度，加強(qiáng)人工智能的社會(huì)影響機(jī)理、規(guī)律與趨勢(shì)研究，完善和強(qiáng)化人工智能發(fā)展的社會(huì)政策體系。人工智能技術(shù)給人類社會(huì)帶來(lái)的負(fù)面影響，歸根到底是對(duì)人類歷經(jīng)千百年所建立的具有深厚人文情懷的文明架構(gòu)的全面沖擊。因此，在大力推動(dòng)科技研發(fā)的同時(shí)，我們也必須促進(jìn)與新興技術(shù)相關(guān)的人文社會(huì)科學(xué)研究的發(fā)展，實(shí)現(xiàn)自然科學(xué)與社會(huì)科學(xué)的交融共振，只有這樣，才能從根本上消解人工智能技術(shù)發(fā)展中的隱憂。

深入開(kāi)展社會(huì)實(shí)驗(yàn)研究，提升智能社會(huì)認(rèn)知水平

要想解決人工智能技術(shù)的負(fù)面效應(yīng)，實(shí)現(xiàn)對(duì)人工智能的有效治理，需要我們對(duì)人工智能時(shí)代的社會(huì)形態(tài)和特征具有全面而系統(tǒng)的把握和認(rèn)知。而這種認(rèn)知的建立，有賴于以實(shí)踐證據(jù)為基礎(chǔ)的實(shí)證研究，特別是社會(huì)實(shí)驗(yàn)研究的開(kāi)展。

社會(huì)實(shí)驗(yàn)是種典型的社會(huì)科學(xué)研究方法，是以現(xiàn)實(shí)情境下的人、組織作為研究對(duì)象所開(kāi)展的研究活動(dòng)，目的在于通過(guò)某些社會(huì)、政治過(guò)程或技術(shù)變革導(dǎo)致的近似于理想實(shí)驗(yàn)的場(chǎng)景來(lái)研究社會(huì)科學(xué)的問(wèn)題。約一百年前，為研究工業(yè)化社會(huì)所帶來(lái)的影響，美國(guó)就曾通過(guò)組織大規(guī)模社會(huì)實(shí)驗(yàn)，史稱“霍桑實(shí)驗(yàn)”，對(duì)進(jìn)入工業(yè)文明時(shí)代后，人類的心理和行為問(wèn)題進(jìn)行了深入的解析。

如今人工智能技術(shù)已經(jīng)融入當(dāng)下人類社會(huì)和生活，而且正在以幾何級(jí)增長(zhǎng)的速度擴(kuò)展自己的存在，人類社會(huì)正面臨百年未有之大變局，快速邁入智能化的新時(shí)代。人工智能技術(shù)創(chuàng)新給人類社會(huì)帶來(lái)的巨大變革，為開(kāi)展智能化時(shí)代的社會(huì)實(shí)驗(yàn)提供了理想的要素和場(chǎng)景。

近年來(lái)，清華大學(xué)、浙江大學(xué)等單位的專家學(xué)者，匯集全國(guó)計(jì)算機(jī)科學(xué)、社會(huì)學(xué)、心理學(xué)、醫(yī)學(xué)等領(lǐng)域的智力資源，在大量前期工作的基礎(chǔ)上，針對(duì)人工智能社會(huì)影響的問(wèn)題，率先提出了開(kāi)展長(zhǎng)周期、寬領(lǐng)域、多學(xué)科人工智能社會(huì)實(shí)驗(yàn)的政策建議?？萍疾拷M織制定了《國(guó)家新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)工作指引》，將社會(huì)實(shí)驗(yàn)作為新一代人工智能創(chuàng)新發(fā)展試驗(yàn)區(qū)建設(shè)的重要工作。中央網(wǎng)信辦等有關(guān)部委也制定行動(dòng)方案，在全國(guó)開(kāi)展人工智能社會(huì)治理實(shí)驗(yàn)。

近日，第一屆全國(guó)人工智能社會(huì)實(shí)驗(yàn)學(xué)術(shù)會(huì)議在清華大學(xué)召開(kāi)，100余位專家學(xué)者交流分享了人工智能社會(huì)實(shí)驗(yàn)的最新成果，研究討論了人工智能社會(huì)實(shí)驗(yàn)的工作方案和行動(dòng)計(jì)劃。開(kāi)展長(zhǎng)周期、寬領(lǐng)域、多學(xué)科人工智能社會(huì)實(shí)驗(yàn)，有助于我們從小切入，在不對(duì)人類社會(huì)造成較大規(guī)模影響的情況下，準(zhǔn)確識(shí)別人工智能對(duì)人類社會(huì)帶來(lái)的挑戰(zhàn)和沖擊，深入理解人工智能的社會(huì)影響特征與態(tài)勢(shì)，深刻把握人工智能時(shí)代社會(huì)演進(jìn)的規(guī)律，從而為建立有人文溫度的智能社會(huì)提供科學(xué)的參考依據(jù)。

建立智能社會(huì)治理體系，實(shí)現(xiàn)對(duì)技術(shù)和產(chǎn)業(yè)的積極回饋

在人類社會(huì)面臨轉(zhuǎn)型的關(guān)鍵節(jié)點(diǎn)和重大關(guān)口，在應(yīng)對(duì)人工智能等科技變革帶來(lái)的全新公共治理挑戰(zhàn)的情境下，我們要從人文社會(huì)科學(xué)的角度出發(fā)，以人工智能社會(huì)實(shí)驗(yàn)為起點(diǎn)，加強(qiáng)人工智能的社會(huì)影響機(jī)理、規(guī)律與趨勢(shì)的研究與探索，在人工智能的研發(fā)階段以及后續(xù)技術(shù)全生命周期，加強(qiáng)對(duì)科技倫理問(wèn)題的關(guān)注和控制，進(jìn)一步完善負(fù)責(zé)任的研發(fā)創(chuàng)新價(jià)值體系，推動(dòng)應(yīng)對(duì)技術(shù)變革的公共政策創(chuàng)新，建立智能社會(huì)治理體系，實(shí)現(xiàn)對(duì)技術(shù)和產(chǎn)業(yè)的積極回饋。

當(dāng)前，世界各國(guó)政府都陸續(xù)出臺(tái)了相關(guān)政策以推動(dòng)并規(guī)范人工智能的發(fā)展。美國(guó)頒布了《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》和《為人工智能的未來(lái)做好準(zhǔn)備》兩個(gè)國(guó)家級(jí)政策框架，日本出臺(tái)了《第五期（2016-2020年度）科學(xué)技術(shù)基本計(jì)劃》，提出了超智能社會(huì)5.0的概念，英國(guó)政府發(fā)布了《人工智能：未來(lái)決策制定的機(jī)遇與影響》，法國(guó)發(fā)布了《人工智能戰(zhàn)略》，我國(guó)也發(fā)布了《新一代人工智能發(fā)展規(guī)劃》等相關(guān)政策。不同國(guó)家對(duì)于人工智能發(fā)展的態(tài)度不同，但都高度關(guān)注人工智能的社會(huì)影響與治理問(wèn)題。

我國(guó)是一個(gè)擁有近14億人口的大國(guó)，并處在經(jīng)濟(jì)社會(huì)轉(zhuǎn)型升級(jí)的關(guān)鍵時(shí)期，具有龐大的人工智能市場(chǎng)需求。我們必須保持以市場(chǎng)為主導(dǎo)的“冒險(xiǎn)取向的制度設(shè)計(jì)”和以人文社會(huì)為主導(dǎo)的“安全取向的制度設(shè)計(jì)”間的平衡，這要求我們不斷地根據(jù)出現(xiàn)的社會(huì)問(wèn)題對(duì)人工智能帶來(lái)的影響進(jìn)行評(píng)估，在此基礎(chǔ)上進(jìn)一步優(yōu)化人工智能在數(shù)據(jù)治理、算法責(zé)任、技術(shù)路徑等方面的科學(xué)規(guī)范與技術(shù)標(biāo)準(zhǔn)，構(gòu)建兼顧理論與實(shí)踐的全鏈條研究路徑，以保障相關(guān)治理及時(shí)跟進(jìn)，從而為人工智能技術(shù)發(fā)展打造開(kāi)放有序的環(huán)境，推動(dòng)建立有人文溫度的智能社會(huì)治理體系。

盡管世界各國(guó)在人工智能治理上目前還處于起步階段，但在不遠(yuǎn)的將來(lái)，一些重要大國(guó)參與的人工智能國(guó)際治理機(jī)制會(huì)很快建構(gòu)并完善起來(lái)，這是全球人工智能規(guī)范、有序發(fā)展的必由之路。尤其是人工智能與物聯(lián)網(wǎng)、云計(jì)算、大數(shù)據(jù)、互聯(lián)網(wǎng)等技術(shù)深度融合，人工智能所造成的社會(huì)影響將會(huì)超越一國(guó)的邊界而成為全球共同關(guān)注的公共問(wèn)題，因此人工智能客觀上需要全球性協(xié)調(diào)機(jī)制、全球性協(xié)作平臺(tái)以及全球性的標(biāo)準(zhǔn)和規(guī)則，同樣也需要國(guó)際范圍內(nèi)人工智能的道德倫理系統(tǒng)和價(jià)值理念的碰撞與討論，這些都是人工智能全球治理的發(fā)展趨勢(shì)。

我國(guó)是全世界發(fā)展人工智能技術(shù)行動(dòng)最早、動(dòng)作最快的國(guó)家之一，面對(duì)全球科技創(chuàng)新的新態(tài)勢(shì)，我們要牢牢抓住人工智能發(fā)展的重大歷史機(jī)遇，緊扣發(fā)展、研判大勢(shì)，主動(dòng)謀劃、搶占先機(jī)，引領(lǐng)世界人工智能發(fā)展新潮流。我們要加快開(kāi)展以理論探索為導(dǎo)向，以指導(dǎo)實(shí)踐為目標(biāo)的人工智能社會(huì)實(shí)驗(yàn)，在對(duì)人工智能綜合影響進(jìn)行持續(xù)觀測(cè)和數(shù)據(jù)收集、分析的基礎(chǔ)上，探索人工智能全球治理的“中國(guó)方案”，促進(jìn)人工智能技術(shù)、產(chǎn)業(yè)和治理的良性發(fā)展，建設(shè)有人文溫度的智能社會(huì)。

《光明日?qǐng)?bào)》（ 2019年12月26日 16版）