人工智能（AI）技術(shù)正在改變世界，也在重塑著人類社會(huì)。然而發(fā)展至今，AI技術(shù)已經(jīng)顯露出許多亟需關(guān)切的監(jiān)管問題，如數(shù)據(jù)隱私和數(shù)據(jù)安全、算法黑箱、技術(shù)濫用等，尤其是個(gè)人隱私不經(jīng)允許被互聯(lián)網(wǎng)公司泄露和濫用已經(jīng)成為當(dāng)今世界一大共同難題。

歐盟委員會(huì)于4月21日正式發(fā)布一項(xiàng)針對(duì)AI的法律草案。這份長(zhǎng)達(dá)81頁的草案指出，歐盟將禁止使用AI系統(tǒng)建立社會(huì)征信體系，同時(shí)將徹底禁止一些對(duì)個(gè)人隱私構(gòu)成“高風(fēng)險(xiǎn)”的AI應(yīng)用。這意味著未來不符合準(zhǔn)入標(biāo)準(zhǔn)的AI系統(tǒng)，可能無法進(jìn)入歐盟。如果該法案獲得通過，歐盟將有望成為全球首個(gè)對(duì)AI立法的地區(qū)，這會(huì)對(duì)其他國家和地區(qū)AI監(jiān)管法規(guī)的出臺(tái)起到示范作用。

加強(qiáng)AI監(jiān)管

根據(jù)歐盟委員會(huì)公布的這項(xiàng)草案，AI在一系列活動(dòng)中的使用將受到限制，這些活動(dòng)包括自動(dòng)駕駛汽車、申請(qǐng)銀行貸款、大學(xué)招生錄取以及考試評(píng)分等。它還將涵蓋執(zhí)法系統(tǒng)和法院對(duì)AI的使用，這一領(lǐng)域通常被視為“高風(fēng)險(xiǎn)”，因其可能威脅到人們的安全或基本權(quán)利。

草案規(guī)定，如有公司違反歐盟規(guī)則使用被禁止的AI應(yīng)用，比如使用AI應(yīng)用嚴(yán)重扭曲人們的行為、剝削弱勢(shì)群體或在社會(huì)評(píng)分中使用有偏見的數(shù)據(jù)，則有可能會(huì)被處以最高3000萬歐元或相當(dāng)于其全球營(yíng)收6%的罰款，高于此前提議的4%。此外，企業(yè)如果要部署被視為對(duì)個(gè)人隱私構(gòu)成“高風(fēng)險(xiǎn)”的AI系統(tǒng)，那么不僅需要受到審查，而且系統(tǒng)的創(chuàng)建者必須證明其是通過可追溯的方式并處于人工監(jiān)督之下。

草案的另一部分涉及支持歐盟AI發(fā)展的措施，包括推動(dòng)歐盟成員國建立監(jiān)管沙箱（虛擬系統(tǒng)程序）計(jì)劃，在將AI系統(tǒng)推向市場(chǎng)之前，初創(chuàng)企業(yè)和中小企業(yè)可以優(yōu)先獲得開發(fā)和測(cè)試AI系統(tǒng)的支持。草案規(guī)定，主管部門“應(yīng)被授權(quán)對(duì)參與沙箱實(shí)體的AI項(xiàng)目行使酌處權(quán)和比例杠桿，同時(shí)充分保留主管部門的監(jiān)督和糾正權(quán)力”。

歐洲議會(huì)和歐盟委員會(huì)指出，新的法律框架旨在避免歐洲在人工智能開發(fā)、部署和使用方面落后于其他國家及地區(qū)，并希望通過制定新的規(guī)則助力歐盟在這一領(lǐng)域的領(lǐng)先地位。

積極醞釀立法

近年來，歐盟不斷試圖在支持創(chuàng)新和確保AI技術(shù)不侵犯歐盟5億人口隱私兩方面尋求適當(dāng)?shù)钠胶狻Ｔ诎l(fā)布此次草案之前，歐盟對(duì)AI監(jiān)管的計(jì)劃已經(jīng)醞釀了一段時(shí)間。

2018年4月，歐盟委員會(huì)發(fā)布了一份政策文件《歐盟人工智能》。歐盟認(rèn)為，AI的發(fā)展可能會(huì)引發(fā)新的倫理和法律問題，歐盟必須確保AI在適宜的框架內(nèi)發(fā)展。這個(gè)框架既能促進(jìn)科技創(chuàng)新，又能尊重歐盟的價(jià)值觀、基本權(quán)利和道德原則。在歐洲價(jià)值觀的基礎(chǔ)上，歐盟委員會(huì)提出了一種三管齊下的方法：增加公共和私人投資，為AI帶來的社會(huì)經(jīng)濟(jì)變革做好準(zhǔn)備，并建立適當(dāng)?shù)牡赖潞头煽蚣堋?/p>

2019年4月8日，歐盟委員會(huì)發(fā)布一份AI道德準(zhǔn)則。準(zhǔn)則由2018年12月公布的AI道德準(zhǔn)則草案演變而來，要求不得使用公民個(gè)人資料作出傷害或歧視他們的行為。

2020年2月，歐盟委員會(huì)發(fā)布了一份《人工智能白皮書》，提出歐洲的AI戰(zhàn)略旨在提高AI領(lǐng)域的創(chuàng)新能力，同時(shí)促進(jìn)道德、可信賴AI技術(shù)在歐洲經(jīng)濟(jì)領(lǐng)域的應(yīng)用。委員會(huì)沒有在此階段提供擬議的法規(guī)，而是提出了任何法規(guī)框架都必須涵蓋的法律要求，以確保AI仍然值得信賴，并尊重歐盟的價(jià)值觀和原則。

2020年10月20日，歐洲議會(huì)通過了有關(guān)歐盟如何更好地監(jiān)管AI的三份立法倡議報(bào)告，期望推動(dòng)AI的立法進(jìn)程，以促進(jìn)創(chuàng)新、道德標(biāo)準(zhǔn)和技術(shù)信任。

此次提出的立法草案是歐盟擴(kuò)大其作為全球科技執(zhí)法者角色努力的一部分。如果草案獲得通過，不僅將對(duì)亞馬遜、谷歌、臉書和微軟等大型科技公司產(chǎn)生深遠(yuǎn)影響，同時(shí)還將對(duì)使用這一技術(shù)來研發(fā)藥物、承銷保險(xiǎn)以及評(píng)判信用度的其他公司產(chǎn)生沖擊。

通過尚需時(shí)日

歐盟在技術(shù)行業(yè)監(jiān)管方面一直是全球最積極的，其發(fā)布的監(jiān)管政策常被其他國家用作模板。目前，全球僅有少數(shù)機(jī)構(gòu)提出要針對(duì)AI制定全面的法律框架，因此歐洲議會(huì)此次對(duì)AI擬定的法律新規(guī)則意義特殊、影響深遠(yuǎn)。

歐盟委員會(huì)執(zhí)行副總裁韋斯特格表示，這一監(jiān)管法規(guī)解決了AI在某些特殊用途方面給人類和社會(huì)帶來的風(fēng)險(xiǎn)。“我們認(rèn)為這是緊急事件，我們是這個(gè)星球上首個(gè)提出這一法律框架的。”

歐洲議會(huì)認(rèn)為，完善法律條款對(duì)AI的商業(yè)發(fā)展有兩大促進(jìn)作用：一是為AI解決方案的開發(fā)者和部署者提供法律確定性，從而提高商業(yè)可預(yù)測(cè)性并促進(jìn)投資；二是在全球范圍內(nèi)創(chuàng)建公平的監(jiān)管競(jìng)爭(zhēng)環(huán)境，促進(jìn)行業(yè)發(fā)展。

全球最大的隱私保護(hù)組織IAPP協(xié)會(huì)副主席Omer Tene在社交媒體上表示：“這項(xiàng)立法代表了歐盟在新技術(shù)和創(chuàng)新方面的新嘗試，當(dāng)人們對(duì)數(shù)據(jù)的使用邊界不清晰時(shí)，那么請(qǐng)用法律來監(jiān)管。”

不過，也有人指出，草案有些條款似乎過于模糊，有太多漏洞可鉆。

盡管褒貶不一，但可以肯定的是，這份草案在成為法律之前還有很長(zhǎng)的路要走。在歐盟，此類法律必須得到代表歐盟27國政府的歐洲理事會(huì)和直接選舉產(chǎn)生的歐洲議會(huì)的批準(zhǔn)，整個(gè)過程可能需要數(shù)年時(shí)間。如果屆時(shí)法案被采納，那么歐洲也將成為首個(gè)以法律形式規(guī)范AI數(shù)據(jù)采集使用的地區(qū)。