對(duì)“人工智能+教育”應(yīng)持審慎態(tài)度

人臉識(shí)別進(jìn)校園引發(fā)爭(zhēng)議實(shí)時(shí)監(jiān)控或讓學(xué)生變戲精專(zhuān)家認(rèn)為

人臉識(shí)別進(jìn)校園，既有數(shù)據(jù)安全也有個(gè)人隱私問(wèn)題，包含學(xué)生的個(gè)人信息要非常謹(jǐn)慎，能不采集就不采集，能少采集就少采集，尤其涉及個(gè)人生物信息的。

網(wǎng)絡(luò)安全法規(guī)定，網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開(kāi)收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。

表情監(jiān)控在某種程度上侵犯了學(xué)生的尊嚴(yán)，也是對(duì)學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。學(xué)生長(zhǎng)期在監(jiān)控環(huán)境下學(xué)習(xí)、成長(zhǎng)，容易養(yǎng)成“表演性人格”。

記者 杜 曉  實(shí)習(xí)生 景千姿

隨著人工智能不斷發(fā)展，人臉識(shí)別技術(shù)被越來(lái)越多地應(yīng)用于校園中。

據(jù)了解，一所知名大學(xué)2019級(jí)新生“刷臉”就能瞬間完成報(bào)到程序，系統(tǒng)是這所學(xué)校的學(xué)生研發(fā)的，學(xué)生對(duì)著攝像頭，人臉識(shí)別系統(tǒng)就開(kāi)始進(jìn)行比對(duì)，眨眼間就能完成掃描，整個(gè)報(bào)到注冊(cè)手續(xù)幾乎不到一秒鐘。此外，通過(guò)人臉識(shí)別還可以對(duì)學(xué)生進(jìn)行考勤，以及實(shí)時(shí)觀察學(xué)生的上課狀況等。

對(duì)此，教育部科學(xué)技術(shù)司司長(zhǎng)雷朝滋認(rèn)為，“(對(duì)于人臉識(shí)別技術(shù)應(yīng)用)我們要加以限制和管理。現(xiàn)在我們希望學(xué)校非常慎重地使用這些技術(shù)軟件。教育部已經(jīng)開(kāi)始關(guān)注這個(gè)事情，組織專(zhuān)家論證研究”。

雷朝滋還說(shuō)，人臉識(shí)別進(jìn)校園，既有數(shù)據(jù)安全也有個(gè)人隱私問(wèn)題，“包含學(xué)生的個(gè)人信息都要非常謹(jǐn)慎，能不采集就不采集，能少采集就少采集，尤其涉及個(gè)人生物信息的”。

人臉識(shí)別進(jìn)校園究竟會(huì)有哪些利弊？《法制日?qǐng)?bào)》記者對(duì)此進(jìn)行了采訪。

實(shí)時(shí)監(jiān)控課堂表現(xiàn)

老師學(xué)生壓力增大

近日，中國(guó)藥科大學(xué)試水“人臉識(shí)別進(jìn)課堂”，在校門(mén)口、學(xué)生宿舍、圖書(shū)館及部分教室等場(chǎng)所安裝人臉識(shí)別系統(tǒng)。這個(gè)系統(tǒng)除了能自動(dòng)識(shí)別學(xué)生的出勤情況外，還能識(shí)別出學(xué)生是否認(rèn)真聽(tīng)講，課堂上抬頭低頭了幾次，低頭是否在玩手機(jī)，是否閉眼打瞌睡等。有網(wǎng)友認(rèn)為，這樣的系統(tǒng)在校園廣泛應(yīng)用或涉嫌“侵犯隱私”。

據(jù)了解，早在2015年，國(guó)內(nèi)一所知名高校就曾在高校信息化建設(shè)中首次引入人臉識(shí)別技術(shù)。近年來(lái)，有些地方的初中出于“提升校園安全”考慮，在校園門(mén)口安裝人臉識(shí)別考勤系統(tǒng)。

“現(xiàn)在是互聯(lián)網(wǎng)科技時(shí)代，到處都講‘互聯(lián)網(wǎng)+教育’,這是教育的創(chuàng)新，我們也很樂(lè)意看到新技術(shù)的應(yīng)用能給教育行業(yè)帶來(lái)新的生機(jī)。”一位從教近10年的高中老師楊妮(化名)對(duì)《法制日?qǐng)?bào)》記者說(shuō)。

“初、高中學(xué)生上課自覺(jué)性比較差，需要老師的督促，如果上課期間需要老師不停地維持課堂紀(jì)律，那么課堂質(zhì)量就會(huì)有所降低。而且傳統(tǒng)的點(diǎn)名方式浪費(fèi)時(shí)間，準(zhǔn)確率也不高。從這個(gè)方面來(lái)說(shuō)，在教室安裝人臉識(shí)別系統(tǒng)確實(shí)能幫助老師維持課堂的秩序，從而專(zhuān)心把精力放在對(duì)課堂內(nèi)容的把控上，很大程度上提高了課堂效率。”楊妮說(shuō)。

楊妮認(rèn)為，盡管人臉識(shí)別系統(tǒng)能給教學(xué)帶來(lái)一些好處，但是如果老師和學(xué)生長(zhǎng)期處于人工智能的“監(jiān)視”之下，有可能會(huì)適得其反。一旦學(xué)生意識(shí)到自己處于監(jiān)控狀態(tài)之下，那他們?cè)谡n堂中的表現(xiàn)就必然是失真的，老師們無(wú)法得到真實(shí)的教學(xué)反饋，也不能準(zhǔn)確了解學(xué)生們的興趣點(diǎn)和對(duì)知識(shí)的掌握情況。

“對(duì)于老師而言，在監(jiān)控之下教學(xué)，難免會(huì)出現(xiàn)迎合的心態(tài)，無(wú)法完全放開(kāi)自主發(fā)揮。老師們把課堂教學(xué)變成表演，學(xué)生們也在表演，長(zhǎng)此以往，教學(xué)效果就會(huì)不斷降低。”楊妮說(shuō)。

西安一名大學(xué)生陳霖(化名)告訴《法制日?qǐng)?bào)》記者，沒(méi)有哪個(gè)學(xué)生會(huì)喜歡這種上課方式。“這就像是有人在一直監(jiān)視你，沒(méi)有人會(huì)喜歡被監(jiān)視。對(duì)于類(lèi)似的系統(tǒng)，我們肯定是比較抵觸的，如果強(qiáng)制安裝，那只會(huì)讓大家的逆反心理更重，根本達(dá)不到提高課堂質(zhì)量的效果，學(xué)習(xí)關(guān)鍵還是要靠自覺(jué)。”

陳霖就讀的大學(xué)目前已經(jīng)開(kāi)始通過(guò)人臉識(shí)別進(jìn)行考勤，出入宿舍也會(huì)有人臉識(shí)別。

“這些都是出于安全考慮，我們可以理解，但如果人臉識(shí)別真的推廣到教室里，連大家的細(xì)微表情都能監(jiān)控，那就有點(diǎn)可怕了。”陳霖說(shuō)。

人臉識(shí)別侵犯隱私

教育創(chuàng)新尊重學(xué)生

據(jù)中國(guó)藥科大學(xué)圖書(shū)與信息中心有關(guān)負(fù)責(zé)人介紹，目前學(xué)校在兩間教室試點(diǎn)安裝的人臉識(shí)別系統(tǒng)，除了自動(dòng)識(shí)別學(xué)生出勤情況外，學(xué)生是否認(rèn)真聽(tīng)講，課堂上是否抬頭低頭，低頭是否在玩手機(jī)，是否閉眼打瞌睡，都逃不過(guò)系統(tǒng)的“法眼”。

上述人臉識(shí)別系統(tǒng)引起關(guān)注后不久，該人臉識(shí)別系統(tǒng)的開(kāi)發(fā)企業(yè)回應(yīng)稱(chēng)，該圖為技術(shù)場(chǎng)景化概念演示。針對(duì)網(wǎng)友熱議的隱私保護(hù)等問(wèn)題，這家開(kāi)發(fā)企業(yè)稱(chēng)，在人工智能技術(shù)的各種場(chǎng)景中，會(huì)堅(jiān)持正當(dāng)性、數(shù)據(jù)隱私保護(hù)等核心原則，接受社會(huì)的廣泛建議和監(jiān)督。

中國(guó)傳媒大學(xué)法律系主任鄭寧認(rèn)為，人臉識(shí)別系統(tǒng)在校園推廣確實(shí)有侵犯學(xué)生隱私的可能性。人臉屬于個(gè)人生物信息，而且屬于可以識(shí)別的個(gè)人信息，一旦被泄露或被不法分子利用，風(fēng)險(xiǎn)遠(yuǎn)遠(yuǎn)高于其他信息。

鄭寧告訴《法制日?qǐng)?bào)》記者，網(wǎng)絡(luò)安全法中提到，網(wǎng)絡(luò)運(yùn)營(yíng)者收集、使用個(gè)人信息，應(yīng)當(dāng)遵循合法、正當(dāng)、必要的原則，公開(kāi)收集、使用規(guī)則，明示收集、使用信息的目的、方式和范圍，并經(jīng)被收集者同意。網(wǎng)絡(luò)運(yùn)營(yíng)者不得收集與其提供的服務(wù)無(wú)關(guān)的個(gè)人信息，不得違反法律、行政法規(guī)的規(guī)定和雙方的約定收集、使用個(gè)人信息，并應(yīng)當(dāng)依照法律、行政法規(guī)的規(guī)定和與用戶(hù)的約定，處理其保存的個(gè)人信息。民法總則也明確提出，自然人的個(gè)人信息受法律保護(hù)。任何組織和個(gè)人需要獲取他人個(gè)人信息的，應(yīng)當(dāng)依法取得并確保信息安全，不得非法收集、使用、加工、傳輸他人個(gè)人信息，不得非法買(mǎi)賣(mài)、提供或者公開(kāi)他人個(gè)人信息。

鄭寧認(rèn)為，人格尊嚴(yán)是法律規(guī)定的人的基本權(quán)利，表情監(jiān)控在某種程度上侵犯了學(xué)生的尊嚴(yán)，也是對(duì)學(xué)生自主學(xué)習(xí)能力和教師授課能力的不信任。

“作為一線(xiàn)教師，我認(rèn)為，靠人臉識(shí)別系統(tǒng)對(duì)學(xué)生進(jìn)行表情監(jiān)控來(lái)提高課堂效率，既不合法，也不合理。提高課堂效率，歸根到底，還是要靠先進(jìn)的教學(xué)理念和教學(xué)方式、豐富生動(dòng)的教學(xué)內(nèi)容。”鄭寧說(shuō)。

21世紀(jì)教育研究院副院長(zhǎng)熊丙奇告訴《法制日?qǐng)?bào)》記者，去年，某中學(xué)使用“黑科技”打造“智慧教室”，對(duì)學(xué)生進(jìn)行表情監(jiān)控，以提高課堂教學(xué)效率，輿論對(duì)此普遍質(zhì)疑，認(rèn)為此舉不尊重學(xué)生的人格權(quán)利，侵犯學(xué)生隱私。學(xué)生長(zhǎng)期在監(jiān)控環(huán)境下學(xué)習(xí)、成長(zhǎng)，容易養(yǎng)成“表演性人格”。因此，對(duì)這種所謂的技術(shù)創(chuàng)新應(yīng)該持十分慎重的態(tài)度。

熊丙奇還認(rèn)為，在資本逐利和學(xué)校提高教學(xué)效果的雙重驅(qū)動(dòng)下，一些企業(yè)開(kāi)發(fā)并推廣這種以監(jiān)控學(xué)生上課表情、行為的人工智能系統(tǒng)，也有一些學(xué)校采用這樣的系統(tǒng)，并以使用后的效果，諸如學(xué)生上課更投入，老師管理學(xué)生更方便，學(xué)生成績(jī)提升以及學(xué)生間、師生間的沖突與糾紛減少，來(lái)論證采用這一系統(tǒng)的科學(xué)性、合理性。

“現(xiàn)代科學(xué)技術(shù)當(dāng)然可以用于教育教學(xué)中，但需要首先分辨清楚教育是什么。很顯然，在教室里安裝監(jiān)控，全天無(wú)休地對(duì)著學(xué)生，適時(shí)采集學(xué)生的表情、動(dòng)作，這種做法的反教育性質(zhì)比較明顯，但卻得到個(gè)別教育管理者和學(xué)校的認(rèn)可。這是因?yàn)橛械慕逃吆娃k學(xué)者忽略了教育的本質(zhì)，只是考慮怎么管理方便以及怎樣提高成績(jī)。”熊丙奇說(shuō)，學(xué)校是育人的地方，必須幫助學(xué)生健康成長(zhǎng)，所有的教育創(chuàng)新必須以尊重學(xué)生的人格為基本出發(fā)點(diǎn)。

新技術(shù)推廣須謹(jǐn)慎

教育不能偏離正軌

另?yè)?jù)了解，除了中國(guó)藥科大學(xué)之外，某小學(xué)也在使用同一套系統(tǒng)。這套系統(tǒng)運(yùn)用在姿態(tài)評(píng)估、表情識(shí)別、語(yǔ)言識(shí)別、教師軌跡熱力分析等方面，可以捕捉到學(xué)生在校園生活中是否有微笑、向老師問(wèn)好、主動(dòng)撿垃圾、列隊(duì)整齊等良好行為，或者快速奔跑、摔跤、打架、擁擠等危險(xiǎn)動(dòng)作。

鄭寧認(rèn)為，在學(xué)校推廣人臉識(shí)別技術(shù)要特別慎重。一些學(xué)校啟用人臉識(shí)別進(jìn)出校門(mén)，作為校園安全管理措施，有其正當(dāng)性，但應(yīng)該向師生明示收集、使用個(gè)人信息的目的、方式、范圍，并取得他們的授權(quán)，并且建立完善的個(gè)人信息安全保護(hù)措施，防止相關(guān)信息泄露或被不法分子利用，否則要承擔(dān)相應(yīng)的法律責(zé)任。在課堂里利用人臉識(shí)別進(jìn)行表情監(jiān)控，除非經(jīng)過(guò)學(xué)生明確授權(quán)，否則應(yīng)當(dāng)禁止。

在熊丙奇看來(lái)，教室里可以安裝監(jiān)控，但應(yīng)該只在兩種情況下使用，一是在考試時(shí)監(jiān)控考場(chǎng)秩序，二是在獲得教師和學(xué)生同意的情況下，直播課堂教學(xué)，與其他學(xué)校、課堂共享教育資源。如果一直使用監(jiān)控，盯著學(xué)生和教師的上課情況，會(huì)讓整個(gè)教學(xué)活動(dòng)變?yōu)楸硌荩瑢?duì)學(xué)生的人格成長(zhǎng)產(chǎn)生很大的負(fù)面影響。

“也有人說(shuō)安裝監(jiān)控系統(tǒng)，便于教師管理學(xué)生，但其實(shí)在監(jiān)控體系之下，教師也是被管理對(duì)象，長(zhǎng)期使用監(jiān)控系統(tǒng)，對(duì)教師的職業(yè)化、專(zhuān)業(yè)化發(fā)展也會(huì)有很大的負(fù)面影響，教師上課就依靠智能系統(tǒng)的‘反饋’,告訴教師哪個(gè)學(xué)生不認(rèn)真，哪個(gè)學(xué)生不專(zhuān)注，這是技術(shù)識(shí)別的結(jié)果。離開(kāi)了技術(shù)手段，老師還會(huì)教學(xué)嗎？教育是有情感和靈魂的事業(yè)，無(wú)節(jié)制地使用人臉識(shí)別等技術(shù)，會(huì)把教育變得沒(méi)有靈魂和情感，那還不如使用教育機(jī)器人。”熊丙奇說(shuō)。

熊丙奇認(rèn)為，要讓教育創(chuàng)新符合教育規(guī)律，應(yīng)該由教師委員會(huì)和學(xué)術(shù)委員會(huì)進(jìn)行論證，并廣泛聽(tīng)取教師和學(xué)生的意見(jiàn)，不能由少數(shù)人決定。在資本驅(qū)動(dòng)下，某些企業(yè)傾向于對(duì)一些教育領(lǐng)域的新概念進(jìn)行炒作，某些學(xué)校會(huì)因此變得急功近利，讓“人工智能+教育”的路越走越偏，因此需要及時(shí)正本清源、回歸正道。