新華社北京3月19日電 題：給互聯(lián)網(wǎng)新技術(shù)新應(yīng)用提前劃“紅線”——國(guó)家網(wǎng)信辦、公安部約談11家企業(yè)傳遞監(jiān)管新信號(hào)

新華社記者 王思北、顏之宏

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門(mén)、公安機(jī)關(guān)加強(qiáng)對(duì)語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估工作，并對(duì)近期未履行安全評(píng)估程序的11家企業(yè)進(jìn)行約談，引發(fā)社會(huì)關(guān)注。

專(zhuān)家認(rèn)為，不同于以往的事后監(jiān)管，此次安全評(píng)估工作和約談給有關(guān)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用提前劃“紅線”，“事前規(guī)制”有利于企業(yè)及時(shí)發(fā)現(xiàn)安全隱患，整改安全問(wèn)題，切實(shí)履行信息內(nèi)容安全主體責(zé)任，維護(hù)網(wǎng)絡(luò)傳播秩序，營(yíng)造良好網(wǎng)絡(luò)生態(tài)。

根據(jù)國(guó)家網(wǎng)信辦發(fā)布的通報(bào)，此次安全評(píng)估工作主要針對(duì)近期未履行安全評(píng)估程序的語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，旨在加強(qiáng)對(duì)具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)和相關(guān)新技術(shù)新應(yīng)用的安全管理，規(guī)范互聯(lián)網(wǎng)信息服務(wù)活動(dòng)，切實(shí)維護(hù)國(guó)家安全、社會(huì)秩序和公共利益。

2018年11月，國(guó)家網(wǎng)信辦和公安部聯(lián)合發(fā)布《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》。根據(jù)這一規(guī)定，出現(xiàn)具有輿論屬性或社會(huì)動(dòng)員能力的信息服務(wù)上線，或者信息服務(wù)增設(shè)相關(guān)功能；使用新技術(shù)新應(yīng)用，使信息服務(wù)的功能屬性、技術(shù)實(shí)現(xiàn)方式、基礎(chǔ)資源配置等發(fā)生重大變更；用戶(hù)規(guī)模顯著增加等情形，互聯(lián)網(wǎng)信息服務(wù)提供者應(yīng)當(dāng)自行開(kāi)展安全評(píng)估，對(duì)評(píng)估結(jié)果負(fù)責(zé)，并向網(wǎng)信部門(mén)和公安機(jī)關(guān)提交報(bào)告。網(wǎng)信部門(mén)和公安機(jī)關(guān)根據(jù)對(duì)安全評(píng)估報(bào)告的書(shū)面審查情況，認(rèn)為有必要的，應(yīng)當(dāng)依據(jù)各自職責(zé)對(duì)互聯(lián)網(wǎng)信息服務(wù)提供者開(kāi)展現(xiàn)場(chǎng)檢查。

針對(duì)近期未履行安全評(píng)估程序的語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的應(yīng)用，國(guó)家網(wǎng)信辦、公安部指導(dǎo)北京、天津、上海、浙江、廣東等地方網(wǎng)信部門(mén)、公安機(jī)關(guān)依法約談?dòng)晨汀⑿∶住⒖焓帧⒆止?jié)跳動(dòng)、鯨準(zhǔn)數(shù)服、云賬戶(hù)、喜馬拉雅、阿里巴巴、網(wǎng)易云音樂(lè)、騰訊、去演等11家企業(yè)，督促其按照網(wǎng)絡(luò)安全法、《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等法律法規(guī)及政策要求，認(rèn)真開(kāi)展安全評(píng)估，完善風(fēng)險(xiǎn)防控機(jī)制和措施，并對(duì)安全評(píng)估中發(fā)現(xiàn)的安全隱患及時(shí)采取有效整改措施，切實(shí)履行企業(yè)信息內(nèi)容安全主體責(zé)任。

記者了解到，近幾年，一批如唱歌類(lèi)、一對(duì)一語(yǔ)音聊天室等方式的語(yǔ)音社交類(lèi)軟件開(kāi)始涌現(xiàn)，成為不少年輕群體的社交新選擇。一方面，語(yǔ)音社交拓展了人們的社交渠道，增強(qiáng)了部分人群的連接效率，但同時(shí)也存在使用門(mén)檻低、內(nèi)容隱匿性強(qiáng)等特點(diǎn)。

而“深度偽造”技術(shù)則利用機(jī)器的深度學(xué)習(xí)，實(shí)現(xiàn)圖像、聲音、視頻的篡改、偽造和自動(dòng)生成，產(chǎn)生高度逼真且難以甄別的效果。

“‘深度偽造’技術(shù)如果濫用，會(huì)產(chǎn)生嚴(yán)重后果。”中國(guó)信息安全研究院副院長(zhǎng)左曉棟舉例說(shuō)，此前國(guó)外一些人利用換臉技術(shù)偽造藝人的影像資料，就引發(fā)過(guò)網(wǎng)友對(duì)該項(xiàng)技術(shù)的熱議。

2019年12月，國(guó)家網(wǎng)信辦發(fā)布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，明確網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和生產(chǎn)者、平臺(tái)不得開(kāi)展網(wǎng)絡(luò)暴力、人肉搜索、深度偽造、流量造假、操縱賬號(hào)等違法活動(dòng)。

左曉棟說(shuō)，此次有關(guān)部門(mén)約談相關(guān)企業(yè)，一方面是為了給部分平臺(tái)上存在涉“深度偽造”技術(shù)、存在的安全隱患敲警鐘，另一方面也要求行業(yè)內(nèi)的相關(guān)企業(yè)依法依規(guī)保護(hù)用戶(hù)個(gè)人信息和名譽(yù)權(quán)，對(duì)于可能涉嫌違法犯罪的相關(guān)線索，要及時(shí)上報(bào)有關(guān)監(jiān)管部門(mén)。

專(zhuān)家認(rèn)為，語(yǔ)音社交軟件由于其使用門(mén)檻低、內(nèi)容隱匿性強(qiáng)等特點(diǎn)，也給監(jiān)管造成了較大難度。因此，在推動(dòng)這一新興行業(yè)發(fā)展的同時(shí)，也要吸取以往在短視頻、直播平臺(tái)治理方面的經(jīng)驗(yàn)教訓(xùn)，對(duì)語(yǔ)音社交產(chǎn)品進(jìn)行前瞻性監(jiān)管。

“這次約談釋放了一個(gè)比較明確的信號(hào)，就是在新技術(shù)新應(yīng)用尚未在國(guó)內(nèi)造成較大影響的時(shí)候，監(jiān)管部門(mén)提前介入，給企業(yè)打預(yù)防針。”資深互聯(lián)網(wǎng)行業(yè)專(zhuān)家尹生說(shuō)。他建議，在對(duì)某項(xiàng)技術(shù)進(jìn)行“事前規(guī)制”的同時(shí)，相關(guān)部門(mén)也應(yīng)著力提升監(jiān)管技術(shù)，用技術(shù)管住技術(shù)，以此來(lái)提高監(jiān)管實(shí)效和質(zhì)量。

據(jù)悉，下一步，國(guó)家網(wǎng)信辦、公安部將繼續(xù)指導(dǎo)各地網(wǎng)信部門(mén)和公安機(jī)關(guān)加大巡查檢查力度，督促屬地互聯(lián)網(wǎng)企業(yè)嚴(yán)格遵守相關(guān)法律法規(guī)，積極主動(dòng)履行安全管理義務(wù)，切實(shí)履行企業(yè)主體責(zé)任，共同維護(hù)網(wǎng)絡(luò)傳播秩序，營(yíng)造良好網(wǎng)絡(luò)生態(tài)。