國務(wù)院頒布的《未成年人網(wǎng)絡(luò)保護(hù)條例》(以下簡(jiǎn)稱《條例》)將于2024年1月1日起施行，這是我國首部專門性的未成年人網(wǎng)絡(luò)保護(hù)綜合立法?！稐l例》規(guī)定了培育未成年人網(wǎng)絡(luò)素養(yǎng)、規(guī)范網(wǎng)絡(luò)信息內(nèi)容等未成年人網(wǎng)絡(luò)保護(hù)領(lǐng)域的基礎(chǔ)制度，并強(qiáng)調(diào)了平臺(tái)企業(yè)主體責(zé)任。平臺(tái)企業(yè)如何落實(shí)即將施行的《條例》？如何構(gòu)建未成年人網(wǎng)絡(luò)保護(hù)合規(guī)體系？針對(duì)這些問題，記者采訪了專家和多家平臺(tái)企業(yè)。
《條例》解讀
對(duì)大型平臺(tái)企業(yè)提出特別要求
“《條例》壓緊壓實(shí)平臺(tái)企業(yè)主體責(zé)任，明確規(guī)定了平臺(tái)企業(yè)在未成年人網(wǎng)絡(luò)保護(hù)中的具體義務(wù)?！北本┣嗌倌攴稍c研究中心主任佟麗華介紹，比如要求智能終端產(chǎn)品制造者應(yīng)當(dāng)在產(chǎn)品出廠前安裝未成年人網(wǎng)絡(luò)保護(hù)軟件，或者采用顯著方式告知用戶安裝渠道和方法；強(qiáng)化智能終端產(chǎn)品的未成年人保護(hù)功能；規(guī)范網(wǎng)絡(luò)信息內(nèi)容管理等。
同時(shí)，《條例》第二十條明確了對(duì)未成年人用戶數(shù)量巨大或者對(duì)未成年人群體有顯著影響的網(wǎng)絡(luò)平臺(tái)企業(yè)的有關(guān)義務(wù)要求。
“很多大型社交娛樂以及信息資訊類平臺(tái)企業(yè)，面臨著復(fù)雜的未成年人保護(hù)形勢(shì)。未成年人用戶數(shù)量巨大或者對(duì)未成年人群體有顯著影響的網(wǎng)絡(luò)平臺(tái)企業(yè)，不僅要模范遵守《條例》關(guān)于網(wǎng)絡(luò)企業(yè)所有合規(guī)制度的要求，還必須從六個(gè)方面遵守特別的要求。”佟麗華指出。
這些要求包括：在網(wǎng)絡(luò)平臺(tái)服務(wù)的設(shè)計(jì)、研發(fā)、運(yùn)營等階段，充分考慮未成年人身心健康發(fā)展特點(diǎn)，定期開展未成年人網(wǎng)絡(luò)保護(hù)影響評(píng)估；按照國家規(guī)定建立健全未成年人網(wǎng)絡(luò)保護(hù)合規(guī)制度體系，成立主要由外部成員組成的獨(dú)立機(jī)構(gòu)，對(duì)未成年人網(wǎng)絡(luò)保護(hù)情況進(jìn)行監(jiān)督等。
與此同時(shí)，根據(jù)《條例》，違反未成年人網(wǎng)絡(luò)保護(hù)義務(wù)的企業(yè)將面臨嚴(yán)厲的法律責(zé)任。
“多年來，未成年人保護(hù)等領(lǐng)域的社會(huì)法都面臨著社會(huì)上一個(gè)重大關(guān)切：那就是法律道德化，違反法律缺乏有效的處罰，違法成本過低?！辟←惾A指出，《條例》規(guī)定了全面的法律責(zé)任條款，尤其是相關(guān)企業(yè)在違反《條例》要求的時(shí)候，本著寬嚴(yán)相濟(jì)的原則，規(guī)定了不同程度的法律責(zé)任。
“很多平臺(tái)企業(yè)對(duì)怎樣做好未成年人網(wǎng)絡(luò)保護(hù)工作了解不夠、重視不夠，也不清楚如何更好地做工作?！辟←惾A說，從國家立法的角度來看，《條例》與其說給平臺(tái)企業(yè)提出了各種要求，不如說指明了方向、確立了方法，企業(yè)只有積極落實(shí)規(guī)定才能實(shí)現(xiàn)健康持續(xù)發(fā)展。
專家建議
平臺(tái)企業(yè)進(jìn)行未成年人網(wǎng)絡(luò)保護(hù)狀況專項(xiàng)評(píng)估
平臺(tái)企業(yè)在未成年人網(wǎng)絡(luò)保護(hù)中發(fā)揮著重要作用，如何落實(shí)是社會(huì)關(guān)注的問題。佟麗華提到了“定期評(píng)估”的要求。
“現(xiàn)在很多平臺(tái)企業(yè)依然沒有做到這一點(diǎn)?！辟←惾A指出，此次《條例》中有幾項(xiàng)非常具體的條款，如第二十條要求“定期開展未成年人網(wǎng)絡(luò)保護(hù)影響評(píng)估”“每年發(fā)布專門的未成年人網(wǎng)絡(luò)保護(hù)社會(huì)責(zé)任報(bào)告”。
“在《條例》施行前，平臺(tái)企業(yè)應(yīng)以負(fù)責(zé)任的態(tài)度對(duì)企業(yè)未成年人網(wǎng)絡(luò)保護(hù)狀況進(jìn)行專項(xiàng)評(píng)估，尤其是未成年人用戶數(shù)量巨大或者對(duì)未成年人群體有顯著影響的大型平臺(tái)企業(yè)，盡快開展一次專項(xiàng)評(píng)估是非常必要的?！?/p>
同時(shí)，佟麗華指出，平臺(tái)企業(yè)內(nèi)部部門林立，很多決策以及工作都圍繞著企業(yè)利益在開展，未成年人保護(hù)工作往往處于邊緣狀態(tài)，這嚴(yán)重影響了平臺(tái)企業(yè)開展未成年人保護(hù)工作的成效。因此，他建議未成年人用戶數(shù)量巨大或者對(duì)未成年人群體有顯著影響的網(wǎng)絡(luò)平臺(tái)企業(yè)盡快建立未成年人保護(hù)內(nèi)部協(xié)調(diào)機(jī)制，公司主要負(fù)責(zé)人牽頭協(xié)調(diào)，每年定期召開會(huì)議，從企業(yè)戰(zhàn)略、重大決策、重點(diǎn)工作等各方面貫徹未成年人保護(hù)理念，明確企業(yè)具體負(fù)責(zé)未成年人保護(hù)工作的部門及其職責(zé)，負(fù)責(zé)開展未成年人保護(hù)工作。
“政府、企業(yè)、家庭、學(xué)校、社會(huì)組織各方都要參與進(jìn)來，只有各方主體共同努力，才能有效解決問題。”佟麗華說，無論在哪個(gè)國家，在數(shù)字時(shí)代發(fā)展過程中對(duì)數(shù)字技術(shù)的應(yīng)用，相對(duì)于政府、學(xué)校、家長來說、企業(yè)都是走在前面的。因此，企業(yè)應(yīng)該參與到培養(yǎng)未成年人網(wǎng)絡(luò)素養(yǎng)、培養(yǎng)老師和父母網(wǎng)絡(luò)素養(yǎng)的過程中。
企業(yè)探索
提升技術(shù)手段，營造綠色安全網(wǎng)絡(luò)環(huán)境
《條例》公布之后，各方也行動(dòng)起來。11月12日，由北京市委網(wǎng)信辦指導(dǎo)、首都互聯(lián)網(wǎng)協(xié)會(huì)和北京師范大學(xué)新聞傳播學(xué)院主辦的“e起首護(hù)”《未成年人網(wǎng)絡(luò)保護(hù)條例》普法宣傳活動(dòng)啟動(dòng)儀式上，首都互聯(lián)網(wǎng)協(xié)會(huì)向會(huì)員、企業(yè)等發(fā)出《未成年人網(wǎng)絡(luò)保護(hù)行業(yè)自律倡議》。
記者了解到，針對(duì)家長反饋的痛點(diǎn)、難點(diǎn)，平臺(tái)企業(yè)通過引入大模型技術(shù)、提供家長管理工具、建設(shè)信息“防火墻”、預(yù)裝軟件過濾有害信息等舉措，保護(hù)青少年健康觸網(wǎng)。
以網(wǎng)絡(luò)游戲?yàn)槔?，?021年游戲防沉迷新規(guī)落實(shí)后，未成年人玩家每周游戲時(shí)間被控制在3小時(shí)內(nèi)，但部分未成年人使用各種手段繞過監(jiān)管仍是讓家長頭疼的問題。對(duì)此，網(wǎng)易游戲借助AI大模型技術(shù)對(duì)未成年人保護(hù)體系進(jìn)行智能升級(jí)，推出AI巡邏員提高未成年人風(fēng)險(xiǎn)行為識(shí)別準(zhǔn)確率。
調(diào)研數(shù)據(jù)顯示，違規(guī)登入游戲的未成年人玩家主要是使用了成年人的賬號(hào)，AI巡邏員的第一項(xiàng)任務(wù)就是基于未成年人行為精準(zhǔn)判斷疑似未成年人玩家，并進(jìn)行行為干預(yù)。而針對(duì)疑似未成年人的不理性消費(fèi)行為，AI巡邏員能夠做到提前預(yù)測(cè)，在消費(fèi)發(fā)生前就介入干預(yù)攔截。
此外，網(wǎng)易AI巡邏員專門配備了多維的監(jiān)控與打擊體系，包括危害未成年人不良信息AI識(shí)別模型、不良信息的過濾與隔離機(jī)制、未成年人社交風(fēng)控模型、網(wǎng)絡(luò)黑手專項(xiàng)打擊等，以系統(tǒng)化且多維化的監(jiān)管模式，嚴(yán)打網(wǎng)絡(luò)中的有害信息。據(jù)悉每月過濾不良信息超7300萬條，全方位構(gòu)建綠色的網(wǎng)絡(luò)游戲空間。
據(jù)統(tǒng)計(jì)，試運(yùn)行至今，AI巡邏員已成功辨別出使用成年人信息進(jìn)行實(shí)名認(rèn)證的未成年人超千萬并納入監(jiān)管，干預(yù)上萬個(gè)未成年人使用成人賬號(hào)的高額消費(fèi)，處理涉騷擾未成年人玩家違規(guī)賬號(hào)8萬多個(gè)。
為了進(jìn)一步防止部分未成年人冒用成年人身份進(jìn)行游戲和消費(fèi)的現(xiàn)象，《蛋仔派對(duì)》將持續(xù)優(yōu)化和升級(jí)AI巡邏識(shí)別技術(shù)。尤其針對(duì)存在大額充值行為的高風(fēng)險(xiǎn)用戶，游戲內(nèi)將強(qiáng)制彈窗進(jìn)行人臉識(shí)別認(rèn)證，不通過認(rèn)證的賬號(hào)會(huì)被鎖定，無法進(jìn)行游戲。
此外，網(wǎng)易游戲成立了專為未成年人服務(wù)的部門“網(wǎng)易游戲未成年人保護(hù)中心”，下設(shè)防沉迷產(chǎn)品開發(fā)、網(wǎng)絡(luò)環(huán)境治理、網(wǎng)絡(luò)安全教育等工作組，系統(tǒng)構(gòu)建了全新的未成年人保護(hù)機(jī)制。此外，還設(shè)立了一個(gè)特殊的客服團(tuán)隊(duì)——網(wǎng)易游戲未成年人保護(hù)團(tuán)隊(duì)，快速響應(yīng)解決家長在未成年人游戲行為監(jiān)管中遇到的問題。保護(hù)團(tuán)隊(duì)在接收到家長關(guān)愛平臺(tái)上的相關(guān)舉報(bào)后，會(huì)以最快的速度查實(shí)情況，并與家長溝通解決問題，確保未成年人的網(wǎng)絡(luò)安全。
抖音則采取了包括強(qiáng)制進(jìn)入青少年模式、提供家長管理工具等在內(nèi)的多種措施，在安全使用、防沉迷管理、優(yōu)質(zhì)內(nèi)容生態(tài)建設(shè)等領(lǐng)域全面保護(hù)青少年上網(wǎng)安全。
網(wǎng)絡(luò)上的違法和不良信息一直是家長擔(dān)憂的問題。針對(duì)這一痛點(diǎn)，未開啟青少年模式場(chǎng)景下，抖音通過技術(shù)手段主動(dòng)進(jìn)行人群識(shí)別保護(hù)，一旦判斷疑似未成年人使用時(shí)，即刻上線保護(hù)措施，保護(hù)未成年人不受不良評(píng)論內(nèi)容侵害，并對(duì)可能存在風(fēng)險(xiǎn)的私信會(huì)話進(jìn)行安全提醒。此外，重點(diǎn)對(duì)飯圈文化、邪典、不良價(jià)值觀(炫富、喪文化等)、軟色情等風(fēng)險(xiǎn)進(jìn)行詳細(xì)梳理，通過上線多種類型風(fēng)控模型策略，深入挖掘清理侵害青少年權(quán)益、危害青少年身心健康的違規(guī)內(nèi)容、話題、賬號(hào)等，對(duì)相關(guān)內(nèi)容進(jìn)行嚴(yán)格處置。
新京報(bào)記者 蘇季
寧德新聞監(jiān)督電話:0593-2099788 投稿郵箱：ndnews@126.com
閩公網(wǎng)安備
35099902000052號(hào)