在未成年人保護中,那些技術解決不了的事才是最重要的

在未成年人保護中,那些技術解決不了的事才是最重要的

圖片來源@視覺中國

張曉京今天是早班,按說18點就可以下班了,但她還在對著滿屏資料判斷這是不是一個未成年人使用的賬號。

她是騰訊成都未成年人遊戲服務團隊的客服,每日根據使用者提供的資料處理涉及未成年人充值的退款申請。

時針再往前撥兩年,她需要每天往外給騰訊遊戲使用者打電話,確認剛充值的大額消費是本人所為,200多萬通外呼電話的數字就是她和同事們一通通電話積累來的。

現在她依舊得每天往外給成年人們打電話,但被罵神經病的情況估計比之前少多了。因為這些退款申請背後的家庭們,都在等著她。

“我的孩子沉迷遊戲,我該去找誰負責?”

在張曉京的工作之前,有客服同事需要先做簡單的 “篩選”,把每日接聽的退款申請記錄下來,並讓對方提供遊戲賬號、身份證和戶口本照片、充值記錄截圖等資料。

能順利在第一次打電話中完成以上步驟的家長並不多,很多家長不知道孩子的遊戲賬號叫什麼,不知道孩子是從什麼時候開始玩的,不知道孩子是在電商平臺充值的,甚至不知道這個遊戲其實不是騰訊的遊戲。

張曉京所處的客服崗位的許可權比我想象中的要高——瞭解完退款申請的賬號使用時間、未成年人的年齡等資訊,不用給上一級彙報再等一輪批准,就可以直接決定是否退款。

在客服中心的內部系統中輸入遊戲賬號,演算法會針對疑點先給出初步的判斷,之後,是否退款以及退多少錢就靠客服溝通判斷了。

可以說,在退款這件事上,技術能解決的問題有限。

有一些申請顯然微妙到很難用已有經驗去分辨——退款申請的未成年人只有九歲,賬號則是4年前建立的,玩的遊戲是《鬥地主》,遇到這種單子,張曉京就只能多打電話向家長了解情況。

客服做久了,也會遇到一些極端案例,比如一位父親在申請退款過程中氣從中來,在電話那頭直接打起了孩子。

但在我跟臺的一下午中,一位行為毫不過激的母親給我留下了最深的印象:家長申請退款的遊戲是《王者榮耀》,孩子從2017年開始玩,馬上15歲了,三年內斷斷續續充了1萬多元,還偷家裡的錢買了部手機。

家長最近才發現這筆支出,那位母親說自己家是做生意的,當初沒留意這筆錢,她的訴求只有兩點:退全款,把孩子賬號封禁掉。

她語氣平淡地說出自己的訴求,說到最後才帶了點情緒:“我的孩子沉迷遊戲,我該去找誰負責,你們知道你們的遊戲有多少孩子在玩嗎?你們為什麼要做遊戲?”

而她在說這句話時,可能不知道自己孩子昨晚又在玩這款遊戲,也可能是她知道,但她不願意與孩子溝通,或者親子關係已經破裂到了無法對話的地步。

這位母親態度帶來的窒息感已經讓我後背開始出汗了。坐旁邊的張曉京神色如常,手裡掰扯著公司統一發的解壓玩具——一個藍色的菠蘿。

當然,知道能全數退款後,大部分家長態度還是非常好的。一位父親對張曉京連說了兩次謝謝,但當張曉京說要把申請退款的賬號封禁後,家長有點著急了:“能不能不封賬號啊?”他害怕孩子會不開心。

張曉京接觸得多了,心裡也有判斷:這位父親應該不太能管得住孩子。之前也有賬號被封后,孩子又哭又鬧,家長再打來電話要求解封賬號的事件。

但將賬號封禁是內部規定,她只能建議家長再跟孩子溝通下,重新在其他區建一個未成年人實名制賬號。

我們之後談到更具體的退款決策過程,張曉京說:“對於沒什麼疑點的退款申請,能退就退。你今天下午看的單子算是比較簡單的。”

“那什麼算是比較複雜的?”

“就是那種成年人和未成年都有消費和使用過的賬號。今年這種單子格外多,因為疫情期間,小朋友在家上網課都得用手機。

你想啊,上網課明明只用兩個小時,但小孩子在房間裡面坐了4個小時,而且現在小孩都比較聰明,他就全把那些支付記錄給你刪完了,家長根本就不知道。 ”

和張曉京聊天之前,成都客服中心未成年人遊戲服務團隊負責人陶金也稱,他們今年明顯發現裝置共用的情況越來越多,有的時候螢幕前是未成年在玩,“(但)從賬號行為來看,它就是一個成年人正常的微信賬號。”

在他們收到的退款申請中,孩子的裝置獲取場景68%是上網課,16%是父母無暇照顧孩子就主動把裝置給孩子,11%是孩子日常娛樂索取裝置,5%是隔代撫養下,為安全管束孩子的方式。

深水區

鈦媒體App之前對騰訊遊戲未成年人保護體系進行過報道:「成長守護平臺」是於事前,家長在玩遊戲這件事上給予未成年人關注、引導,起得是預防的作用;「健康系統」則在未成年人遊戲中,企業起到監管、限制的作用;「少年燈塔」是企業提供的事後服務,比如張曉京現在正在進行的退款業務。

其中,「成長守護平臺」和「健康系統」是守在成人遊戲世界的兩道關卡——家長主動把孩子賬號繫結到成長守護平臺,基本不會出現孩子過度遊戲時長和大額充值的事。

但更多的家長或更相信自己孩子的自控能力,或壓根不知道這個平臺的存在。

因此,「健康系統」的主要任務一直是儘可能精準地找出未成年使用者,全面實名制、接入公安權威資料平臺、上線人臉識別功能、建立一套識別疑似未成年人使用者的演算法都是為了解決這個問題。

如果未成年人一路過五關斬六將避開「健康系統」進行了大額充值,「少年燈塔」接到退款申請後就會開始核實賬號資訊進行退款。

騰訊內部將以上架構和功能的建設稱為騰訊未成年人保護體系的1.0和2.0階段。

今年,他們稱騰訊未成年人保護體系進入到3.0階段:在對已實名未成年人“限玩、限充、宵禁”基礎上,專門針對“孩子冒用家長身份資訊繞過監管”的問題,擴大人臉識別技術應用範圍,對疑似未成年人的使用者進行甄別。

也就是說,他們現在重點要研究並解決那些繞過健康系統的案例,“有些孩子冒用家長的身份資訊或者是他人的身份資訊繞過了我們遊戲裡面的限制,這部分的孩子,我們要把他管起來。”騰訊團隊認為,嘗試解決這個問題的他們現在是來到了深水區。

疫情也催熟了這些問題——當孩子聲稱用手機上網課,和家長共用裝置時,如何精準識別這段時間是孩子在使用賬號;事後,如何分辨背後使用的人;如何讓不太懂智慧手機的家長學會管理裝置,學會了解孩子。

這些問題裡,能用技術完全解決的並不多。

技術能解決什麼?

找出解決方法之前,我們需要先還原未成年人成功充值或超時長玩遊戲的情景。

根據媒體報道的幾例疫情期間未成年人充值事件來看,發生條件之一是孩子使用著家長的裝置,裝置中有支付寶、微信等支付方式。

其中肯定有系統未檢測出疑點的情況,而在大部分情況中,家長的遊戲賬號可能已被記錄為成年人,或者,當演算法檢測出未成年人行為時,孩子讓父母或非父母的成年人通過了人臉識別。

那些孩子給家長說的理由也有理有據,讓人不忍拒絕,比如學校要交材料需要家長照照片。

有一份退款申請就顯示,未成年人使用的賬號在7月、9月3次觸發了人臉識別併成功透過,系統確認為成年人操作,且與實名認證資訊相符。實際情況是,未成年人的母親在不知情的情況下,被孩子要求幫忙進行了人臉實名,事件裡的未成年人只有9歲。

另一個必要條件是孩子透過偷看/根據生日等資訊猜測嘗試/父母告知等方式知道了家長的支付密碼。

遊戲公司的技術在其中可以做的是:再一次加強檢測和驗證力度,並儘量減少父母不知情的情況。

今年10月21日起,騰訊在人臉識別驗證流程中上線了語音播報和畫面提示的功能:若使用者在遊戲充值環節觸發人臉識別驗證,系統將自動進行語音播報及畫面提示,讓家長清楚這次人臉識別是在幫孩子往遊戲裡充錢。

此功能上線後,下方評論提出了更多建議,如提示音量必須是系統設定好的,不能透過人工關閉或調低,且要求家長大聲讀出“我要充值 ”句子。

騰訊團隊稱,未保3.0應用到的人臉識別技術,原理是將使用者面部資訊與公安權威資料平臺數據源一比一比對,也曾考慮讓家長讀出句子再充值。但這也帶來一個問題,就是過於簡單固定的語句,容易被地下黑產破解,另外也有一定機率會損害成年人的遊戲充值體驗。

也有很多使用者提出無差別人臉識別的建議,即每一位玩家在每一次登入、支付環節都進行人臉識別。但他們完全忽視了背後巨大的技術和經濟成本,以及目前使用者最注重的隱私問題,這個建議的可行性並不高 。

而在發現技術無法完美解決一些問題後,深水區裡的另一塊暗礁也越來越明顯——那些用技術怎麼也解決不了的問題,比如面對學習能力極強、每日暢遊在網際網路的孩子們,家長該如何管理教育 。

在「騰訊未成年人家長服務平臺」小程式中,家長將會收到一份關懷問卷。問卷填寫過程能幫助家長還原支付失控過程,給予不同場景下的教育技巧,獲取管理孩子賬號、與孩子平等溝通等問題的解決方案。每一種方案中也都針對不同場景提供了詳細的步驟。這些文字精準嚴肅,但又有點蒼白無力。

在未成年人保護中,那些技術解決不了的事才是最重要的

因為面對這些詳細到甚至有點苦口婆心的步驟,有多少比例的家長會去學習並照做?執行後,又有多少比例的家長可以解決問題?這些數字都很難得到解答。

同時,還有一些無法提供步驟去解決的難題,一個案例是,一位家長提供的充值記錄的金額遠遠超出孩子自己遊戲賬號的充值金額,後來客服了解到,孩子是在學校遭受了校園霸凌,而家長對此一無所知。

就這樣做著做著,他們又陷入到另一個漩渦裡:對於企業來說,未成年保護工作的邊界到底在哪裡?

邊界

陶金從2017年開始接手成都客服中心的工作,最早他是認為自己在解決問題——打電話核實賬號資訊,解決家長的退款申請;到中段,他發現他們提供的服務和遊戲產品運營的聯絡緊密了起來;到了第三階段,他希望這個團隊能在公共服務上更有溫度、付出更多。

家長孩子雙方與客服的溝通中,大部分問題其實屬於親子關係的範疇。客服中心有設定對孩子和家長心理輔導的崗位,如果客服在整個電話溝透過程中,認為家庭的親子關係比較緊張,或衝突性很大的,他們也會主動向家長提出來需不需要這個服務,最終由家長決定是否參與。

現在,陶金想得更多了起來:

“技術永遠會有一個瓶頸。它(未成年人保護)應該是有組合拳的感覺,又有技術,又有服務上的互動,還要有和家長的溝通和教育,然後再加上媒體從業者對於大眾的傳播,甚至是立法層面上的一些推動,才能把整個事情做得更好一點。所以現在會發現,我們各個層面都在做,我們服務也要跟上。”

在陶金說這段話的前一天,他們團隊又在想有什麼方法既能解決未成年人繞過健康系統的問題,又能兼顧成年玩家的體驗。

孫宏豔在旁邊聽著,忍不住開口:

“我覺得作為企業,還是要做好主業。這些問題很多真的都不是靠技術能解決的問題。我們只能說,我們在技術的優勢下能做到一定的程度,然後能承擔一定的責任社會,我覺得就夠了。如果太有潔癖了、太有完美強迫症的話,我覺得也是一個問題。”

孫宏豔是中國青少年研究中心少年兒童研究所所長和研究員,她認為,有關孩子與遊戲的問題,其實都是現實問題的線上化。孩子在遊戲裡大額消費這件事,放到十年前看,就是家長管不住自己的錢包,屬於教育問題。

中國青少年研究中心去年釋出了《中小學生網路遊戲的認知、態度、行為研究報告》,對矛盾背後的家庭問題進行了全面的調查研究 :

親子關係的緊密程度、表達型別和發展方向,與“網遊”沉迷的起因和狀態,有著高度相關性:民主性、開放性的家庭,往往具有更好的親子關係。廣泛的話題可以在更全面、更客觀的對話基礎上交流,對“網遊”之利弊、長短,孩子會更早地產生理性認識,從而改變自己的行為。

苑寧寧又往外延伸了一下,他發現,不僅是孩子沉迷遊戲或超額消費,還有更多關於未成年人的現實問題,比如性引誘、性猥褻等問題,都被網際網路以線上的形式呈現並放大。

苑寧寧是中國政法大學副教授,他參與了《未成年人保護法》於今年的第三次修訂,修訂後的未保法共132條,新增了“網路保護”和“政府保護”專章,並強化了監護人的第一責任。

在修訂內容中,“國家建立統一的未成年人網路遊戲電子身份認證系統。網路遊戲服務提供者應當要求未成年人以真實身份資訊註冊並登入網路遊戲”無疑是技術方面最有效的問題解決方式,但落地過程註定複雜漫長,而網際網路與孩子家長三方之間的矛盾已無法再等待下去。

“在一審稿過程中,網路保護專章原來只是寫網際網路企業和服務平臺的責任,但現在,我們也把學校家長那部分責任全加進去了,就是為了給大家一個感觀:網路保護不僅僅是平臺和企業的責任。”

但苑寧寧他們也清楚,相比孩子,家長群體的網路素養較為落後,且培養也需要一定的過程。

在這種情況下,他認為獲取了資料紅利的網際網路企業得負責比較重的責任,“因為其他群體沒有這個優勢......所以現在我們正在制定那樣一部法律,就是家庭教育法。我們透過提高家庭教育指導服務,去提高父母的教育能力,包括引導孩子正確上網的能力等,政府也在想辦法。”

騰訊未成人保護團隊也有這個意識,退款是未成年人保護鏈條中的最末端任務,他們一層層往上回溯:如果在遊戲中就能識別出未成年人,不讓他們充值,那就不用讓家長這麼辛苦地申請退款了;再往上,如果家長能早早將孩子賬號繫結到「成長守護平臺」上,那就不會有「漏網之魚」了。

所以,那些技術解決不了的事可能才是最重要的,即培養家長的教育能力,讓他們瞭解並開始使用「成長守護平臺」,讓他們知道如何處理孩子與遊戲或是移動網際網路的關係。

孫宏豔覺得企業目前的重點還是宣傳:“我覺得作為企業不能糾結,該承擔的社會責任是要加強好宣傳,尤其是農村地區,我覺得他們的問題更大。現在農村的網際網路使用者資料開始上來了,而爺爺奶奶等留守兒童的監護人更不瞭解網路,我一直覺得這個宣傳應該加大。”

騰訊也去一些農村地區使用拉橫幅的方法宣傳過,但讓老人們注意到並弄明白這些文字都不太容易,讓他們一步步摸索著繫結資訊就更難了。

在未成年人保護中,那些技術解決不了的事才是最重要的

我跟臺的一下午中,有位婆婆的外孫在遊戲裡充了錢,瞭解到孩子媽媽在外地後,客服第一反應就是先問媽媽手機號直接與家長溝通,但婆婆就連搞清要讓他們打給哪個女兒都得好幾次溝通,我們也能預估到,之後孩子媽媽與這位婆婆之間的溝通成本有多大。

所以,成長守護平臺現在也開始做一些影片內容上傳到微信影片號上,和他們之前一直做的文字內容一樣,除了向家長介紹成長守護平臺的內容,還有一些關於教育、親子關係的內容。

討論著,孫宏豔又提了一個建議:“去地鐵投放會不會更好呢?”

這樣的宣傳也不是沒有做過,騰訊在深圳地鐵投放過成長守護平臺的廣告,在其中放上了之前一位家長給他們的留言:“作為母親,從望子成龍到希望孩子身心健康就好。想讓他成績 拿班上第一,可我薪水也沒到部門第一呀 。他比我好,就是進步。”

在未成年人保護中,那些技術解決不了的事才是最重要的

這件事最後的結果是,這段話被另外一些家長投訴了。(本文首發鈦媒體App,作者丨小黃雞,文中張曉京為化名)

版權宣告:本文源自 網路, 於,由 楠木軒 整理釋出,共 5769 字。

轉載請註明: 在未成年人保護中,那些技術解決不了的事才是最重要的 - 楠木軒