近期，針對部分語音社交軟件和涉“深度偽造”技術的應用未履行安全評估程序，國家互聯網信息辦公室、公安部指導各地網信部門、公安機關依法約談了11家企業。網信部門、公安機關督促其認真開展安全評估，完善風險防控機制和措施，並對安全評估中發現的隱患及時採取有效整改，切實履行企業信息內容安全主體責任。
專家認為，不同於以往的事後監管，此次安全評估工作和約談給有關的互聯網新技術新應用提前劃“紅線”，“事前規制”有利於企業及時發現安全隱患，整改安全問題，切實履行信息內容安全主體責任，維護網絡傳播秩序，營造良好網絡生態。
什麼是深度偽造技術？
被約談企業部分涉及“深度偽造”技術的應用，“深度偽造”技術能仿人臉，能模仿聲音嗎？
據瞭解，近幾年，一批如唱歌類、一對一語音聊天室等方式的語音社交類軟件開始湧現，成為不少年輕羣體的社交新選擇。一方面，語音社交拓展了人們的社交渠道，增強了部分人羣的連接效率，但同時也存在使用門檻低、內容隱匿性強等特點。而“深度偽造”技術則利用機器的深度學習，實現圖像、聲音、視頻的篡改、偽造和自動生成，產生高度逼真且難以甄別的效果。中國信通院雲大所人工智能部副主任石霖認為，“深度偽造”技術包括以編輯或替換視頻、圖像中人臉為目的，用於消遣娛樂的一類軟件，目前比較常見的是國外的一些軟件。
換臉等技術如濫用會有危害
“‘深度偽造’技術如果濫用，會產生嚴重後果。”中國信息安全研究院副院長左曉棟舉例説，此前國外一些人利用換臉技術偽造藝人的影像資料，就引發過網友對該項技術的熱議。
中國信通院雲大所人工智能部副主任石霖認為，一方面這些軟件是使用的我們個人的人臉、聲音等個人信息，如果保存不當，會造成個人隱私數據泄露；另一方面這些軟件可以被用於“惡搞”他人，造成他人名譽和心理上的損傷。對此，我們國家已經出台了相關政策法規，要求禁止用於虛假新聞信息傳播和製作，同時對非真類音視頻要求進行明確標識，要求相應平台進行安全評估，部署相應檢測和鑑別技術。
2019年12月，國家網信辦發佈《網絡信息內容生態治理規定》，明確網絡信息內容服務使用者和生產者、平台不得開展網絡暴力、人肉搜索、深度偽造、流量造假、操縱賬號等違法活動。
左曉棟説，此次有關部門約談相關企業，一方面是為了給部分平台上存在涉“深度偽造”技術、存在的安全隱患敲警鐘，另一方面也要求行業內的相關企業依法依規保護用户個人信息和名譽權，對於可能涉嫌違法犯罪的相關線索，要及時上報有關監管部門。
約談釋放明確信號
專家認為，語音社交軟件由於其使用門檻低、內容隱匿性強等特點，也給監管造成了較大難度。因此，在推動這一新興行業發展的同時，也要吸取以往在短視頻、直播平台治理方面的經驗教訓，對語音社交產品進行前瞻性監管。
“這次約談釋放了一個比較明確的信號，就是在新技術新應用尚未在國內造成較大影響的時候，監管部門提前介入，給企業打預防針。”資深互聯網行業專家尹生説。他建議，在對某項技術進行“事前規制”的同時，相關部門也應着力提升監管技術，用技術管住技術，以此來提高監管實效和質量。
來源：北京晚報據新華社 央視
流程編輯：u002