(資料圖片)
近日，國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。其中要求提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當進行顯著標識，避免公眾混淆或者誤認，任何組織和個人不得用技術(shù)手段刪除、篡改、隱匿相關(guān)標識。該規(guī)定自明年1月10日起施行。
繼算法推薦之后，深度合成技術(shù)也迎來單獨規(guī)范，這其實和我們目前的互聯(lián)網(wǎng)生活息息相關(guān)。
近日火爆全網(wǎng)的聊天機器人ChatGPT，以及“換臉”、AI繪畫、虛擬主播等為人所熟知的場景都使用了深度合成技術(shù)。很多用戶日常也在使用這些技術(shù)，比如一些視頻平臺提供的換臉服務(wù)，讓用戶可以自己制作很多新奇有趣的視頻產(chǎn)品，玩出一些有趣的網(wǎng)絡(luò)梗。但其中的隱私安全問題一直備受爭議，普通用戶對潛在的風(fēng)險也并不了解。
以AI“換臉”為例，負面事件并非沒有發(fā)生過。2019年，AI“換臉”應(yīng)用ZAO一度爆紅。人們只要上傳一張自己的照片，就可以換臉成為影視劇主角。然而僅僅三天，ZAO便因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談，接著直接下架。
此外，深度合成技術(shù)也被應(yīng)用在了散播虛假信息、詐騙、色情內(nèi)容制作上。類似事件人們也見過不少了，一些栩栩如生的視頻引發(fā)了巨大的社會關(guān)注，最后證明不過是換臉合成而來。這些亂象顯然也有進一步規(guī)制的必要。
隨著新規(guī)的出臺，這些合成技術(shù)將被顯著標識，就相當于是個時刻存在的提醒，用戶能很清楚地了解到接下來將使用的技術(shù)就是人工合成，這當中可能存在風(fēng)險。雖然這可能給用戶玩梗澆一盆涼水，但用戶的知情權(quán)才是第一位的，相應(yīng)的產(chǎn)品邏輯也應(yīng)當向這個方向轉(zhuǎn)變。
當然，僅有提示還不夠，關(guān)鍵是對互聯(lián)網(wǎng)平臺要保持足夠的制度性約束。比如《規(guī)定》明確，深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當依法配合網(wǎng)信部門和有關(guān)主管部門開展的監(jiān)督檢查，并提供必要的支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風(fēng)險的，網(wǎng)信部門和有關(guān)主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務(wù)等措施。
這一方面是對用戶的提示，另一方面也是對各大互聯(lián)網(wǎng)平臺的約束。這不僅是讓用戶知情，互聯(lián)網(wǎng)服務(wù)提供者也必須明白自己的義務(wù)，對涉及用戶隱私的信息必須做到充分保護，任何一個產(chǎn)品功能和營銷手段都不能凌駕于這條底線之上。
還是要認識到，互聯(lián)網(wǎng)技術(shù)提供了異常多元、新奇的產(chǎn)品體驗，用戶當然也有網(wǎng)絡(luò)玩梗的剛需，但安全風(fēng)險問題也隨著互聯(lián)網(wǎng)介入生活程度的加深而不斷凸顯。當一項新技術(shù)橫空出世之際，背后的漏洞風(fēng)險也應(yīng)當審慎評估，相關(guān)的規(guī)定應(yīng)該適時跟上，努力縮短從野蠻生長到規(guī)范發(fā)展的時間差。（江城）
責任編輯：Rex_13
