首頁 >人物 >

全球新動態(tài):“AI換臉”該退燒了


(資料圖片)

近日,國家網(wǎng)信辦、工信部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》。其中要求提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或顯著改變信息內(nèi)容功能的服務(wù)的,應(yīng)當進行顯著標識,避免公眾混淆或者誤認,任何組織和個人不得用技術(shù)手段刪除、篡改、隱匿相關(guān)標識。該規(guī)定自明年1月10日起施行。

繼算法推薦之后,深度合成技術(shù)也迎來單獨規(guī)范,這其實和我們目前的互聯(lián)網(wǎng)生活息息相關(guān)。

近日火爆全網(wǎng)的聊天機器人ChatGPT,以及“換臉”、AI繪畫、虛擬主播等為人所熟知的場景都使用了深度合成技術(shù)。很多用戶日常也在使用這些技術(shù),比如一些視頻平臺提供的換臉服務(wù),讓用戶可以自己制作很多新奇有趣的視頻產(chǎn)品,玩出一些有趣的網(wǎng)絡(luò)梗。但其中的隱私安全問題一直備受爭議,普通用戶對潛在的風(fēng)險也并不了解。

以AI“換臉”為例,負面事件并非沒有發(fā)生過。2019年,AI“換臉”應(yīng)用ZAO一度爆紅。人們只要上傳一張自己的照片,就可以換臉成為影視劇主角。然而僅僅三天,ZAO便因涉嫌未依法依規(guī)收集使用人臉信息被工信部約談,接著直接下架。

此外,深度合成技術(shù)也被應(yīng)用在了散播虛假信息、詐騙、色情內(nèi)容制作上。類似事件人們也見過不少了,一些栩栩如生的視頻引發(fā)了巨大的社會關(guān)注,最后證明不過是換臉合成而來。這些亂象顯然也有進一步規(guī)制的必要。

隨著新規(guī)的出臺,這些合成技術(shù)將被顯著標識,就相當于是個時刻存在的提醒,用戶能很清楚地了解到接下來將使用的技術(shù)就是人工合成,這當中可能存在風(fēng)險。雖然這可能給用戶玩梗澆一盆涼水,但用戶的知情權(quán)才是第一位的,相應(yīng)的產(chǎn)品邏輯也應(yīng)當向這個方向轉(zhuǎn)變。

當然,僅有提示還不夠,關(guān)鍵是對互聯(lián)網(wǎng)平臺要保持足夠的制度性約束。比如《規(guī)定》明確,深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當依法配合網(wǎng)信部門和有關(guān)主管部門開展的監(jiān)督檢查,并提供必要的支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風(fēng)險的,網(wǎng)信部門和有關(guān)主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務(wù)等措施。

這一方面是對用戶的提示,另一方面也是對各大互聯(lián)網(wǎng)平臺的約束。這不僅是讓用戶知情,互聯(lián)網(wǎng)服務(wù)提供者也必須明白自己的義務(wù),對涉及用戶隱私的信息必須做到充分保護,任何一個產(chǎn)品功能和營銷手段都不能凌駕于這條底線之上。

還是要認識到,互聯(lián)網(wǎng)技術(shù)提供了異常多元、新奇的產(chǎn)品體驗,用戶當然也有網(wǎng)絡(luò)玩梗的剛需,但安全風(fēng)險問題也隨著互聯(lián)網(wǎng)介入生活程度的加深而不斷凸顯。當一項新技術(shù)橫空出世之際,背后的漏洞風(fēng)險也應(yīng)當審慎評估,相關(guān)的規(guī)定應(yīng)該適時跟上,努力縮短從野蠻生長到規(guī)范發(fā)展的時間差。(江城)

關(guān)鍵詞: 主管部門 用戶賬號 或者其他

責任編輯:Rex_13

推薦閱讀