首頁 >國際 >

生成式人工智能如何監(jiān)管


【資料圖】

只花9.9元,上傳二十幾張照片,就能獲取一套人工智能生成的寫真集。過去兩周,“妙鴨相機”小程序成為我國生成式人工智能領(lǐng)域的一個爆款應用。刷屏的同時,妙鴨也刷出了用戶隱私保護、消費者權(quán)益保護等“暗雷”,提醒我們?nèi)斯ぶ悄芪幢厝缦胂笾心敲疵篮谩?

先來看隱私保護?,F(xiàn)在搜索“妙鴨相機”,各渠道排在前面的關(guān)聯(lián)熱詞都是“妙鴨相機會盜取個人信息嗎”“妙鴨相機安全嗎”,表明安全性已成為用戶最關(guān)注的問題。而這恰恰是妙鴨最先踩中的雷,上線不久,就有媒體報道,妙鴨用戶協(xié)議中明確規(guī)定,“您特此授權(quán)我方在全世界(包括元宇宙等虛擬空間)范圍內(nèi)享有永久的、不可撤銷的、可轉(zhuǎn)讓的、可轉(zhuǎn)授權(quán)的、免費的和非獨家的許可,使得我方可以任何形式、任何媒體或技術(shù)(無論現(xiàn)在已知或以后開發(fā))使用您的內(nèi)容”。這就相當于企業(yè)試圖占有用戶的臉,還要用戶倒貼9.9元。

人臉是一個人最核心的生物信息之一,如果被濫用、盜用,可能會成為AI詐騙、網(wǎng)絡(luò)色情等非法活動的素材來源,危害無窮。盡管被質(zhì)疑后,妙鴨很快更新了協(xié)議,稱“不會提取識別信息,不會用于識別用途,服務完成后,系統(tǒng)將自動刪除上述信息,不予留存”,但作為一家生成式人工智能的創(chuàng)業(yè)公司,內(nèi)部居然能認可并上線第一版協(xié)議,可見企業(yè)對用戶隱私的漠視以及對法律的無知。這也說明,人工智能行業(yè)還需強化用戶隱私信息保護的底線意識。

妙鴨踩中的第二個雷,是消費者權(quán)益保護。據(jù)媒體報道,妙鴨規(guī)定“一旦購買成功,不支持退款”。上海市消費者權(quán)益保護委員會對此發(fā)聲:涉嫌侵害消費者公平交易權(quán)。隨后,妙鴨宣布照片生成失敗可退款。

開發(fā)這款小程序的企業(yè)提供的服務屬于在線虛擬服務,原本不在消費者權(quán)益保護法規(guī)定的7日無理由退貨范疇。消費者一旦上傳素材,不管最終生成的照片效果如何,已實際使用了帶寬和企業(yè)提供的技術(shù),企業(yè)事實上履行了合同。從這個角度講,企業(yè)有理由拒絕退費。

然而,消費類企業(yè)必須回答一個問題:起草、執(zhí)行相關(guān)服務協(xié)議時,是從保障消費者權(quán)益出發(fā),還是從自身利益考量出發(fā)?如果只是嘴上喊著“優(yōu)化消費體驗”,實際拋出的卻是冷冰冰的條款,采取簡單粗暴的執(zhí)行手段,給用戶的感覺完全不友好,這不僅無助于產(chǎn)品與服務品質(zhì)的塑造提升,更不可能吸引消費者對品牌的信任追隨。妙鴨從拒絕到同意的態(tài)度轉(zhuǎn)變,值得深思。

小程序揭示的人工智能風險隱患才剛剛冒頭,仍存在不少值得研究的問題。例如,企業(yè)承諾自動刪除用戶信息,誰來監(jiān)督落實?用戶把堪比個人證件照的高精度正面照交給一家小創(chuàng)業(yè)公司,它有沒有能力抵御黑客攻擊?風潮過去后,企業(yè)會不會倒閉?這不是杞人憂天,妙鴨也在用戶協(xié)議中提醒,“如果出現(xiàn)合并、分立、解散、破產(chǎn)等情況,用戶個人信息可能會轉(zhuǎn)移到接收方”。在這個過程中,用戶信息能不能得到妥善保護,接收方又會如何處理用戶信息?這一切都是充滿了風險的未知數(shù)。

妙鴨入水,激起了數(shù)據(jù)時代的監(jiān)管新挑戰(zhàn)?;ヂ?lián)網(wǎng)大廠投入巨資開發(fā)的文心一言、通義千問等大模型,免費給用戶使用,沒能做成爆款;一家名不見經(jīng)傳的小企業(yè),推出一個要用戶掏錢的小程序竟然做到了。這預示著,人工智能領(lǐng)域的競爭將是激烈的,也是出乎意料的。要跟上行業(yè)發(fā)展,監(jiān)管理念、技術(shù)和相應的法律體系需抓緊完善。我們鼓勵創(chuàng)新的“七十二變”,但保護用戶隱私和消費者權(quán)益的“緊箍咒”一定得戴上。

關(guān)鍵詞:

責任編輯:Rex_02