監(jiān)管部門主動作為，全社會共同發(fā)力，推進綜合治理
有效規(guī)范算法應用 營造清朗網(wǎng)絡空間(法治頭條·法治護航網(wǎng)絡文明建設(shè)③)
隨著網(wǎng)絡技術(shù)快速發(fā)展，算法應用日漸廣泛。與此同時，有的互聯(lián)網(wǎng)服務平臺濫用算法，可能造成的“信息繭房”“大數(shù)據(jù)殺熟”“誘導沉迷”等問題也日益受到社會關(guān)注。
不久前，《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》正式施行；4月8日起，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項行動……過去一個時期，監(jiān)管部門主動作為，全社會共同發(fā)力，算法亂象得到有效整治，算法應用日益朝著向上向善的軌道發(fā)展。
算法濫用，對公眾產(chǎn)生不利影響
李明(化名)下載了一個以“知識分享”為主題的APP。打開后，一篇標記著“您可能感興趣”的文章被推送至界面。
“這不恰好是我最關(guān)注的話題嗎？”李明點進去一看，文章的觀點“恰好”與自己的十分一致，讓李明感覺“有理有據(jù)，令人信服”。李明看完一篇，系統(tǒng)又推薦了另一篇他感興趣的文章。不知不覺，李明竟在該APP上一連“刷”了幾個小時。
“這就是算法推薦的作用。”某公司軟件工程師黃淑介紹，平臺會抓取用戶觀看某話題總體評價的停留時間、留言時是正面還是負面傾向、“點贊”還是“反對”等信息來判定用戶的內(nèi)容偏好。此后，平臺還會利用算法依據(jù)“內(nèi)容相似度”和“用戶相似度”，把你最可能感興趣的內(nèi)容推薦給你。
那么算法推薦的大規(guī)模使用，是否會對公眾產(chǎn)生不利影響？
“算法推薦的個性化分發(fā)技術(shù)，較多地依賴總體熱度、個體興趣等數(shù)據(jù)?！睆偷┐髮W新聞學院副院長、教授周葆華介紹，目前對算法推薦的擔憂主要在于：一方面平臺追求更大傳播熱度，形成對內(nèi)容價值觀的忽視，如推薦低俗內(nèi)容；另一方面基于對個性化興趣和朋友關(guān)系的計算，信息推送與觀點供給可能形成“回音室”效應，從而讓用戶深陷“信息繭房”中。
胡女士通過某APP向某酒店預訂一個房間，支付價格近3000元?？扇胱『蟛虐l(fā)現(xiàn)，該房型的實際掛牌價僅1000多元。作為該平臺“鉆石貴賓客戶”，胡女士非但沒有享受到會員優(yōu)惠，還支付了高于實際產(chǎn)品價格的費用。胡女士認為自己遭遇了“大數(shù)據(jù)殺熟”。她懷疑平臺利用算法進行用戶“畫像”，根據(jù)自己對價格不敏感、不索要發(fā)票等消費習慣，抬高價格，欺詐銷售，遂將該平臺公司訴至法院。
據(jù)介紹，利用算法進行“大數(shù)據(jù)殺熟”的情形現(xiàn)實中不少見。例如購買同一班飛機票，自己花了上千元，別人同時購買卻只花了幾百元，這可能只是因為你已經(jīng)是平臺“熟客”，不再需要低價吸引等。
此外，算法推薦還存在諸多其他問題。一些外賣等服務平臺采用調(diào)度決策類算法進行工作調(diào)度時，過度追求工作效率和強度，按照最短可能用時設(shè)置配送員的配送時限，讓“外賣小哥”為了按時送達而不得不超速、逆行等；有些平臺還存在偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點；某些應用程序設(shè)置算法未經(jīng)允許抓取用戶個人信息……
“有效治理算法亂象，是構(gòu)建安全清朗的網(wǎng)絡生態(tài)的必然要求。”中國政法大學副教授鄭玉雙表示，要健全算法的法律規(guī)制模式，破解算法的法律規(guī)制難題，實現(xiàn)算法善治。
建章立制，為算法立規(guī)矩樹導向
不久前，胡女士“大數(shù)據(jù)殺熟”一案終審判決。兩審法院均認為，平臺公司未依法告知關(guān)系訂單交易的真實信息，怠于對平臺內(nèi)經(jīng)營者進行有效監(jiān)管，構(gòu)成欺詐，遂判定該平臺公司退還胡女士訂房差價并支付賠償金。但是，法院并未對平臺公司是否構(gòu)成“大數(shù)據(jù)殺熟”予以認定。
“利用算法針對不同消費者設(shè)置不同價格的行為是否違法，有時難以判斷。”中國法學會法治研究所研究員劉金瑞認為，出現(xiàn)這種現(xiàn)象，主要是因為此前法律法規(guī)對于算法亂象的規(guī)制比較零散，有的規(guī)定針對性不強。
社會有期待，立法機關(guān)及時作出回應。
個人信息是實現(xiàn)算法推薦的基礎(chǔ)。2021年11月1日，個人信息保護法實施。其中“大數(shù)據(jù)殺熟”等問題一時成為人們關(guān)注的熱點。個人信息保護法明確規(guī)定：個人信息處理者利用個人信息進行自動化決策，應當保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。
“個人信息保護法等法律實現(xiàn)了對‘大數(shù)據(jù)殺熟’等算法濫用現(xiàn)象的限制，但目前各類算法亂象仍需一部專門、完整、系統(tǒng)的法規(guī)來進行全面規(guī)制?！敝袊鴤髅酱髮W文化產(chǎn)業(yè)管理學院教授劉文杰說，從全過程完善算法推薦的有關(guān)規(guī)范，是從根本上加強算法規(guī)制的客觀要求。
今年3月1日，由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》(以下簡稱《規(guī)定》)施行。這是第一部從全過程完整規(guī)范算法推薦的部門規(guī)章。其中明確了算法知情權(quán)、算法選擇權(quán)等對算法推薦服務提供者的用戶權(quán)益保護要求，對社會關(guān)注的“大數(shù)據(jù)殺熟”“引誘沉迷”“引導輿論”“特殊群體保護”等熱點問題，都做出了針對性規(guī)范。
“《規(guī)定》是第一部系統(tǒng)、全面以算法為調(diào)整對象的規(guī)范性法律文件。從體系性、規(guī)制工具箱的豐富性、調(diào)整算法的多樣性、對用戶權(quán)益保護的周全性等多個層面來說，《規(guī)定》都具有開創(chuàng)性意義。”中國政法大學教授張凌寒表示。
“《規(guī)定》與個人信息保護法、電子商務法、數(shù)據(jù)安全法等法律相銜接，再配合近年來頒布的關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南、在線旅游經(jīng)營服務管理暫行規(guī)定等規(guī)范性文件，規(guī)制算法亂象有了較為完備的制度體系?！敝袊畔⑼ㄐ叛芯吭夯ヂ?lián)網(wǎng)法律研究中心高級研究員楊婕說。
多元共治，引導算法向上向善
算法廣泛而深入地應用于互聯(lián)網(wǎng)，因此，算法治理絕不是憑一家之力就能實現(xiàn)的，必須全社會攜手，建立多元共治的局面。
監(jiān)管部門及時有效的政策舉措，是規(guī)制算法亂象的有力武器。2022年3月1日起，互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)正式上線運行。根據(jù)相關(guān)要求，具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起10個工作日內(nèi)填報服務提供者的名稱、服務形式、應用領(lǐng)域、算法類型、算法自評估報告等信息。
4月8日起，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項行動，深入排查整改互聯(lián)網(wǎng)企業(yè)平臺算法安全問題，重點檢查具有較強輿論屬性或社會動員能力的大型網(wǎng)站、平臺及產(chǎn)品等。
在算法治理過程中，司法發(fā)揮著引導行為、明確底線、穩(wěn)定預期的重要作用。
前不久，一影視公司發(fā)現(xiàn)某視頻平臺在無授權(quán)的情況下，播放其享有完整著作權(quán)的電影，認為該平臺構(gòu)成侵權(quán)，遂將其訴至法院。該視頻平臺公司辯稱，電影是平臺用戶自行上傳的，其推薦行為系平臺自帶的算法推薦所致，并沒有侵權(quán)的意圖。
法院經(jīng)審理認為，該視頻平臺公司的上述算法推薦行為，實際上是向用戶提供了信息流推薦服務，存在提高侵權(quán)傳播效率、擴大侵權(quán)傳播范圍的風險，同時也為其自身獲得了更多的流量等利益，其理應對用戶的侵權(quán)行為負有更高的注意義務。
“近年來，數(shù)起涉及算法推薦的司法案件引起社會關(guān)注，相關(guān)判決起到了為算法應用立規(guī)矩、樹導向的作用?！蔽髂险ù髮W副教授易健雄說。
此外，平臺企業(yè)的行業(yè)自律也必不可少。
2021年10月22日，深圳市APP個人信息共護大會舉行。20余家重點APP運營企業(yè)簽署《深圳市APP個人信息保護自律承諾書》，承諾將保護用戶公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”；未經(jīng)用戶單獨同意，不利用敏感個人信息進行線上精準營銷和線下推銷等。此前，國內(nèi)10家互聯(lián)網(wǎng)平臺企業(yè)也簽署承諾書，承諾不非法收集、使用消費者個人信息，不利用數(shù)據(jù)優(yōu)勢“殺熟”。
此外，越來越多的網(wǎng)絡平臺也在積極主動地對算法“激濁揚清”。例如，某信息聚合平臺日前介紹，其為了幫助用戶避免越推越窄的“繭房效應”，不斷優(yōu)化推薦機制、提高內(nèi)容推薦的多樣性，擴大信息覆蓋面；某外賣平臺也優(yōu)化派單算法，充分考慮配送員實際工作環(huán)境，避免其承受過重工作負擔，維護勞動者合法權(quán)益。
建章立制，強化監(jiān)管，鼓勵自律……運用法治方法規(guī)范算法應用，引導算法向上向善，才能最大化促進社會公共利益，共同營造清朗安全的網(wǎng)絡空間。
關(guān)鍵詞： 綜合治理
責任編輯：Rex_01
