來源：人民日報

監(jiān)管部門主動作為，全社會共同發(fā)力，推進綜合治理

有效規(guī)范算法應(yīng)用 營造清朗網(wǎng)絡(luò)空間（法治頭條·法治護航網(wǎng)絡(luò)文明建設(shè)③）

本報記者 金 歆

隨著網(wǎng)絡(luò)技術(shù)快速發(fā)展，算法應(yīng)用日漸廣泛。與此同時，有的互聯(lián)網(wǎng)服務(wù)平臺濫用算法，可能造成的“信息繭房”“大數(shù)據(jù)殺熟”“誘導(dǎo)沉迷”等問題也日益受到社會關(guān)注。

不久前，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式施行；4月8日起，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項行動……過去一個時期，監(jiān)管部門主動作為，全社會共同發(fā)力，算法亂象得到有效整治，算法應(yīng)用日益朝著向上向善的軌道發(fā)展。

算法濫用，對公眾產(chǎn)生不利影響

李明（化名）下載了一個以“知識分享”為主題的APP。打開后，一篇標(biāo)記著“您可能感興趣”的文章被推送至界面。

“這不恰好是我最關(guān)注的話題嗎？”李明點進去一看，文章的觀點“恰好”與自己的十分一致，讓李明感覺“有理有據(jù)，令人信服”。李明看完一篇，系統(tǒng)又推薦了另一篇他感興趣的文章。不知不覺，李明竟在該APP上一連“刷”了幾個小時。

“這就是算法推薦的作用?！蹦?span id="1dquvxu" class="wpcom_tag_link">公司軟件工程師黃淑介紹，平臺會抓取用戶觀看某話題總體評價的停留時間、留言時是正面還是負面傾向、“點贊”還是“反對”等信息來判定用戶的內(nèi)容偏好。此后，平臺還會利用算法依據(jù)“內(nèi)容相似度”和“用戶相似度”，把你最可能感興趣的內(nèi)容推薦給你。

那么算法推薦的大規(guī)模使用，是否會對公眾產(chǎn)生不利影響？

“算法推薦的個性化分發(fā)技術(shù)，較多地依賴總體熱度、個體興趣等數(shù)據(jù)?！睆?fù)旦大學(xué)新聞學(xué)院副院長、教授周葆華介紹，目前對算法推薦的擔(dān)憂主要在于：一方面平臺追求更大傳播熱度，形成對內(nèi)容價值觀的忽視，如推薦低俗內(nèi)容；另一方面基于對個性化興趣和朋友關(guān)系的計算，信息推送與觀點供給可能形成“回音室”效應(yīng)，從而讓用戶深陷“信息繭房”中。

胡女士通過某APP向某酒店預(yù)訂一個房間，支付價格近3000元?？扇胱『蟛虐l(fā)現(xiàn)，該房型的實際掛牌價僅1000多元。作為該平臺“鉆石貴賓客戶”，胡女士非但沒有享受到會員優(yōu)惠，還支付了高于實際產(chǎn)品價格的費用。胡女士認為自己遭遇了“大數(shù)據(jù)殺熟”。她懷疑平臺利用算法進行用戶“畫像”，根據(jù)自己對價格不敏感、不索要發(fā)票等消費習(xí)慣，抬高價格，欺詐銷售，遂將該平臺公司訴至法院。

據(jù)介紹，利用算法進行“大數(shù)據(jù)殺熟”的情形現(xiàn)實中不少見。例如購買同一班飛機票，自己花了上千元，別人同時購買卻只花了幾百元，這可能只是因為你已經(jīng)是平臺“熟客”，不再需要低價吸引等。

此外，算法推薦還存在諸多其他問題。一些外賣等服務(wù)平臺采用調(diào)度決策類算法進行工作調(diào)度時，過度追求工作效率和強度，按照最短可能用時設(shè)置配送員的配送時限，讓“外賣小哥”為了按時送達而不得不超速、逆行等；有些平臺還存在偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點；某些應(yīng)用程序設(shè)置算法未經(jīng)允許抓取用戶個人信息……

“有效治理算法亂象，是構(gòu)建安全清朗的網(wǎng)絡(luò)生態(tài)的必然要求?！敝袊ù髮W(xué)副教授鄭玉雙表示，要健全算法的法律規(guī)制模式，破解算法的法律規(guī)制難題，實現(xiàn)算法善治。

建章立制，為算法立規(guī)矩樹導(dǎo)向

不久前，胡女士“大數(shù)據(jù)殺熟”一案終審判決。兩審法院均認為，平臺公司未依法告知關(guān)系訂單交易的真實信息，怠于對平臺內(nèi)經(jīng)營者進行有效監(jiān)管，構(gòu)成欺詐，遂判定該平臺公司退還胡女士訂房差價并支付賠償金。但是，法院并未對平臺公司是否構(gòu)成“大數(shù)據(jù)殺熟”予以認定。

“利用算法針對不同消費者設(shè)置不同價格的行為是否違法，有時難以判斷?！敝袊▽W(xué)會法治研究所研究員劉金瑞認為，出現(xiàn)這種現(xiàn)象，主要是因為此前法律法規(guī)對于算法亂象的規(guī)制比較零散，有的規(guī)定針對性不強。

社會有期待，立法機關(guān)及時作出回應(yīng)。

個人信息是實現(xiàn)算法推薦的基礎(chǔ)。2021年11月1日，個人信息保護法實施。其中“大數(shù)據(jù)殺熟”等問題一時成為人們關(guān)注的熱點。個人信息保護法明確規(guī)定：個人信息處理者利用個人信息進行自動化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實行不合理的差別待遇。

“個人信息保護法等法律實現(xiàn)了對‘大數(shù)據(jù)殺熟’等算法濫用現(xiàn)象的限制，但目前各類算法亂象仍需一部專門、完整、系統(tǒng)的法規(guī)來進行全面規(guī)制?！敝袊鴤髅酱髮W(xué)文化產(chǎn)業(yè)管理學(xué)院教授劉文杰說，從全過程完善算法推薦的有關(guān)規(guī)范，是從根本上加強算法規(guī)制的客觀要求。

今年3月1日，由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》）施行。這是第一部從全過程完整規(guī)范算法推薦的部門規(guī)章。其中明確了算法知情權(quán)、算法選擇權(quán)等對算法推薦服務(wù)提供者的用戶權(quán)益保護要求，對社會關(guān)注的“大數(shù)據(jù)殺熟”“引誘沉迷”“引導(dǎo)輿論”“特殊群體保護”等熱點問題，都做出了針對性規(guī)范。

“《規(guī)定》是第一部系統(tǒng)、全面以算法為調(diào)整對象的規(guī)范性法律文件。從體系性、規(guī)制工具箱的豐富性、調(diào)整算法的多樣性、對用戶權(quán)益保護的周全性等多個層面來說，《規(guī)定》都具有開創(chuàng)性意義?！敝袊ù髮W(xué)教授張凌寒表示。

“《規(guī)定》與個人信息保護法、電子商務(wù)法、數(shù)據(jù)安全法等法律相銜接，再配合近年來頒布的關(guān)于平臺經(jīng)濟領(lǐng)域的反壟斷指南、在線旅游經(jīng)營服務(wù)管理暫行規(guī)定等規(guī)范性文件，規(guī)制算法亂象有了較為完備的制度體系?！敝袊畔⑼ㄐ叛芯吭夯ヂ?lián)網(wǎng)法律研究中心高級研究員楊婕說。

多元共治，引導(dǎo)算法向上向善

算法廣泛而深入地應(yīng)用于互聯(lián)網(wǎng)，因此，算法治理絕不是憑一家之力就能實現(xiàn)的，必須全社會攜手，建立多元共治的局面。

監(jiān)管部門及時有效的政策舉措，是規(guī)制算法亂象的有力武器。2022年3月1日起，互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)正式上線運行。根據(jù)相關(guān)要求，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起10個工作日內(nèi)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型、算法自評估報告等信息。

4月8日起，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項行動，深入排查整改互聯(lián)網(wǎng)企業(yè)平臺算法安全問題，重點檢查具有較強輿論屬性或社會動員能力的大型網(wǎng)站、平臺及產(chǎn)品等。

在算法治理過程中，司法發(fā)揮著引導(dǎo)行為、明確底線、穩(wěn)定預(yù)期的重要作用。

前不久，一影視公司發(fā)現(xiàn)某視頻平臺在無授權(quán)的情況下，播放其享有完整著作權(quán)的電影，認為該平臺構(gòu)成侵權(quán)，遂將其訴至法院。該視頻平臺公司辯稱，電影是平臺用戶自行上傳的，其推薦行為系平臺自帶的算法推薦所致，并沒有侵權(quán)的意圖。

法院經(jīng)審理認為，該視頻平臺公司的上述算法推薦行為，實際上是向用戶提供了信息流推薦服務(wù)，存在提高侵權(quán)傳播效率、擴大侵權(quán)傳播范圍的風(fēng)險，同時也為其自身獲得了更多的流量等利益，其理應(yīng)對用戶的侵權(quán)行為負有更高的注意義務(wù)。

“近年來，數(shù)起涉及算法推薦的司法案件引起社會關(guān)注，相關(guān)判決起到了為算法應(yīng)用立規(guī)矩、樹導(dǎo)向的作用?！蔽髂险ù髮W(xué)副教授易健雄說。

此外，平臺企業(yè)的行業(yè)自律也必不可少。

2021年10月22日，深圳市APP個人信息共護大會舉行。20余家重點APP運營企業(yè)簽署《深圳市APP個人信息保護自律承諾書》，承諾將保護用戶公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”；未經(jīng)用戶單獨同意，不利用敏感個人信息進行線上精準(zhǔn)營銷和線下推銷等。此前，國內(nèi)10家互聯(lián)網(wǎng)平臺企業(yè)也簽署承諾書，承諾不非法收集、使用消費者個人信息，不利用數(shù)據(jù)優(yōu)勢“殺熟”。

此外，越來越多的網(wǎng)絡(luò)平臺也在積極主動地對算法“激濁揚清”。例如，某信息聚合平臺日前介紹，其為了幫助用戶避免越推越窄的“繭房效應(yīng)”，不斷優(yōu)化推薦機制、提高內(nèi)容推薦的多樣性，擴大信息覆蓋面；某外賣平臺也優(yōu)化派單算法，充分考慮配送員實際工作環(huán)境，避免其承受過重工作負擔(dān)，維護勞動者合法權(quán)益。

建章立制，強化監(jiān)管，鼓勵自律……運用法治方法規(guī)范算法應(yīng)用，引導(dǎo)算法向上向善，才能最大化促進社會公共利益，共同營造清朗安全的網(wǎng)絡(luò)空間。