算法推薦新規(guī)發(fā)布，直指“算法歧視”“大數(shù)據(jù)殺熟”等問題

時間：2022-05-26 17:27:01 | 來源：行業(yè)動態(tài)

時間：2022-05-26 17:27:01 來源：行業(yè)動態(tài)

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《規(guī)定》），自2022年3月1日起施行。

近年來，算法應(yīng)用在給政治、經(jīng)濟、社會發(fā)展注入新動能的同時，“算法歧視”“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷等算法不合理應(yīng)用導(dǎo)致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)。在互聯(lián)網(wǎng)信息服務(wù)領(lǐng)域出臺具有針對性的算法推薦規(guī)章制度，是防范化解安全風險的需要，也是促進算法推薦服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要。

01

推進算法綜合治理

促進規(guī)范健康發(fā)展

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人表示，出臺《規(guī)定》，旨在規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展。出臺《規(guī)定》主要基于以下兩個方面的考慮：

一是深入推進互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的需要。黨中央印發(fā)的《法治社會建設(shè)實施綱要（2020-2025年）》提出制定完善對算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法?！毒W(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等法律和《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等政策文件先后出臺并作出相關(guān)頂層設(shè)計。在此基礎(chǔ)上，及時制定具有針對性的算法推薦規(guī)定，明確算法推薦服務(wù)提供者的主體責任，既是貫徹落實黨中央決策部署的重要要求，也是落實相關(guān)法律、行政法規(guī)、加強網(wǎng)絡(luò)信息安全管理的需要。

二是積極促進算法推薦服務(wù)規(guī)范健康發(fā)展的需要。算法應(yīng)用日益普及深化，在給經(jīng)濟社會發(fā)展等方面注入新動能的同時，算法歧視、“大數(shù)據(jù)殺熟”、誘導(dǎo)沉迷等算法不合理應(yīng)用導(dǎo)致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)，迫切需要對算法推薦服務(wù)建章立制、加強規(guī)范，著力提升防范化解算法推薦安全風險的能力，促進算法相關(guān)行業(yè)健康有序發(fā)展。

02

覆蓋范圍廣

明確主體責任

《規(guī)定》明確，應(yīng)用算法推薦技術(shù)，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等算法技術(shù)向用戶提供信息。

近年來，我國《電子商務(wù)法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《個人信息保護法》《反壟斷法（修正草案）》等相關(guān)立法對算法問題已作出相關(guān)規(guī)定。從規(guī)制范圍來看，《管理規(guī)定》覆蓋對象頗為廣泛。不僅包括用于社交媒體、電商場景、搜索平臺的個性化推送算法、排序精選算法、檢索過濾算法，也包括適用于網(wǎng)約車、外賣場景下的調(diào)度決策類算法，還包括用于游戲和虛擬環(huán)境中生成內(nèi)容的生成合成類算法。

《規(guī)定》明確了算法推薦服務(wù)提供者的信息服務(wù)規(guī)范，要求算法推薦服務(wù)提供者應(yīng)當堅持主流價值導(dǎo)向，積極傳播正能量，不得利用算法推薦服務(wù)從事違法活動或者傳播違法信息，應(yīng)當采取措施防范和抵制傳播不良信息；建立健全用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評估、驗證算法機制機理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等；建立健全用于識別違法和不良信息的特征庫，發(fā)現(xiàn)違法和不良信息的，應(yīng)當采取相應(yīng)的處置措施；加強用戶模型和用戶標簽管理，完善記入用戶模型的興趣點規(guī)則和用戶標簽管理規(guī)則；加強算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機制，在重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息；規(guī)范開展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當競爭行為。

《規(guī)定》要求，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報備案信息，履行備案手續(xù)；備案信息發(fā)生變更的，應(yīng)當在規(guī)定時間內(nèi)辦理變更手續(xù)。算法推薦服務(wù)提供者應(yīng)當依法留存網(wǎng)絡(luò)日志，配合有關(guān)部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

在我國平臺責任設(shè)置上，《管理規(guī)定》注重遵循主客觀相一致、權(quán)責一致的原則。一方面，《管理規(guī)定》劃清算法推薦服務(wù)的紅線，規(guī)定了不得設(shè)置誘導(dǎo)用戶沉迷或過度消費、不得利用算法虛假注冊賬號等。另一方面，《管理規(guī)定》提出應(yīng)當定期進行算法審核、評估，完善網(wǎng)絡(luò)日志留存，配合安全評估和監(jiān)督檢查等。

03

維護用戶算法知情權(quán)、選擇權(quán)

針對群眾普遍關(guān)心的用戶權(quán)益保護問題，《規(guī)定》明確了對于算法推薦服務(wù)提供者的用戶權(quán)益保護要求。

一是算法知情權(quán)，要求告知用戶其提供算法推薦服務(wù)的情況，并公示服務(wù)的基本原理、目的意圖和主要運行機制等。

二是算法選擇權(quán)，要求向用戶提供不針對其個人特征的選項，或者便捷的關(guān)閉算法推薦服務(wù)的選項。用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當立即停止提供相關(guān)服務(wù)。算法推薦服務(wù)提供者應(yīng)當向用戶提供選擇或者刪除用于算法推薦服務(wù)的針對其個人特征的用戶標簽的功能。

三是針對向未成年人、老年人、勞動者、消費者等主體提供服務(wù)的算法推薦服務(wù)提供者作出具體規(guī)范。如不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)，應(yīng)當便利老年人安全使用算法推薦服務(wù)，應(yīng)當建立完善平臺訂單分配、報酬構(gòu)成及支付、工作時間、獎懲等相關(guān)算法，不得根據(jù)消費者的偏好、交易習慣等特征利用算法在交易價格等交易條件上實施不合理的差別待遇等。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人指出，算法推薦服務(wù)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動算法推薦服務(wù)公正公平、規(guī)范透明，促進算法推薦服務(wù)向上向善，營造更加清朗的網(wǎng)絡(luò)空間。

《現(xiàn)代廣告》雜志社出品

參考資料：

“網(wǎng)信中國”微信公眾號；