當前位置:首頁 >> 法律法規

《互聯網信息服務算法推薦管理規定》系列專家解讀(一)

2022/3/1 14:55:15

 

聚焦算法推薦亂象問題 構建算法安全治理體系

作者:楊建軍 中國電子技術標準化研究院黨委書記

隨著大數據和人工智能技術的快速發展,算法推薦技術在互聯網信息服務中得到廣泛應用,與此同時算法應用中存在的違法和不良信息傳播、侵害用戶權益、操縱社會輿論等亂象問題也屢次出現。2021年12月31日,國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監管總局聯合發布《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)。作為互聯網信息服務領域貫徹落實《網絡安全法》《數據安全法》《個人信息保護法》的重要舉措,《規定》聚焦算法推薦服務亂象問題,構建算法安全治理體系,有效規范了互聯網信息服務算法推薦活動。

一、《規定》為應對算法推薦亂象提供指引和規范

(一)聚焦違法和不良信息傳播問題,引導算法應用合理規范

當前,算法推薦服務提供者在開展新聞信息推送、熱點榜單、信息發布等活動時,存在傳播違法和不良信息的亂象:一是利用生成合成類算法自動合成新聞、帖子等,未作顯著標識造成虛假信息夸大傳播;二是采用定向推送類算法在首頁首屏、彈窗等,扎堆推送惡性案件、災難事故等負面信息誘發社會恐慌;三是利用排序精選類算法生成熱搜、榜單等,片面追求流量,大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內容。

針對違法和不良信息傳播問題,《規定》明確算法推薦服務向上向善的原則,提出算法推薦服務提供者應建立健全用于識別違法和不良信息的特征庫、顯著標識算法生成合成信息、加強版面頁面生態管理、重點環節積極呈現主流價值導向信息等多項措施,鼓勵符合主流價值導向的正能量傳播。

(二)聚焦侵害用戶權益亂象,引導算法應用公正公平

當前,算法推薦服務提供者在開展調度決策、個性化推薦等活動時,存在侵害用戶權益的亂象:一是大數據殺熟問題,即根據消費者的偏好、交易習慣等特征,在交易價格等交易條件上實行不合理的差別待遇;二是誘導沉迷網絡問題,即設置誘導用戶沉迷、過度消費的算法模型,尤其是利用算法推薦誘導未成年人沉迷網絡;三是勞動權益保障問題,采用調度決策類算法進行工作調度時,未保障平臺內勞動就業者(如網約配送員、網約車駕駛員等)在勞務報酬、休息休假等方面的勞動權益;四是偏見歧視問題,將違法和不良信息關鍵詞記入用戶興趣點,或者設置歧視性、偏見性用戶標簽來推送信息內容;五是未成年人和老年人權益保障問題,向未成年人推送可能影響身心健康的信息,未充分考慮老年人適老化需求等。

針對侵害用戶權益亂象,《規定》明確算法推薦服務公正公平的原則,提出算法推薦服務提供者應定期審核評估算法、加強用戶模型和用戶標簽管理、公開算法推薦服務相關規則、保障用戶選擇或退出使用算法推薦服務的權利、建立用戶申訴渠道等多種措施,保障未成年人、老年人、勞動者權益,引導算法應用遵守社會公德和倫理,遵守商業道德和職業道德。

(三)聚焦操縱社會輿論亂象,引導算法應用公開透明

當前,算法推薦服務提供者在開展個性化推薦、熱點榜單、信息發布等活動時,存在操縱社會輿論亂象:一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內容,久而久之形成用戶意見極化的“信息繭房”;二是利用算法注冊虛假賬號、雇傭網絡水軍,實施虛假點贊、轉發等流量造假,或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象;三是利用算法屏蔽信息、過度推薦,操縱干預熱搜、榜單或檢索結果排序;四是實施自我優待,影響網絡輿論、規避監管,如惡意屏蔽其他企業的網址鏈接等。

針對操縱社會輿論亂象,《規定》明確算法推薦服務公開透明的原則,鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略、增強規則透明度和可解釋性;明確規定算法推薦服務禁止行為,如不得利用算法對其他互聯網信息服務提供者進行不合理限制等,保障國家安全、公共利益及組織和個人合法權益。

二、《規定》為國家建立算法安全治理體系打下制度基礎

(一)強化企業主體責任,建立多方參與的算法推薦服務治理機制

《規定》圍繞算法推薦服務,建立政府、企業、行業組織和網民多方參與的治理機制。一是明確政府監管職責。《規定》明確國家網信部門負責統籌協調全國算法推薦服務治理和監督管理工作,工信、公安、市場監管等有關部門依據各自職責負責監督管理工作,同時通過《關于加強互聯網信息服務算法綜合治理的指導意見》建立網信、宣傳、教育、科技等多部門協同聯動長效機制,共同開展算法安全治理工作;二是強化企業主體責任。《規定》要求算法推薦服務提供者應當落實算法安全主體責任,建立健全算法安全管理制度和技術措施,配備相應的專業人員和技術支撐;三是鼓勵行業自律。《規定》鼓勵相關行業組織加強行業自律,建立健全行業準則,督促指導算法推薦服務提供者接受社會監督;四是倡導社會監督。《規定》鼓勵廣大網民積極參與算法安全治理工作,要求算法推薦服務提供者設置公眾投訴舉報入口,及時處理網民投訴舉報請求。

(二)創新技術監管模式,建立事前事中事后的算法推薦服務監管措施

《規定》提出貫穿算法推薦服務事前事中事后的監管體系。一是分級分類安全管理。《規定》根據算法推薦服務的輿論屬性或者社會動員能力、用戶規模、處理的數據敏感程度等對服務提供者實施分級分類管理,并對具有輿論屬性或者社會動員能力的算法推薦服務提供者提出更嚴格的管理要求;二是建立算法備案制度。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者在提供服務之日起十個工作日內,對服務提供者的名稱、服務形式、應用領域等信息進行備案;三是建立算法安全評估機制。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者應按照國家有關規定開展安全評估;四是開展算法監督檢查。《規定》規定網信部門會同有關部門開展算法安全評估和監督檢查工作,同時嚴厲打擊算法推薦違法違規行為。

三、小結

互聯網信息服務算法安全管理以《規定》為基礎,打造政府監管、企業履責、行業自律、社會監督的算法安全多元共治局面,在促進算法健康、有序、繁榮發展,營造風清氣正的網絡空間,弘揚社會主義核心價值觀的道路上邁出了重要的一步。下一步為貫徹落實《規定》可開展以下措施:

一是大力加強《規定》宣傳貫徹培訓。做好《規定》宣傳推廣、普及培訓,面向互聯網企業、人工智能企業、重點行業企業等開展針對性宣傳解讀,形成共識;鼓勵行業組織制定行業自律規則,指導會員加強算法推薦行業自律;針對廣大網民當前最關心、反映最強烈的算法安全問題,積極開展算法安全科普培訓,形成國家、企業、個人共同參與算法安全治理工作的良好局面。

二是建立算法安全檢查評估機制。盡快建立《規定》配套的算法安全檢查評估機制,推動算法推薦服務提供者開展算法安全自評估,督促具有輿論屬性或者社會動員能力的算法推薦服務者按照國家有關規定開展算法安全評估,建設安全檢查評估力量,支撐有關部門對算法推薦服務進行安全檢查,督促算法推薦服務提供者及時發現和整改相關問題。

三是開展算法安全技術能力建設。算法推薦技術作為一種新技術模式,面臨一些新型技術安全、應用安全甚至倫理安全風險,為支撐《規定》落地實施,亟需加強算法安全技術能力建設,深入研究生成合成、個性化推薦、排序精選、檢索過濾、調度決策等算法的安全問題,建設算法推薦服務備案、算法安全評估、算法安全風險監測等平臺,提升互聯網信息服務算法推薦技術監管能力。

四是加強算法安全標準化工作。基于問題導向、急用先行原則,加快推動算法相關技術標準發布,研究制定算法安全評估、算法分級分類安全管理等標準,進一步發揮標準對算法安全評估等工作的支撐作用;積極開展新技術新應用標準化前瞻研究,圍繞人工智能、區塊鏈等新技術新應用帶來的安全問題和風險挑戰,開展標準化前沿研究和標準化技術文件研制,不斷提升標準化工作的引領性、前瞻性。

加強算法治理 建設未成年人友好型的網絡空間

作者:林維 中國社會科學院大學副校長、教授、互聯網法治研究中心主任

習近平總書記指出:網絡空間是億萬民眾共同的精神家園,網絡空間天朗氣清、生態良好,符合人民利益。網絡空間烏煙瘴氣、生態惡化,不符合人民利益。未成年人的網絡生態建設是這一精神家園建設中的重要任務之一。

十余年來,未成年網民的規模呈現不斷增長的趨勢。據中國互聯網絡信息中心第48次《中國互聯網絡發展狀況統計報告》顯示,截至2021年6月,我國網民規模為10.11億,6-19歲網民占15.7%,共1.58億人。同時根據第十次中國未成年人互聯網運用調查顯示,我國未成年人互聯網普及率為99.2%,顯著高于71.6%的全國平均普及率。

網絡為未成年人帶來了嶄新的生存方式,也引發了未成年人網絡保護的挑戰問題,未成年人的網絡生活、交往成為其生活交往中無法擺脫、無法分割的一部分,線上線下的二元化生活加快了一元融合的節奏。未成年人的網絡參與行為成為社會網絡行為的重要構建內容,其在網絡生態建設中的主體地位勢必應當得到承認和確立。網絡強國的未來主體必定是一代又一代成長中的未成年人。無論是網絡新技術的發展,還是網絡新生活的構建,乃至網絡新文化的傳承,都依賴一代又一代已經成為網絡原住民的未成年人的發展與成長。因此,網絡生態建設的任務之一就是要建設一個未成年人友好型的網絡空間。

《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)的制定和實施,為我國未成年人網絡權益保護的制度框架提供了重要的組成部分,繼《未成年人保護法》《兒童個人信息網絡保護規定》《網絡信息內容生態治理規定》等法律文件之后,在算法領域構建了未成年人網絡權益保護的基本綱領,提供了保護和發展并行的中國方案。

首先,《規定》制定了未成年人保護專條(第十八條),專門針對未成年人權益保護規定了算法推薦服務提供者的一系列義務,要求向未成年人提供服務時,“應當依法履行未成年人網絡保護義務,并通過開發適合未成年人使用的模式、提供適合未成年人特點的服務等方式,便利未成年人獲取有益身心健康的信息。”在具體禁止性義務層面,該條進一步規定,“算法推薦服務提供者不得向未成年人推送可能引發未成年人模仿不安全行為和違反社會公德的行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的信息,不得利用算法推薦服務誘導未成年人沉迷網絡。”

未成年人保護專條從積極義務和消極義務兩個方面,構建了算法推薦服務提供者的未成年人保護義務體系。這意味著,算法推薦服務提供者不僅需要筑起保護未成年人免受不良信息侵害的防護墻,還需要為未成年人獲取有益信息承擔積極主動的社會責任,通過在未成年人模式等專門模式下,建設并不斷充實健康向上、適合未成年人身心特點、具備良好使用體驗和充分吸引力的內容池,保護和發展并重,為未成年人積極構建風清氣朗的網絡空間,保證未成年人可以通過網絡繼續拓展視野、發展自我,建設未成年人友好型的網絡空間。

特別需要指出的是,《規定》強調了《未成年人保護法》網絡保護專章中確認的不得誘導未成年人沉迷網絡的規定。算法作為移動互聯網時代的重要技術創新,算法推薦服務的重要特點即在于能夠通過判斷和預測用戶偏好,向用戶推送個性化的服務內容。未成年人存在認知、判斷能力較弱,價值觀尚未成型等特點,針對性過強的算法推送內容有可能引發各種不良效果,亦可能導致沉迷網絡現象。針對這一重點問題做出明確的強調和規定,體現了《規定》強化落實算法領域防沉迷義務的堅定態度。

其次,在未成年人保護專條之外,《規定》從內容生態治理、用戶標簽管理、用戶權益保護多個層面對于算法推薦服務構建全流程、深層次的監管框架,為未成年人權益保護構建了多重屏障。

從內容生態治理角度,《規定》不僅提出了原則性要求,更是對于算法技術實現的全過程進行重點環節干預,例如要求“建立健全用于識別違法和不良信息的特征庫,完善入庫標準、規則和程序”,以及對于算法生成合成信息的顯著標識義務,從源頭對于信息內容的技術控制提出要求(第九條)。從用戶標簽管理角度,《規定》要求“加強用戶模型和用戶標簽管理,完善記入用戶模型的興趣點規則和用戶標簽管理規則,不得將違法和不良信息關鍵詞記入用戶興趣點或者作為用戶標簽并據以推送信息”,這對于防范未成年人接觸違法和不良信息尤其重要。與之相對應的是用戶權益保護領域,《規定》在《個人信息保護法》關于自動化決策的規定基礎之上,進一步要求算法推薦服務提供者“應當向用戶提供選擇或者刪除用于算法推薦服務的針對其個人特征的用戶標簽的功能”(第十七條)。這一規定在行業合規中需要結合不同場景和服務功能進行分別落實,在未成年人保護領域則應采取最為嚴格的落實水準,應當為未成年人和其監護人提供充分了解、選擇、刪除的機制,使其對于針對未成年人自身個人特征的用戶標簽掌握較為全面的控制和干預的權利,確保未成年人不會因為不恰當的標簽設置以及據此進行的算法推薦服務而遭受侵害。

《規定》作為中國首個針對算法推薦服務制定的專門規定,在算法治理領域為國際社會提供了中國道路和方案,在未成年人網絡保護領域,也構建了保護和發展并重的雙重路徑,強化和完善了體系化的制度構建,有助于提升網絡空間治理體系和治理能力現代化,為建設未成年人友好型的網絡空間提供了重要的制度基石。

健全算法推薦治理機制  推動新技術安全可信發展

作者:王愛華 中國信息通信研究院副總工程師

近年來,大數據、物聯網、云計算等新一代信息技術快速發展,數字化、網絡化、智能化加速推進,新技術新應用新業態蓬勃興起。作為數字經濟時代的重要底層架構,算法逐步成為影響內容分發、服務提供、資源配置的基礎性力量,與此同時,算法也引發了群體歧視、算法合謀、信息繭房等一系列問題,給公眾利益、社會穩定和國家安全帶來巨大挑戰。習近平總書記多次強調,要依法加強網絡社會管理,加強網絡新技術新應用的管理,確保互聯網可管可控。2021年12月31日,國家網信辦聯合工業和信息化部、公安部、市場監管總局出臺《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》),針對當前突出問題,全面搭建了算法綜合治理機制,邁出我國新技術新應用立法的重要一步。

一、堅持問題導向,聚焦人民群眾反映強烈的算法問題

堅持以人民為中心,是習近平新時代中國特色社會主義思想的重要內容,貫穿于習近平新時代中國特色社會主義思想的各個方面。全面貫徹落實以人民為中心,要求突出問題導向、目標導向,積極回應群眾強烈訴求和急難愁盼問題。當前,算法技術廣泛滲入互聯網應用,深入貼近人民生活,由算法引發的信息繭房、算法歧視、未成年人網絡沉迷、騎手安全、不正當競爭等新問題層出不窮,引發社會廣泛關注。

《規定》聚焦重點、抓綱帶目,對上述新問題、新挑戰進行了全面、系統和具體回應,進一步細化用戶權利,切實維護用戶自主權利。一是強化算法透明度,保障用戶知情權。算法透明是實施算法監督、自主選擇的重要前提,也是在損害發生后用戶進行權利救濟的必要保障。《規定》明確了平臺應用算法的告知義務,對算法基本原理、目的意圖和主要運行機制等的公示義務,并鼓勵平臺優化對檢索、排序、選擇、推送、展示等規則的透明度和可解釋性。二是賦予用戶退出個性化推薦的權利。與《個人信息保護法》《電子商務法》相銜接,《規定》第十七條規定了平臺向用戶提供不針對其個人特征的選項,或者向用戶提供便捷的關閉算法推薦服務選項的義務。三是創新性提出對用戶標簽的管理權,確保用戶對輸入數據的適當干預。根據《規定》的要求,用戶可選擇或刪除用于算法推薦服務的針對其個人特征的用戶標簽,從輸入數據層面實現更大自主權。此外,《規定》重點強化對未成年人、老年人、勞動者、消費者等特定群體的權益保護。

二、堅持底線思維,夯實平臺算法安全治理的主體責任

當前,人工智能、大數據等新技術新應用體現出重大國家戰略意義,關系國家安全和公共利益,這更加要求我們堅持底線思維,著力防范化解算法帶來的政治安全、意識形態安全、社會秩序等方面重大風險。在《網絡安全法》《數據安全法》《個人信息保護法》等頂層立法框架下,《規定》與近年國家網信辦出臺的《網絡信息內容生態治理規定》《互聯網用戶公眾賬號信息服務管理規定》《網絡音視頻信息服務管理規定》《互聯網直播服務管理規定》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》等互聯網信息服務相關法律規范有效銜接、一脈相承。例如,《規定》對《網絡信息內容生態治理規定》第十二條個性化算法推薦技術的人工干預和自主選擇機制,以及《網絡音視頻信息服務管理規定》第十條有關深度學習、虛擬現實等新技術新應用的安全評估義務等制度,均作了進一步規定。

基于網絡平臺的技術、數據優勢,強化網絡平臺在算法運行中的全流程主體責任,成為《規定》的重要內容。一是《規定》以基于風險的規制為基本理念,確立了算法定期審核、評估等要求。重點強調對算法相關的數據、模型等進行評估審查,規定平臺應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等內容,應當建立健全安全評估監測、安全事件應急處置等管理制度。二是《規定》注重技術治理手段,并確立了負面清單制度。鼓勵平臺綜合運用內容去重、打散干預等技術策略,積極化解信息繭房,實現信息多樣性,同時在不正當競爭、勞動保障、大數據殺熟等方面確立了多項禁止性行為,為算法推薦服務劃定底線紅線。三是《規定》重點強調在網絡信息內容生態治理中的主體責任。要求平臺建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發布審核等管理制度,不得利用算法操縱榜單、控制熱搜等干預信息呈現,在各個重點環節積極呈現符合主流價值導向的信息等。

三、堅持良法善治,推進新技術新應用監管的中國路徑

當前,算法等新技術新應用已經成為推動企業數字化轉型和國家治理能力現代化的重要力量,推動算法技術應用中的良法善治意義重大。良法善治意味著應堅持從中國實際出發,立足我國基本國情,統籌考慮經濟社會發展狀況、法治建設總體進程、人民群眾需求變化等綜合因素,借鑒國際社會有益經驗,確保各項制度設計有效落實。《規定》在借鑒國外經驗基礎上,提出事前監管、區分監管、系統監管等思路,貢獻了新技術新應用監管的中國智慧和中國方案。

一是事前監管,確立算法備案、算法評估等制度。《規定》對具有輿論屬性或者社會動員能力的算法推薦服務提供者提出了備案要求,要求通過算法備案系統填報服務提供者的名稱、服務形式、應用領域、算法類型、算法自評估報告、擬公示內容等信息,有效應對算法黑箱問題。針對變更備案信息的要求進一步體現了監管靈活性和敏捷性優勢。二是區分監管,確立分級分類的思路。《規定》從全局角度出發,在復雜多變局面下統籌發展和安全、效率和公平、活力和秩序,引導技術向上向善發展。其中,第二十三條確立了算法分級分類的標準,要求根據算法推薦服務的輿論屬性或者社會動員能力、內容類別、用戶規模、算法推薦技術處理的數據重要程度、對用戶行為的干預程度等,對算法推薦服務提供者進行差異化管理。三是系統監管,建立多元共治的局面。《規定》著力完善治理體系,統籌各方建立完整制度鏈條。優化監管框架,實現事前事中事后全流程、全鏈條監管,增強監管系統性和權威性;注重充實算法監管力量,培育算法治理的社會性支撐力量,如第三方評估機構、外部專家團隊,推動行業自律和出臺標準指南;推進公眾監督,暢通社會監督和申訴渠道,并切實有效處理公眾訴求。

整體來看,在立法目的上,《規定》注重推動算法安全可信和技術創新之間的有效平衡。一方面建立健全算法安全治理機制,構建完善的算法安全監管體系,另一方面,注重推進算法自主創新,促進算法健康、有序、繁榮發展。在治理理念上,《規定》體現個人賦權和系統治理相結合的算法治理趨勢。在賦予用戶算法知情權、自主選擇權等權利的同時,注重從事前、事中、事后全流程對輸入數據、算法邏輯等全要素進行系統治理。在行為規范上,注重堅持正確導向和底線思維。強調算法應遵循技術倫理,以主流價值觀為引領,強化算法透明度義務規范;同時建立算法運行的負面清單,禁止利用算法影響網絡輿論、實施壟斷和不正當競爭等行為。下一步,建議進一步健全算法安全治理機制,強化監管執法和多元協同治理,落實平臺主體責任,推動數字經濟發展行穩致遠。

加強算法安全科研攻關 推進算法綜合治理

作者:程學旗 中國科學院計算技術研究所副所長

人類社會正加速進入智能化時代,數據是關鍵生產要素,算法是核心生產力。隨著人工智能、大數據等新型信息技術的快速發展,算法與互聯網信息服務深度融合,為用戶提供個性化、精準化、智能化的信息服務。互聯網信息服務算法在加速互聯網信息傳播、繁榮數字經濟、促進社會發展的同時,其不合理應用也影響了正常的傳播秩序、市場秩序和社會秩序,給維護意識形態安全、社會公平公正和網民合法權益帶來挑戰。

為規范互聯網信息服務算法應用生態,國家互聯網信息辦公室、工業和信息化部、公安部、國家市場監督管理總局聯合發布《互聯網信息服務算法推薦管理規定》(以下簡稱《規定》)。《規定》是目前我國針對互聯網信息服務算法推薦出臺的最為系統的專門性部門規章,為規范互聯網信息服務算法推薦活動、促進互聯網信息服務健康發展、推進網絡空間治理提供了重要的制度保障,意義重大,影響深遠。

一、堅持主流價值導向,管理好使用好發展好算法應用

《規定》著眼于網絡信息內容生態治理,防范互聯網信息服務算法濫用風險,保障用戶合法權益,充分發揮算法服務正能量傳播作用,營造風清氣正的網絡空間。《規定》從以下三個方面明確了算法治理的總體方向。

(一)堅持正確導向,算法向上向善。《規定》鼓勵算法推薦服務提供者使用算法積極傳播正能量、抵制違法和不良信息。《規定》鼓勵算法正向應用和創新發展,通過人工干預優化算法推薦服務機制,將網絡信息內容生態治理和算法治理有機結合,弘揚社會主義核心價值觀。

(二)堅持風險防控,推進算法規制。《規定》著眼互聯網信息服務中潛在的算法影響網絡輿論、算法誘導用戶沉迷或過度消費、算法共謀和不正當競爭等算法應用風險,由此引出治理對象,通過算法規制規范互聯網信息服務算法推薦活動,維護國家安全和社會公共利益。

(三)堅持規范發展,防止算法濫用。《規定》倡導,提供算法推薦服務應遵循公正公平、公開透明、科學合理和誠實信用的原則,四個基本原則為算法規范發展框定了邊界。《規定》在信息服務規范和用戶權益保護部分,設置了算法應用的應當行為和禁止行為,明確了算法應用的底線。

二、建立健全科學的監管體系,形成算法治理長效機制

《規定》明確了互聯網信息服務算法綜合治理的監管體系,構建了涵蓋算法分級分類、算法備案管理、算法安全評估、算法風險監測等舉措的科學監管體系,逐步形成算法治理長效機制。具體體現在三個方面:

(一)算法分級分類,科學精細治理。《規定》明確了算法治理的對象,即應用算法推薦技術向用戶提供信息的算法推薦服務提供者。《規定》將互聯網信息服務推薦算法分為生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等五大類,并分別設置了針對性的差異化條款。例如,對于生成合成類算法推薦服務,強調“應做出顯著標識”;對于個性化推送類,突出用戶的自主選擇權等用戶權益保護;對于決策調度類,關注算法自動化決策對勞動者、消費者等造成的影響。對算法推薦服務的分級分類管理,體現了科學化、精細化的算法治理基本思路。

(二)算法備案先行,治理有章可循。《規定》要求具有輿論屬性或者社會動員能力的算法推薦服務提供者通過互聯網信息服務算法備案系統履行算法備案手續,并在對外提供服務的網站、應用程序等的顯著位置標明其備案編號。算法備案是《規定》提出的一個重要舉措,以算法推薦服務為切入點對其使用的互聯網信息服務算法進行備案,將算法和服務作為一個有機整體進行治理。算法自評估報告是算法備案的一項亮點內容,為國家監管部門和算法推薦服務提供者協同推動算法治理工作提供了重要抓手。

(三)算法安全評估,力求標本兼治。《規定》明確了網信部門和電信、公安、市場監管等有關部門對算法推薦服務依法開展安全評估和監督檢查的工作職責,并要求算法推薦服務提供者對安全評估和監督檢查工作提供必要的數據、技術等支持或協助。算法安全評估著眼于治本,從算法推薦服務的基本原理、目的意圖、主要運行機制等方面入手,以“事前”評估的方式排除算法在模型、數據、策略、人工干預等方面的安全隱患;算法監督檢查以事中監測的方式發現算法使用過程中的安全風險及算法濫用帶來的算法亂象。算法安全評估和監督檢查工作覆蓋了算法應用的全生命周期,二者相互促進,力求算法治理做到標本兼治。

三、建設算法治理技術支撐體系,促進算法健康有序發展

《規定》的出臺,是進一步提升網絡綜合治理能力的應時應勢之舉,具有很強的探索性和前瞻性,也標志著我國網絡空間治理邁入新的發展階段。但是,算法綜合治理目前仍處于起步階段,在技術支撐和能力建設方面有待進一步加強。加快推進算法綜合治理技術支撐體系建設,是切實保障算法綜合治理工作有力有序推進的關鍵。同時,算法安全既是國家重大需求,也是國際科技前沿,國家科研機構應加大算法安全方面的科技攻關,建設算法安全評估和風險監測的科研創新平臺,建設支撐互聯網信息服務算法綜合治理的技術體系。建議加強如下工作:

(一)優化算法安全科研布局,構建算法治理關鍵技術聯合攻關體系。圍繞智能算法安全這一重大創新領域,組建國家重點實驗室,形成引領算法安全基礎研究的戰略力量;充分調動“政產學研用”各方優勢力量,探索共建新型研發機構,加大科研攻關力度,研究算法安全內生機理、算法安全風險評估、算法全生命周期安全監測等關鍵技術問題。

(二)完善算法人才隊伍結構,建立算法安全治理人才隊伍培養體系。鼓勵高校設置并加強算法安全相關專業學科建設,擴大招生和培養規模,加大算法安全治理基礎人才培養力度;完善算法安全治理領域成果評價和人才激勵機制,提供良好科研生態環境,政策導向與市場優化雙管齊下,培養一支高素質算法安全人才隊伍。

(三)加強基礎科研設施建設,提升算法自主創新和安全可控能力。建設算法安全基礎科研設施,促進算法研發工作,支持算法與社會、經濟各領域深度結合。加強知識產權保護,提高自研算法產品的推廣和使用,增強算法核心競爭力。推進算法安全科學普及工作,提升企業和社會公眾的算法安全風險意識,引導社會各界積極參與社會監督,共同推進算法綜合治理。

 

 

文章來源:中央網信辦(國家互聯網信息辦公室)違法和不良信息舉報中心

想要导航提示页面汤姆-御用导航提示提醒页面在线-汤姆御用提醒页