給算法套上“緊箍咒”——國家網(wǎng)信辦近日公布互聯(lián)網(wǎng)信息服務(wù)算法備案信息

來源：人民日報海外版 時間：2022-09-16 17:10:48 作者：廖睿靈

　　點(diǎn)開購物軟件搜索某樣商品，相關(guān)產(chǎn)品就會在首頁推薦頻頻出現(xiàn)；刷一會兒短視頻，平臺便會接連推送同類視頻……在移動互聯(lián)網(wǎng)時代，算法讓人們獲取信息變得更容易，卻也引發(fā)了“信息繭房”等問題。

　　日前，國家網(wǎng)信辦公布互聯(lián)網(wǎng)信息服務(wù)算法備案信息，對微博、手機(jī)淘寶、微信等應(yīng)用產(chǎn)品的共30種算法進(jìn)行備案。專家認(rèn)為，此舉旨在將算法機(jī)制公開透明化，讓其更好、更健康地服務(wù)于用戶。

　　警覺算法“鉗制”

　　95后趙陽是某短視頻平臺的資深用戶，常常通過觀看短視頻獲取信息、消遣娛樂，“算法能清楚‘記住’我的喜好。比如在短視頻平臺上搜索‘萌寵’，再打開軟件時首頁就會推薦很多萌寵類視頻，幫我省去了過濾信息的時間。”

　　伴隨大數(shù)據(jù)、人工智能等技術(shù)的廣泛應(yīng)用，用戶的行為習(xí)慣也作為“數(shù)據(jù)”被記錄下來，借由個性化推薦算法，用戶偏好的資訊內(nèi)容、娛樂信息得以精準(zhǔn)推送。然而，算法“過濾”在降低人們獲取信息成本的同時，也造成了“信息繭房”“大數(shù)據(jù)殺熟”等問題。

　　“總算關(guān)掉了！”北京市民李先生最近參照網(wǎng)絡(luò)上的相關(guān)攻略，關(guān)閉了手機(jī)里多款應(yīng)用程序的“個性化推薦”服務(wù)選項，“我之前在一個社交軟件上評論過喜歡某款車型，緊接著就收到手機(jī)里各種平臺關(guān)于該車型的資訊、廣告，被算法‘算計’真不舒服。”

　　中國人民大學(xué)新聞學(xué)院教授彭蘭認(rèn)為，算法可以看作用計算機(jī)程序?qū)崿F(xiàn)、基于數(shù)據(jù)分析、面向特定目標(biāo)的一套指令或方案。與人們生活緊密相關(guān)的算法包括個性化推薦算法、決策算法，也有各種平臺的算法、各種管理目標(biāo)下的治理算法等。但個體在享受算法帶來便利的同時是否會受到算法的“鉗制”，仍需思考和警覺。

　　加強(qiáng)規(guī)范是關(guān)鍵

　　為了抵御算法服務(wù)可能帶來的不利影響，相關(guān)法律法規(guī)紛紛“亮劍”，給算法念起“緊箍咒”。

　　去年12月，國家網(wǎng)信辦、工業(yè)和信息化部、公安部、國家市場監(jiān)管總局聯(lián)合公布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，對算法推薦服務(wù)提供者的信息服務(wù)規(guī)范、用戶權(quán)益保護(hù)等作了規(guī)定。

　　“算法應(yīng)用日益普及深化，在給經(jīng)濟(jì)社會發(fā)展等方面注入新動能的同時，算法歧視、‘大數(shù)據(jù)殺熟’、誘導(dǎo)沉迷等算法不合理應(yīng)用導(dǎo)致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護(hù)意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)。”國家網(wǎng)信辦有關(guān)負(fù)責(zé)人說，迫切需要對算法推薦服務(wù)建章立制、加強(qiáng)規(guī)范，著力提升防范化解算法推薦安全風(fēng)險的能力，促進(jìn)算法相關(guān)行業(yè)健康有序發(fā)展。

　　值得注意的是，上述規(guī)定對“算法備案”提出了明確要求：具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、應(yīng)用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。這意味著算法運(yùn)行機(jī)制將公開透明地向用戶呈現(xiàn)，幫助用戶更清楚地認(rèn)知相關(guān)平臺算法服務(wù)應(yīng)用情況，進(jìn)而規(guī)避算法服務(wù)可能帶來的風(fēng)險。

　　打開算法“黑箱”

　　今年3月，互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)正式上線。通過該系統(tǒng)，用戶可以清楚查詢到各備案平臺的算法原理和運(yùn)行機(jī)制、應(yīng)用場景等信息。

　　算法備案到底“備”了哪些信息？根據(jù)國家網(wǎng)信辦8月12日公開發(fā)布的互聯(lián)網(wǎng)信息服務(wù)算法備案信息，騰訊、百度、抖音、淘寶、美團(tuán)等各大互聯(lián)網(wǎng)平臺共公示了30條備案；算法類別包括個性化推送類、檢索過濾類、排序精選類、調(diào)度決策類、生成合成類。其中個性化推送類占比最多，共有18個備案。

　　以短視頻平臺抖音為例，記者查詢互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)發(fā)現(xiàn)，抖音擬公示的算法機(jī)制機(jī)理內(nèi)容包括算法基本原理、運(yùn)行機(jī)制、應(yīng)用場景、目的意圖等。平臺主動申明自身為避免算法技術(shù)產(chǎn)生不利影響所做的嘗試。比如抖音的備案信息中提到，為了避免“信息繭房”，抖音個性化推薦算法專門設(shè)計了“興趣探索”機(jī)制。一方面每次推薦都會選擇用戶過去不常觀看的內(nèi)容類目進(jìn)行一定比例的推薦；另一方面每次獲取推薦內(nèi)容的過程中會特別增加一條隨機(jī)內(nèi)容來保障用戶可見內(nèi)容的多樣性。

　　復(fù)旦大學(xué)新聞學(xué)院教授張志安認(rèn)為，算法原理備案公開是壓實平臺責(zé)任、保障用戶權(quán)益的重要一步。不過，用戶對算法推薦可能帶來的負(fù)面影響雖心存擔(dān)憂，卻未必真的關(guān)注算法“暗箱”的技術(shù)原理。打開算法“黑箱”還需多方共同努力。

　　專家建議，未來仍需加強(qiáng)政府部門對算法治理的監(jiān)管作用，推動平臺積極落實算法治理責(zé)任。同時，引導(dǎo)更多人關(guān)注算法問題，讓算法服務(wù)真正實現(xiàn)趨利避害。

責(zé)任編輯：藺弦弦