算法推薦是把“雙刃劍”
騰訊安全戰略研究中心聯合賽博研究院發布的《人工智能時代數字內容治理的機遇與挑戰》報告顯示，算法精準推薦已經占據信息流分發主導地位，算法能夠實現數字內容聚合和精準推薦，快速匹配信息與人。基於算法的個性化內容推送在為用戶提供精準化、個性化服務的同時，也帶來了國家安全風險因素增高、不良信息泛濫風險增加以及傳統權利保護難度加大等問題，已然成為壹把“雙刃劍”。
上海 財經 大學研究員崔麗麗表示，互聯網平臺作為消除信息不對稱的先進技術代表，有責任維持技術手段的客觀性，反映流量的自然狀態，呈現真實的公眾意見。不應該因為商業利益的驅使在流量上作假。過去曾發生過壹些涉及到商業利益的新聞、信息被操控的情況，這樣獲取的商業利益是壹種市場不公平的表現，甚至是不合法的。
提出算法“向善”新要求
根據征求意見稿，管理規定將適用於在境內應用算法推薦技術提供互聯網信息服務的公司。這也意味著，以內容推薦算法為核心競爭力的短視頻平臺、UGC（用戶生產內容）平臺、推薦內容或是廣告的電商和社交平臺等主流互聯網公司和平臺的算法推薦技術都包含在此。
崔麗麗表示，不論是UGC還是PGC（專業生產內容）平臺，內容的審核以及對於受眾的推薦實際都有相應的規則，互聯網信息平臺已經在形態上取代了過去的傳統媒體，因此，可能具備了壹定的公***設施屬性，所以信息的產生、審核和分發應該符合公允、客觀以及符合事實等要求。
征求意見稿指出，算法推薦服務提供者應當堅持主流價值導向，優化算法推薦服務機制，積極傳播正能量，促進算法應用“向上向善”。算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等，不得設置誘導用戶沈迷或者高額消費等違背公序良俗的算法模型。
王娟表示，征求意見稿對算法的主體價值導向、個人數據用途、行業自律等提出了算法“向善”的要求，提出了算法提供者備案責任，明確了算法推薦服務提供者作為落實算法安全的主體責任 ，還對算法推薦服務日誌等信息提出了留存要求，留存期限不少於六個月，並在相關執法部門依法查詢時予以提供，對回溯求證環節進行了加強。
征求意見稿明確，算法推薦服務提供者應落實算法安全主體責任，建立健全用戶註冊、信息發布審核、算法機制機理審核、安全評估監測、安全事件應急處置、數據安全保護和個人信息保護等管理制度，制定並公開算法推薦相關服務規則，配備與算法推薦服務規模相適應的專業人員和技術支撐。
從用戶的角度來看，算法對數據的交互模式也提出了很多要求。征求意見稿提出，算法推薦服務提供者應當以顯著方式告知用戶其提供算法推薦服務的情況，並以適當方式公示算法推薦服務的基本原理、目的意圖、運行機制等。同時，算法推薦服務提供者應當向用戶提供選擇、修改或者刪除用於算法推薦服務的用戶標簽的功能，以及不針對其個人特征的選項，或者向用戶提供便捷的關閉算法推薦服務的選項。
而對於大數據“殺熟”等頑疾，征求意見稿強調，算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者合法權益，不得根據消費者的偏好、交易習慣等特征，利用算法在交易價格等交易條件上實行不合理的差別待遇等違法行為。
網絡熱搜將被嚴管
近年來，網絡熱搜已經成為實時的輿情風向標和輿論的集散地，征求意見稿也特別對熱搜作出了規範管理，明確算法推薦服務提供者應當加強算法推薦服務版面頁面生態管理，建立完善人工幹預和用戶自主選擇機制，在首頁首屏、熱搜、精選、榜單類、彈窗等重點環節積極呈現符合主流價值導向的信息內容。
王娟表示，征求意見稿對熱搜、虛假流量可謂“重拳出擊”，核心仍是圍繞互聯網不是法外之地，建立清朗網絡空間、樹立良好 社會 價值觀，微博熱搜榜等各類“帶節奏”式資本疊加流量的運作模式將受到重大挑戰。
面對外界的質疑，微博也在近日發布了熱搜管理規則，並對“花錢買熱搜”“花錢壓熱搜”等質疑回應稱，熱搜根據微博用戶的真實行為進行計算，並根據搜索量、發博量、互動量等數據指標，形成實時榜單。榜單算法中包含了嚴格的排水軍和反垃圾機制，以確保公正客觀。同時上半年熱搜還將“減少 娛樂 占比”作為主要調控目標。