誘導用戶沉迷、過度消費？促進算法應用向上向善

　　設置誘導用戶沉迷、過度消費的算法模型，已成為備受詬病的網絡消費和娛樂現(xiàn)象。

　　“有的游戲你玩不過去它就給你放點水，導致你像中毒一樣停不下來；或者看你反復瀏覽某件商品，它就顯示兩件八折、三件七五折這樣的優(yōu)惠，讓你盡可能多買。”中國電子技術標準化研究院網安中心測評實驗室副主任何延哲說。

　　規(guī)定提出，算法推薦服務提供者應當定期審核、評估、驗證算法機制機理、模型、數(shù)據和應用結果等，不得設置誘導用戶沉迷、過度消費等違反法律法規(guī)或者違背倫理道德的算法模型。

　　中國政法大學數(shù)據法治研究院教授王立梅認為，算法推薦服務提供者應當堅持主流價值導向、促進算法應用向上向善的基本要求。規(guī)定提出不得設置誘導用戶沉迷、過度消費等算法模型，正是將科技向善理念落實為具體業(yè)務要求的體現(xiàn)。

　　“規(guī)定提出了要防范出現(xiàn)此類情形，需要相關企業(yè)切實做好算法的評估工作，從算法推薦的邏輯、面向的用戶群體、瀏覽和消費行為等多個角度出發(fā)進行綜合分析。”何延哲建議，為防止算法導致的沉迷或過度消費，必要時還應引入第三方進行評價和評議，以保證評估的中立性。

　　刷量控評影響網絡輿論？確保算法公開透明

　　利用算法注冊虛假賬號、雇傭網絡“水軍”，實施虛假點贊、轉發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評；屏蔽信息、過度推薦，操縱干預熱搜、榜單或檢索結果排序……一些算法推薦服務提供者在開展個性化推薦、熱點榜單、信息發(fā)布等活動時，還存在影響網絡輿論的現(xiàn)象。

　　根據規(guī)定，算法推薦服務應遵循公開透明的原則，鼓勵算法推薦服務提供者綜合運用內容去重、打散干預等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機制機理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預信息呈現(xiàn)。

　　“針對微博存在的刷量、刷榜、控評等干擾、扭曲真實的用戶聲音和信息傳播等問題，我們一直在努力整治。”微博有關負責人坦言，這些問題屢禁難絕的背后，也有真人刷榜行為比較難發(fā)現(xiàn)、對已形成完整產業(yè)鏈的相關黑灰產難以從技術上禁絕等困難的存在。

　　世輝律師事務所合伙人王新銳認為，規(guī)定要求網絡平臺以顯著方式告知用戶其提供算法推薦服務的情況，同時要求具有輿論屬性或者社會動員能力的平臺將算法相關情況予以備案，通過這種“普遍公開+部分備案”的方式來解決算法不透明帶來的現(xiàn)實問題和普遍憂慮。