通過大數(shù)據(jù)“殺熟”實(shí)施不合理差別待遇，利用算法誘導(dǎo)用戶沉迷網(wǎng)絡(luò)、過度消費(fèi)……當(dāng)前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，在給用戶帶來一定程度便利的同時(shí)，由算法引發(fā)的侵害用戶權(quán)益問題也屢屢出現(xiàn)。
算法推薦是指利用生成合成類、個(gè)性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等技術(shù)向用戶提供信息。
近日，國家網(wǎng)信辦等四部門出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，針對(duì)被詬病已久的問題提出明確要求。
大數(shù)據(jù)“殺熟”如何解？不得實(shí)施差別待遇
同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣平臺(tái)，會(huì)員卻比非會(huì)員多付錢；同時(shí)同地打同類型車到同一目的地，某打車平臺(tái)曾被用戶發(fā)現(xiàn)熟客反而收費(fèi)更高。
當(dāng)前，越來越多的企業(yè)利用大數(shù)據(jù)分析評(píng)估消費(fèi)者的個(gè)人特征用于商業(yè)營銷。但也有一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”，對(duì)不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”。
規(guī)定提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。
去年10月，騰訊、華為等20余家App運(yùn)營企業(yè)承諾將嚴(yán)守用戶個(gè)人隱私邊界，保護(hù)用戶公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”。
中國信息安全研究院副院長左曉棟認(rèn)為，大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶個(gè)人信息導(dǎo)致的。解決這類問題，首先要在治理違法違規(guī)收集用戶個(gè)人信息上下功夫，其次要保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。例如，要向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)，并提供選擇或刪除針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能。
誘導(dǎo)用戶沉迷、過度消費(fèi)？促進(jìn)算法應(yīng)用向上向善
設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)的算法模型，已成為備受詬病的網(wǎng)絡(luò)消費(fèi)和娛樂現(xiàn)象。
“有的游戲你玩不過去它就給你放點(diǎn)水，導(dǎo)致你像中毒一樣停不下來；或者看你反復(fù)瀏覽某件商品，它就顯示兩件八折、三件七五折這樣的優(yōu)惠，讓你盡可能多買。”中國電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測評(píng)實(shí)驗(yàn)室副主任何延哲說。
規(guī)定提出，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。
中國政法大學(xué)數(shù)據(jù)法治研究院教授王立梅認(rèn)為，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向、促進(jìn)算法應(yīng)用向上向善的基本要求。規(guī)定提出不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等算法模型，正是將科技向善理念落實(shí)為具體業(yè)務(wù)要求的體現(xiàn)。
“規(guī)定提出了要防范出現(xiàn)此類情形，需要相關(guān)企業(yè)切實(shí)做好算法的評(píng)估工作，從算法推薦的邏輯、面向的用戶群體、瀏覽和消費(fèi)行為等多個(gè)角度出發(fā)進(jìn)行綜合分析。”何延哲建議，為防止算法導(dǎo)致的沉迷或過度消費(fèi)，必要時(shí)還應(yīng)引入第三方進(jìn)行評(píng)價(jià)和評(píng)議，以保證評(píng)估的中立性。
