大數(shù)據(jù)“殺熟”、“水軍”刷量控評(píng)，新規(guī)出手了！

通過(guò)抓取用戶日常的使用數(shù)據(jù)，分析得出人們的行為、習(xí)慣和喜好，進(jìn)而精準(zhǔn)化地提供信息、娛樂、消費(fèi)等各類服務(wù)。近年來(lái)，算法推薦技術(shù)為人們提供了許多便利，與此同時(shí)，“大數(shù)據(jù)殺熟”、流量造假、誘導(dǎo)沉迷消費(fèi)等不合理應(yīng)用也給我們的生活帶來(lái)煩惱。

3月1日起，國(guó)家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》）將正式施行。

本文轉(zhuǎn)載自微信公眾號(hào)“央視新聞”（ID：cctvnewscenter），原文首發(fā)于2022年2月28日，標(biāo)題為《大數(shù)據(jù)“殺熟”、誘導(dǎo)沉迷消費(fèi)？新規(guī)出手了！》，不代表瞭望智庫(kù)觀點(diǎn)。

1

算法無(wú)處不在濫用問(wèn)題不斷

對(duì)于普通用戶而言，算法摸不著也看不懂，卻在廣泛影響著我們通過(guò)各種平臺(tái)獲取互聯(lián)網(wǎng)信息服務(wù)。為了打破算法摸不著也看不懂的“黑箱”，《規(guī)定》明確要求保障用戶的算法知情權(quán)和算法選擇權(quán)，應(yīng)當(dāng)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。

《規(guī)定》要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向，積極傳播正能量，建立完善人工干預(yù)和用戶自主選擇機(jī)制，不得利用算法實(shí)施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競(jìng)爭(zhēng)行為。

2

不得實(shí)施差別待遇劍指大數(shù)據(jù)“殺熟”

同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣平臺(tái)，會(huì)員卻比非會(huì)員多付錢；同時(shí)同地打同類型車到同一目的地，某打車平臺(tái)曾被用戶發(fā)現(xiàn)熟客反而收費(fèi)更高……近年來(lái)，一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”，對(duì)不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”，讓消費(fèi)者十分反感。

對(duì)此，《規(guī)定》提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

專家強(qiáng)調(diào)，《規(guī)定》還明確保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。通過(guò)向用戶提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)，并提供選擇或刪除針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能，避免消費(fèi)者被算法“算計(jì)”。

3

保護(hù)勞動(dòng)者合法權(quán)益避免被算法所“困”

2020年9月，一篇名為《外賣騎手，困在系統(tǒng)里》的文章備受關(guān)注。文章稱，在外賣平臺(tái)系統(tǒng)的算法與數(shù)據(jù)驅(qū)動(dòng)下，外賣騎手的配送時(shí)間不斷被壓縮。為避免差評(píng)、維持收入，外賣員不得不超速、違章，遭遇交通事故的數(shù)量急劇上升。

據(jù)了解，互聯(lián)網(wǎng)平臺(tái)優(yōu)化算法主要通過(guò)大數(shù)據(jù)分析算法模型計(jì)算出業(yè)務(wù)經(jīng)營(yíng)的最佳策略，與此同時(shí)，與算法相配合的還有一整套嚴(yán)格的績(jī)效考核機(jī)制，一旦違背部分算法規(guī)則，則會(huì)在考核中失去“優(yōu)勢(shì)”，并可能帶來(lái)了一些惡性應(yīng)對(duì)行為。

對(duì)此，《規(guī)定》專門提出，算法推薦服務(wù)提供者向勞動(dòng)者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動(dòng)者取得勞動(dòng)報(bào)酬、休息休假等合法權(quán)益，建立完善平臺(tái)訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎(jiǎng)懲等相關(guān)算法。

清華大學(xué)人工智能國(guó)際治理研究院副院長(zhǎng)梁正稱，由于機(jī)器還在發(fā)展階段當(dāng)中，針對(duì)一些勞動(dòng)工作場(chǎng)景，把決定權(quán)力交給機(jī)器，有很大的潛藏的公平性、可靠性的風(fēng)險(xiǎn)。

4

確保算法公開透明嚴(yán)防刷量控評(píng)影響輿論

在娛樂行業(yè)，部分流量明星動(dòng)輒可以拿到上億甚至十幾億的商業(yè)回報(bào)，明星商業(yè)平臺(tái)無(wú)所不用其極地制作話題進(jìn)行炒作。品牌方也深諳此道，甚至運(yùn)用手段刻意制造不同粉絲的矛盾，掀起罵戰(zhàn)來(lái)博眼球、拉流量。

雇傭網(wǎng)絡(luò)“水軍”實(shí)施流量造假，鼓動(dòng)“飯圈”粉絲互撕，刷量控評(píng)……在這一過(guò)程中，還有一些算法推薦服務(wù)提供者干預(yù)熱搜，影響網(wǎng)絡(luò)輿論。

《規(guī)定》要求，算法推薦服務(wù)應(yīng)遵循公開透明的原則，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊(cè)、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。

5

防止誘導(dǎo)沉迷消費(fèi)保護(hù)特殊群體利益

如何防止誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)，保護(hù)未成年人等特殊群體的權(quán)益？《規(guī)定》提出，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過(guò)度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。

針對(duì)未成年人，《規(guī)定》提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。

監(jiān)管如何落地落實(shí)？《規(guī)定》明確，事前監(jiān)管，確立算法備案、算法評(píng)估等制度；區(qū)分監(jiān)管，確立分級(jí)分類的思路；系統(tǒng)監(jiān)管，建立多元共治的局面。

專家認(rèn)為，《規(guī)定》著力完善治理體系，實(shí)現(xiàn)事前事中事后全流程、全鏈條監(jiān)管。算法推薦服務(wù)提供者如違反相關(guān)規(guī)定，會(huì)被處以警告、通報(bào)批評(píng)、罰款等，必要時(shí)還將給予治安管理處罰和追究刑事責(zé)任。

關(guān)鍵詞： 服務(wù)提供者 未成年人