科技向善，莫讓算法“算計(jì)”人

來源：新華日報(bào)

□ 本報(bào)記者 許海燕 陳珺璐 黃勇

3月1日起，國家網(wǎng)信辦等四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》施行。我國首部專門針對算法推薦的法規(guī)，劍指“大數(shù)據(jù)殺熟”等算法治理痛點(diǎn)。如何讓人們擺脫被算法推薦“綁架”？如何讓購物平臺不再鋪天蓋地推薦“你的最愛”？

多個(gè)平臺聞令而行，

但仍有算法濫用

無論是打車、網(wǎng)購、叫外賣，還是玩游戲、看視頻、瀏覽新聞……大數(shù)據(jù)時(shí)代，互聯(lián)網(wǎng)算法已深入社會的方方面面。一套優(yōu)秀的算法能夠在幾毫秒內(nèi)響應(yīng)成千上萬的并發(fā)需求、做出最佳決策，讓整個(gè)系統(tǒng)能夠同時(shí)服務(wù)這些用戶。

然而，南京白領(lǐng)黃佳覺得，網(wǎng)購電商的“精準(zhǔn)推薦”讓自己感覺沒有隱私。她告訴記者，經(jīng)常是自己剛和朋友聊天或搜索、網(wǎng)購某個(gè)產(chǎn)品后不久，電商平臺就“鋪天蓋地”進(jìn)行相應(yīng)推薦，“有時(shí)瀏覽某個(gè)明星的八卦新聞，之后同類視頻就會撲面而來?！?/p>

新近施行的這一管理規(guī)定明確，應(yīng)當(dāng)向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。3月3日，記者在微信、淘寶、京東、美團(tuán)、抖音、餓了么等多個(gè)APP測試后發(fā)現(xiàn)，其均已提供“個(gè)性化內(nèi)容服務(wù)”關(guān)閉選項(xiàng)。在微信APP“設(shè)置”中的“隱私”一欄，在“個(gè)人信息與權(quán)限”項(xiàng)下可關(guān)閉個(gè)性化廣告推薦。淘寶APP在“設(shè)置—隱私”中的“廣告管理”和“推薦管理”里，均出現(xiàn)了關(guān)閉個(gè)性化推薦的按鈕。京東APP在“設(shè)置—隱私政策簡要版”中的“用戶個(gè)人信息權(quán)益保障”里，也有個(gè)性化廣告和個(gè)性化推薦的關(guān)閉按鈕。

不過，在眾多平臺聞令而行的同時(shí)，依舊存在不少算法濫用，讓人“糟心”。3月1日至5日記者調(diào)查發(fā)現(xiàn)，在一些旅游、打車等網(wǎng)絡(luò)平臺上，“大數(shù)據(jù)殺熟”現(xiàn)象仍時(shí)有發(fā)生。

“使用不同手機(jī)搜同一家酒店信息，顯示的價(jià)格還是會不一樣。”這幾天，在蘇州工作的時(shí)潔正打算去無錫黿頭渚賞櫻，安排行程時(shí)發(fā)現(xiàn)仍然有“坑”。去年前往敦煌旅游時(shí)，相同旅店、同一平臺、同一種房型、同一天入住，她通過某軟件預(yù)訂旅館的費(fèi)用比不常使用該軟件的同事多花了200余元，這讓她自此留了個(gè)心眼。

家住南京市雨花臺區(qū)的王曉雯，早上常常打車去河西上班，為此她買了滴滴平臺推出的“打車周卡”。上班5.8公里的路程，快車價(jià)格打八折后為11.4元，拼車價(jià)格拼成后是8.04元，拼不成則是13.89元的“一口價(jià)”?！霸绺叻逦覐膩頉]打到過快車?！?月3日王曉雯告訴記者，如果早高峰在打車頁面只選擇快車，往往等上半個(gè)小時(shí)都沒人接單，但在選項(xiàng)中加上拼車后，等幾分鐘就會有司機(jī)前來?！案蓺獾氖牵悄芷吹酵巳司退懔?，確實(shí)能便宜點(diǎn)。但總是直到終點(diǎn)車上都只有我一個(gè)人，只能按‘未拼成’算價(jià)，這樣就比打快車貴了兩塊多。”

北京市消費(fèi)者協(xié)會近日發(fā)布的互聯(lián)網(wǎng)消費(fèi)大數(shù)據(jù)“殺熟”問題調(diào)查結(jié)果，也顯示算法濫用現(xiàn)象依舊存在：86.91%的受訪者認(rèn)為自己有過被“殺熟”的經(jīng)歷；在對16個(gè)平臺進(jìn)行的32個(gè)模擬消費(fèi)體驗(yàn)樣本中，有14個(gè)樣本新老賬戶同時(shí)購買相同商品(服務(wù))的平臺標(biāo)價(jià)不同，涉嫌侵犯消費(fèi)者合法權(quán)益。

完善算法，

維護(hù)眾多從業(yè)者權(quán)益

網(wǎng)約車司機(jī)、外賣小哥們期盼的則是，無論算法多復(fù)雜，最好讓他們能多賺些錢，別讓他們流汗又流淚。

開了10年出租車的南京人劉永，于2018年“轉(zhuǎn)行”成了一名滴滴司機(jī)，剛開始每個(gè)月怎么跑都能掙1萬多元，可近兩年來他發(fā)現(xiàn)，想要月收入過萬越來越難。“獎勵(lì)金越來越少，扣分事項(xiàng)卻越來越多。”劉永告訴記者，按照公司規(guī)定，司機(jī)的信用分越高，被派單的可能性越大，成功接一單能拿到0.2信用分，但只要被投訴一次，直接5分起扣，“逼得你只能不停地跑”。

此外，所謂的“接單沖獎”也讓滴滴司機(jī)們頭疼。拿早高峰舉例，司機(jī)們在完成基礎(chǔ)訂單數(shù)后，每完成3個(gè)訂單便會得到金額不等的獎勵(lì)金。但不少司機(jī)反映，在獎勵(lì)金單數(shù)快完成時(shí)，平臺往往會派一個(gè)耗時(shí)長的單，司機(jī)也只能硬著頭皮接下來——拒接同樣會扣信用分。“你在城東就給你到城西的單子，你在市區(qū)就給你到鄉(xiāng)下的單子，反正讓你拿不到獎勵(lì)金?！钡蔚嗡緳C(jī)周蕙跟記者“吐槽”道，感覺自己被“算計(jì)”了。

按照平臺的規(guī)則，早高峰期間如果一單拼到了多人，司機(jī)可以按照拼單人數(shù)計(jì)算單數(shù)，這樣一下子就能達(dá)到獎勵(lì)金要求?！叭欢覀兯緳C(jī)只能等平臺派單，來什么都得接著。”周蕙說。

至于外賣平臺，其算法大多一味追求“效率”，讓送餐員處于“系統(tǒng)”的壓力之下。午餐、晚餐時(shí)段多頭催促，有時(shí)外賣小哥們趕到餐飲店，菜品卻還沒準(zhǔn)備好；有時(shí)平臺派單不科學(xué)，小哥去遲了，菜品變涼又影響消費(fèi)者體驗(yàn)。

而新管理規(guī)定的施行，有望逐漸改變上述種種不合理現(xiàn)象。記者注意到，新規(guī)中特別提出，算法推薦服務(wù)提供者向勞動者提供工作調(diào)度服務(wù)的，應(yīng)當(dāng)保護(hù)勞動者取得勞動報(bào)酬、休息休假等合法權(quán)益，建立完善平臺訂單分配、報(bào)酬構(gòu)成及支付、工作時(shí)間、獎懲等相關(guān)算法。

“相較于互聯(lián)網(wǎng)平臺，網(wǎng)約車司機(jī)、外賣小哥們處于弱勢地位，這些條款的提出，有助于提升他們的生存和工作環(huán)境?！北本┦械沦t(南京)律師事務(wù)所主任韓家佳告訴記者，比如在有明確獎勵(lì)機(jī)制的前提下，互聯(lián)網(wǎng)平臺利用信息優(yōu)勢減少司機(jī)的派單量，在實(shí)際操作上其實(shí)是一種不誠信行為，但這種侵權(quán)和不公平是非常隱秘、難以發(fā)現(xiàn)的。

取證難、維權(quán)成本高，

難題待破解

算法濫用的本質(zhì)，是商家利用算法以牟取自身最大經(jīng)濟(jì)利益為導(dǎo)向，進(jìn)行所謂“大數(shù)據(jù)殺熟”、誘導(dǎo)消費(fèi)等。然而，這方面維權(quán)取證難、維權(quán)成本高。

韓家佳介紹，我國此前出臺了《電子商務(wù)法》《個(gè)人信息保護(hù)法》，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的施行旨在從不同角度對“大數(shù)據(jù)殺熟”現(xiàn)象進(jìn)行遏制。

“這一管理新規(guī)提出，算法背后的價(jià)值取向也要符合倫理規(guī)范。”韓家佳舉例，假設(shè)某電子商務(wù)平臺存在“大數(shù)據(jù)殺熟”，但其商品推薦算法是由第三方提供的，通過《電子商務(wù)法》無法對第三方平臺做出限制，但新規(guī)明確，提供算法推薦服務(wù)的第三方主體也不可以提供違反公平原則和誠信倫理的算法推薦服務(wù)。這可謂從“源頭”解決問題。

他講述了一個(gè)典型案例：浙江紹興的胡女士通過某商旅平臺預(yù)訂了一家酒店房間，結(jié)賬時(shí)發(fā)現(xiàn)，通過平臺支付的房費(fèi)比該酒店實(shí)際房價(jià)高近兩倍，而她是該商旅平臺的高級會員，本可以享受8.5折優(yōu)惠。胡女士懷疑這家商旅平臺存在“大數(shù)據(jù)殺熟”行為，遂將其告上法庭。去年7月，法院一審對原告“退一賠三”的請求予以準(zhǔn)許。這起案件被眾多媒體稱為“大數(shù)據(jù)殺熟”第一案。

在現(xiàn)實(shí)生活中，很少有人在遭遇“大數(shù)據(jù)殺熟”后會像胡女士一樣拿起法律武器維權(quán)，因?yàn)槿∽C難、時(shí)間成本高，而補(bǔ)償并不高。對此，韓家佳呼吁，一方面相關(guān)行業(yè)協(xié)會、公益組織應(yīng)向普通人伸出援助之手，以公益訴訟等方式制止違法、挽回?fù)p失；相關(guān)部門也要更加積極主動進(jìn)行監(jiān)管，落實(shí)面向全社會的便捷、友好的投訴、舉報(bào)機(jī)制。

新施行的管理規(guī)定也提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。對違反相關(guān)規(guī)定的，由網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門依據(jù)職責(zé)，按照有關(guān)法律、行政法規(guī)和部門規(guī)章的規(guī)定予以處理。對此，多位法律界人士認(rèn)為，要讓新管理規(guī)定“長出牙齒”，需要相關(guān)監(jiān)管部門強(qiáng)化其落地執(zhí)行，市場監(jiān)管等部門需進(jìn)一步出臺配套政策、細(xì)化懲處措施。

多方攜手，

用好算法提高服務(wù)水平

“算法技術(shù)本身并無好壞之分?！痹谀暇┐髮W(xué)計(jì)算機(jī)系一位資深教授看來，算法給人們生活帶來了便利，比如網(wǎng)約車平臺利用算法及時(shí)響應(yīng)叫車需求，改變了偏僻地方難打車的困境，提升了行業(yè)服務(wù)水平；但另一面，如果未受到有力監(jiān)管約束，平臺也會利用算法追求高額利潤，在周邊明明有便宜車的情況下推薦高檔車，這便是“算法作惡”。“應(yīng)多方攜手，用好技術(shù)‘向善’一面，提高行業(yè)服務(wù)水平，更好地造福人類?！?/p>

江蘇省消保委工作人員徐悅介紹，中消協(xié)確定2022年消費(fèi)維權(quán)年主題“共促消費(fèi)公平”，其中一個(gè)重要內(nèi)涵就是“科技向善”。新規(guī)出臺后，如何用好算法技術(shù)創(chuàng)造更美好的生活？一些企業(yè)的做法值得借鑒。

“蘇州本輪疫情發(fā)生后，我們通過優(yōu)化算法，使得送貨員配送效能提高了不少?！?叮咚買菜江蘇事業(yè)部負(fù)責(zé)人顏現(xiàn)富介紹，首先在采購端加大供應(yīng)，日配送能力從平時(shí)的100萬件提升到150萬件。尤其是疫情發(fā)生后前幾天，米、面、油、蔬菜訂單激增，叮咚買菜及時(shí)調(diào)配資源，優(yōu)先保證蘇州區(qū)域供應(yīng)。其次，數(shù)據(jù)驅(qū)動，在送貨端也發(fā)揮了不小的作用?！八拓泦T的送單量有限，當(dāng)出現(xiàn)運(yùn)力實(shí)在不足的情況，線上下單便會被暫時(shí)鎖定，等恢復(fù)運(yùn)力時(shí)才能繼續(xù)正常下單?！?/p>

“在數(shù)字化過程中，我們更多聚焦‘為用戶提供更好的產(chǎn)品和服務(wù)’?！蓖九Ｂ糜尉W(wǎng)研發(fā)中心總經(jīng)理顧啟寧介紹，比如，在建立產(chǎn)品畫像并輔助產(chǎn)品生產(chǎn)的過程中，主要是通過產(chǎn)品全方位、細(xì)粒度畫像數(shù)據(jù)，用人工和系統(tǒng)的方法建立產(chǎn)品標(biāo)簽，再通過產(chǎn)品標(biāo)簽數(shù)據(jù)來協(xié)助產(chǎn)品設(shè)計(jì)，讓旅游產(chǎn)品更適應(yīng)用戶需求。

同程旅行相關(guān)負(fù)責(zé)人介紹，他們通過不斷優(yōu)化算法，打造更好的“慧行系統(tǒng)”，方便顧客便捷出行。比如，用戶一旦遇到交通臨時(shí)停運(yùn)的情況，通過“慧行系統(tǒng)”輸入從A地到B地的需求，就能獲得“機(jī)+火”“機(jī)+汽”“火+汽”等出行解決方案。

算法不是造成行業(yè)亂象的根本原因，關(guān)鍵還是在于如何加強(qiáng)算法監(jiān)管、平臺如何履行好主體責(zé)任。“商家對消費(fèi)者進(jìn)行用戶畫像、提供個(gè)性化服務(wù)，這些用心之處都可能為消費(fèi)者帶來良好體驗(yàn)。”徐悅說，企業(yè)應(yīng)正視消費(fèi)者的知情權(quán)、選擇權(quán)，對算法的使用要堅(jiān)守底線，不能一味逐利。同時(shí)通過監(jiān)管“讓算法少些算計(jì)”，保障消費(fèi)者合法權(quán)益。

標(biāo)簽：

推薦

財(cái)富更多》

動態(tài)更多》

熱點(diǎn)