人民網>>人民創投

如何不讓算法“算計”消費者

中青報·中青網記者 寧迪

2021年01月12日09:01  來源:中國青年報

  數字經濟時代,看不見摸不到的算法時刻左右消費者的選擇。

  近年來,隨著互聯網平臺經濟的快速發展,從網絡購物、交通出行、旅游住宿、訂餐外賣到網絡游戲等生活消費領域,都出現了大型的互聯網平臺企業。

  一些平臺通過大數據、人工智能等手段為消費者提供了更豐富的產品或服務,為社會創造了價值。

  但與此同時,也存在一些侵害消費者權益行為:大數據殺熟、網絡游戲抽獎概率不明、網絡直播推送違反法律規定內容、刷好評隱差評……

  這些問題的背后,是不公平的算法技術對消費者的“算計”。

  在大數據殺熟上消費者需要集體救濟機制

  2020年,安徽省一家網絡科技有限公司在一年內被大量消費者投訴,有關部門接到投訴舉報953件。

  其中,反映該公司在網絡游戲抽獎概率及規則設置上存在問題的舉報數量最多,占總數的40.8%。

  安徽省消費者權益保護委員會在調查時發現,對于抽獎概率的合法合規問題并不好判斷。當地消保委組織召開了市區兩級市場監管部門、文旅部門、公安部門等相關部門的聯合處理推進會,共同對這家公司存在的概率等問題進行調查核實。

  因為對概率規則等問題缺乏專業的認定能力,找不到權威第三方機構進行認定,調查受到一定阻礙。

  “這個問題目前也沒有得到很好的解決!痹谌涨爸袊M者協會(以下簡稱“中消協”)舉辦的網絡消費領域算法規制與消費者保護座談會上,安徽省消費者權益保護委員會秘書長丁濤正苦惱于如何找到解決辦法。

  抽獎概率的背后包含著一套算法的執行。中消協根據消費者投訴、有關調查和相關報道,歸納了六種當前網絡領域涉及消費者權益的算法應用問題,包括推薦算法、價格算法、評價算法、排名算法、概率算法和流量算法。

  其中,概率算法的問題體現在:一些線上經營者開展有獎銷售、抽獎兌換,特別是部分網絡游戲公司經常性推送游戲道具抽獎活動,雖然公示了中獎(掉落)概率,但是其算法程序不透明,實際中獎概率缺乏管控,屢遭消費者詬病。

  在北京市消費者協會副秘書長陳鳳翔看來,算法本質是互聯網的一種編程技術,這種編程技術有一定的人為參與和輸入,有的編程者不懂得法律,編制過程中侵害消費者權利。

  北京計算機學會數字經濟專委會秘書長王娟前不久在乘坐網約車時發現,當車輛駛進日常她很熟悉的路線時,網約車平臺導航卻給出一條又堵又長的路線。

  中國政法大學副校長時建中也有類似遭遇,在他看來,平臺導航給出一條繞遠的行駛路線,算法背后存在某種動機,但消費者很難取證,有時也沒有辦法保存相關證據。

  “大數據一旦殺熟,針對的是該種消費模式下的所有消費者,而不是針對具體的消費者!睍r建中認為,在大數據殺熟問題上的消費者權益保護,更需要集體救濟機制。

  應針對有壟斷行為的企業進行反制措施的算法研究

  “十四五”規劃中提出,改善消費環境,強化消費者權益保護。

  在對外經濟貿易大學法學院教授蘇號朋看來,不公平的算法對消費者所造成的侵害,體現在三方面——公平交易權的侵害、選擇權的侵害和知情權的侵害。

  他認為,在特定領域,如侵害消費者權益的“二選一”問題、大數據殺熟問題上,可以通過加強對個案的監管,引導更多企業在算法領域提高消費者保護水平。

  此外,算法在某種程度上看也是商家壟斷的一種權利,可以考慮設置權限,從技術上讓消費者有權關閉算法,并且將這樣一種權利在法律中作出規定,從技術角度實現商家和消費者之間的平衡。

  在清華大學法學院副院長、教授程嘯看來,維護消費者權益,很多問題可以通過技術解決。如針對有市場壟斷行為的企業,進行反制措施的算法研究,“用算法針對算法,算法之間就會產生相互的競爭關系,從而重塑市場競爭機制”。

  對于侵害消費者權益的算法,他還建議,要采取事先預防措施。針對大數據殺熟、價格歧視類的問題,監管部門可以要求平臺標識出對用戶所顯示的定價,是否為針對消費者個人推送的個性化定價。

  北京工商大學法學院教授、商法研究中心主任呂來明指出,提高監管技術水平已經迫在眉睫。但對于算法的規制,是事前監管還是事中、事后監管,要不要進行倫理審查,目前社會上還存在分歧。

  在他看來,首先應確立一個原則,在事前規范上或者事中規范上,對于算法的目標進行規制,同時要進行倫理審查。但也要對不同的算法,進行分層監管,從而確定不同的監管等級和尺度。

  中消協指出,如果任由不公平的算法應用無序發展,一方面不利于市場經濟的公平有序競爭,不利于經濟可持續發展;另一方面也會使消費者面臨數據算法壓榨,成為技術欺凌的對象,甚至被算法扭曲價值取向和道德觀念,淪為平臺經營者的掌中“玩物”。

  “算法應用不公針對的是普遍的社會大眾,每個人都可能成為潛在的受害者!敝邢麉f副秘書長栗元廣提出,下一步應加強算法應用的有效規制。

  “在個人信息保護法、反壟斷法、反不正當競爭法、價格法等相關法律中,建議增加算法應用的相關規定!崩踉獜V建議,國家應設立算法倫理專門機構,負責算法應用倫理、規則、標準制定,不公平算法應用調查、處理等,并指定相關政府部門負責,加強對算法應用的有效監管。

  同時,應明確經營者使用算法應做到可知、可查、可逆。一旦發生爭議,負有向有關行政部門、司法機關、第三方機構提供算法、后臺數據、相關資料及進行說明的義務,做到算法應用的可驗證、可解釋、可追責,強化算法實施方的舉證責任,明確其偽造、篡改證據的責任和后果,解決消費者舉證難、鑒定難的問題。

  “要加強監管協作和機制建設!崩踉獜V指出,互聯網領域算法應用十分廣泛,建議有關行政部門加強相互協調,細化監管職責;完善執法依據,做好規章廢改銜接;加強對算法應用的分級標識和分類管理,對涉及公共利益、生命健康、財產權利等的算法應用強化監管,對具有市場支配地位的平臺經營者的算法應用強化監管,對涉及價值觀、道德觀,特別是未成年人教育的算法應用強化監管。

  栗元廣建議,應建立算法投訴審評機制,保障消費者和社會各界的投訴、監督權,“培育第三方技術鑒定機構,強化對算法應用的技術審核力量”。

  同時,栗元廣認為,有關司法機關應加強對算法應用案件的分析研究,推動出臺有關司法解釋,加強對算法應用問題的實質審查,通過司法判例強化對消費者權益的保護。

(責編:單子璇(實習生)、王震)

深度原創

特別策劃

    人民戰“疫”內容科技大賽 首屆人民網內容科技大賽總決賽 人民網內容科技創業創新長三角決賽 2019人民網內容科技創業創新大賽
二維碼
自拍撸撸射91av