數(shù)字經(jīng)濟時代，看不見摸不到的算法時刻左右消費者的選擇。
近年來，隨著互聯(lián)網(wǎng)平臺經(jīng)濟的快速發(fā)展，從網(wǎng)絡購物、交通出行、旅游住宿、訂餐外賣到網(wǎng)絡游戲等生活消費領域，都出現(xiàn)了大型的互聯(lián)網(wǎng)平臺企業(yè)。
一些平臺通過大數(shù)據(jù)、人工智能等手段為消費者提供了更豐富的產(chǎn)品或服務，為社會創(chuàng)造了價值。
?但與此同時，也存在一些侵害消費者權(quán)益行為：大數(shù)據(jù)殺熟、網(wǎng)絡游戲抽獎概率不明、網(wǎng)絡直播推送違反法律規(guī)定內(nèi)容、刷好評隱差評……
這些問題的背后，是不公平的算法技術對消費者的“算計”。
在大數(shù)據(jù)殺熟上消費者需要集體救濟機制
2020年，安徽省一家網(wǎng)絡科技有限公司在一年內(nèi)被大量消費者投訴，有關部門接到投訴舉報953件。
其中，反映該公司在網(wǎng)絡游戲抽獎概率及規(guī)則設置上存在問題的舉報數(shù)量最多，占總數(shù)的40.8%。
安徽省消費者權(quán)益保護委員會在調(diào)查時發(fā)現(xiàn)，對于抽獎概率的合法合規(guī)問題并不好判斷。當?shù)叵ＮM織召開了市區(qū)兩級市場監(jiān)管部門、文旅部門、公安部門等相關部門的聯(lián)合處理推進會，共同對這家公司存在的概率等問題進行調(diào)查核實。
因為對概率規(guī)則等問題缺乏專業(yè)的認定能力，找不到權(quán)威第三方機構(gòu)進行認定，調(diào)查受到一定阻礙。
“這個問題目前也沒有得到很好的解決。”在日前中國消費者協(xié)會(以下簡稱“中消協(xié)”)舉辦的網(wǎng)絡消費領域算法規(guī)制與消費者保護座談會上，安徽省消費者權(quán)益保護委員會秘書長丁濤正苦惱于如何找到解決辦法。
抽獎概率的背后包含著一套算法的執(zhí)行。中消協(xié)根據(jù)消費者投訴、有關調(diào)查和相關報道，歸納了六種當前網(wǎng)絡領域涉及消費者權(quán)益的算法應用問題，包括推薦算法、價格算法、評價算法、排名算法、概率算法和流量算法。
其中，概率算法的問題體現(xiàn)在：一些線上經(jīng)營者開展有獎銷售、抽獎兌換，特別是部分網(wǎng)絡游戲公司經(jīng)常性推送游戲道具抽獎活動，雖然公示了中獎(掉落)概率，但是其算法程序不透明，實際中獎概率缺乏管控，屢遭消費者詬病。
在北京市消費者協(xié)會副秘書長陳鳳翔看來，算法本質(zhì)是互聯(lián)網(wǎng)的一種編程技術，這種編程技術有一定的人為參與和輸入，有的編程者不懂得法律，編制過程中侵害消費者權(quán)利。
北京計算機學會數(shù)字經(jīng)濟專委會秘書長王娟前不久在乘坐網(wǎng)約車時發(fā)現(xiàn)，當車輛駛進日常她很熟悉的路線時，網(wǎng)約車平臺導航卻給出一條又堵又長的路線。
中國政法大學副校長時建中也有類似遭遇，在他看來，平臺導航給出一條繞遠的行駛路線，算法背后存在某種動機，但消費者很難取證，有時也沒有辦法保存相關證據(jù)。
“大數(shù)據(jù)一旦殺熟，針對的是該種消費模式下的所有消費者，而不是針對具體的消費者。”時建中認為，在大數(shù)據(jù)殺熟問題上的消費者權(quán)益保護，更需要集體救濟機制。
應針對有壟斷行為的企業(yè)進行反制措施的算法研究
“十四五”規(guī)劃中提出，改善消費環(huán)境，強化消費者權(quán)益保護。
在對外經(jīng)濟貿(mào)易大學法學院教授蘇號朋看來，不公平的算法對消費者所造成的侵害，體現(xiàn)在三方面——公平交易權(quán)的侵害、選擇權(quán)的侵害和知情權(quán)的侵害。
他認為，在特定領域，如侵害消費者權(quán)益的“二選一”問題、大數(shù)據(jù)殺熟問題上，可以通過加強對個案的監(jiān)管，引導更多企業(yè)在算法領域提高消費者保護水平。
此外，算法在某種程度上看也是商家壟斷的一種權(quán)利，可以考慮設置權(quán)限，從技術上讓消費者有權(quán)關閉算法，并且將這樣一種權(quán)利在法律中作出規(guī)定，從技術角度實現(xiàn)商家和消費者之間的平衡。
在清華大學法學院副院長、教授程嘯看來，維護消費者權(quán)益，很多問題可以通過技術解決。如針對有市場壟斷行為的企業(yè)，進行反制措施的算法研究，“用算法針對算法，算法之間就會產(chǎn)生相互的競爭關系，從而重塑市場競爭機制”。
對于侵害消費者權(quán)益的算法，他還建議，要采取事先預防措施。針對大數(shù)據(jù)殺熟、價格歧視類的問題，監(jiān)管部門可以要求平臺標識出對用戶所顯示的定價，是否為針對消費者個人推送的個性化定價。
北京工商大學法學院教授、商法研究中心主任呂來明指出，提高監(jiān)管技術水平已經(jīng)迫在眉睫。但對于算法的規(guī)制，是事前監(jiān)管還是事中、事后監(jiān)管，要不要進行倫理審查，目前社會上還存在分歧。
在他看來，首先應確立一個原則，在事前規(guī)范上或者事中規(guī)范上，對于算法的目標進行規(guī)制，同時要進行倫理審查。但也要對不同的算法，進行分層監(jiān)管，從而確定不同的監(jiān)管等級和尺度。
中消協(xié)指出，如果任由不公平的算法應用無序發(fā)展，一方面不利于市場經(jīng)濟的公平有序競爭，不利于經(jīng)濟可持續(xù)發(fā)展;另一方面也會使消費者面臨數(shù)據(jù)算法壓榨，成為技術欺凌的對象，甚至被算法扭曲價值取向和道德觀念，淪為平臺經(jīng)營者的掌中“玩物”。
“算法應用不公針對的是普遍的社會大眾，每個人都可能成為潛在的受害者。”中消協(xié)副秘書長栗元廣提出，下一步應加強算法應用的有效規(guī)制。
“在個人信息保護法、反壟斷法、反不正當競爭法、價格法等相關法律中，建議增加算法應用的相關規(guī)定。”栗元廣建議，國家應設立算法倫理專門機構(gòu)，負責算法應用倫理、規(guī)則、標準制定，不公平算法應用調(diào)查、處理等，并指定相關政府部門負責，加強對算法應用的有效監(jiān)管。
同時，應明確經(jīng)營者使用算法應做到可知、可查、可逆。一旦發(fā)生爭議，負有向有關行政部門、司法機關、第三方機構(gòu)提供算法、后臺數(shù)據(jù)、相關資料及進行說明的義務，做到算法應用的可驗證、可解釋、可追責，強化算法實施方的舉證責任，明確其偽造、篡改證據(jù)的責任和后果，解決消費者舉證難、鑒定難的問題。
“要加強監(jiān)管協(xié)作和機制建設。”栗元廣指出，互聯(lián)網(wǎng)領域算法應用十分廣泛，建議有關行政部門加強相互協(xié)調(diào)，細化監(jiān)管職責;完善執(zhí)法依據(jù)，做好規(guī)章廢改銜接;加強對算法應用的分級標識和分類管理，對涉及公共利益、生命健康、財產(chǎn)權(quán)利等的算法應用強化監(jiān)管，對具有市場支配地位的平臺經(jīng)營者的算法應用強化監(jiān)管，對涉及價值觀、道德觀，特別是未成年人教育的算法應用強化監(jiān)管。
栗元廣建議，應建立算法投訴審評機制，保障消費者和社會各界的投訴、監(jiān)督權(quán)，“培育第三方技術鑒定機構(gòu)，強化對算法應用的技術審核力量”。
同時，栗元廣認為，有關司法機關應加強對算法應用案件的分析研究，推動出臺有關司法解釋，加強對算法應用問題的實質(zhì)審查，通過司法判例強化對消費者權(quán)益的保護。
(記者 寧迪)
