買機(jī)票、訂酒店，會(huì)員比新客更貴;點(diǎn)外賣，對(duì)老會(huì)員配送費(fèi)更高，同一家店吃兩三回就漲價(jià)……近兩年，“大數(shù)據(jù)殺熟”被越來越多的人所熟知。北京市消協(xié)的一份調(diào)查顯示，超八成被調(diào)查者認(rèn)為“大數(shù)據(jù)殺熟”現(xiàn)象如今相當(dāng)普遍，且有超五成被調(diào)查者表示有過被“大數(shù)據(jù)殺熟”的經(jīng)歷。
與之相對(duì)應(yīng)的是，多家大型互聯(lián)網(wǎng)企業(yè)被爆利用大數(shù)據(jù)分析對(duì)不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”。
在賽迪工業(yè)和信息化研究院網(wǎng)絡(luò)安全研究所副所長(zhǎng)閆曉麗看來，“大數(shù)據(jù)殺熟”屬于算法濫用的一種形式，即通過數(shù)據(jù)和算法實(shí)施價(jià)格歧視，對(duì)不同用戶采取不同的價(jià)格政策，新老用戶不同價(jià)，不同地區(qū)用戶不同價(jià)，瀏覽量多或少的用戶不同價(jià)，追求自身利潤(rùn)最大化。
“此外還有致癮性推薦、影響和誤導(dǎo)消費(fèi)者兩類。前者是通過數(shù)據(jù)和算法向用戶進(jìn)行個(gè)性化推薦，推薦其感興趣的內(nèi)容，且不論這些內(nèi)容是否恰當(dāng)、適合，有些內(nèi)容甚至違背法律和公序良俗，從而使用戶沉迷致癮;后者指通過數(shù)據(jù)和算法對(duì)流量分配、搜索排名、評(píng)價(jià)等級(jí)設(shè)置障礙，限制經(jīng)營(yíng)者開展交易，降低消費(fèi)者選擇的可能性，進(jìn)而引導(dǎo)和左右消費(fèi)者選擇。”閆曉麗坦言，無論哪種，都是通過濫用數(shù)據(jù)分析和算法推薦侵害消費(fèi)者合法權(quán)益。
實(shí)際上，針對(duì)大數(shù)據(jù)濫用普遍存在于行業(yè)的現(xiàn)象，近年來，相關(guān)部門不斷出臺(tái)政策法規(guī)，從電子商務(wù)法對(duì)“大數(shù)據(jù)殺熟”作禁止性規(guī)定，到文化和旅游部印發(fā)《在線旅游經(jīng)營(yíng)服務(wù)管理暫行規(guī)定》明確規(guī)定在線旅游經(jīng)營(yíng)者不得濫用大數(shù)據(jù)分析等技術(shù)手段，再到近期引起廣泛關(guān)注的深圳推進(jìn)相關(guān)立法。
近期，《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例(征求意見稿)》在深圳市人大常委會(huì)網(wǎng)站上公開征求意見，并將在本月底進(jìn)行“三審”。該條例(征求意見稿)明確提出對(duì)“大數(shù)據(jù)殺熟”給予重罰--違法所得不超過1萬元的，5萬元起罰。情節(jié)嚴(yán)重的，可處5000萬元以下或上一年度營(yíng)業(yè)額5%以下罰款。
中國(guó)人民大學(xué)法學(xué)院教授劉俊海認(rèn)為，深圳的特區(qū)立法具有“破冰”意義。當(dāng)然，在多地試點(diǎn)后，還要逐步完善數(shù)據(jù)管理的頂層設(shè)計(jì)，明確數(shù)據(jù)權(quán)屬，推進(jìn)數(shù)據(jù)確權(quán)，保護(hù)用戶權(quán)益。
值得關(guān)注的是，算法是一個(gè)企業(yè)發(fā)展的核心，不僅難以監(jiān)控，并且隨著科技的發(fā)展，平臺(tái)“殺熟”的手段也愈加隱秘。在不斷完善法律法規(guī)的同時(shí)，還應(yīng)從多層面形成約束和透明化機(jī)制。
閆曉麗介紹，中共中央印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要(2020-2025年)》提出，要制定完善的算法推薦、深度偽造等新技術(shù)應(yīng)用規(guī)范管理辦法，但目前我國(guó)尚未形成算法應(yīng)用監(jiān)管制度體系。
閆曉麗認(rèn)為，一方面，應(yīng)組織開展算法應(yīng)用調(diào)查。識(shí)別不同應(yīng)用場(chǎng)景下的算法濫用危害，加快制定算法應(yīng)用規(guī)則和標(biāo)準(zhǔn)規(guī)范，探索形成一系列的監(jiān)管制度。其中就包括建立算法應(yīng)用影響評(píng)估制度，針對(duì)典型場(chǎng)景，要求企業(yè)在算法正式上線前評(píng)估算法對(duì)消費(fèi)者權(quán)益、個(gè)人基本權(quán)利等的影響，并采取相應(yīng)的防范措施。
另一方面，應(yīng)建立算法透明度制度。企業(yè)要向監(jiān)管部門和公眾披露其采用算法的相關(guān)信息，包括采用目的、應(yīng)用場(chǎng)景、算法技術(shù)實(shí)現(xiàn)等。對(duì)那些可能對(duì)個(gè)人和社會(huì)產(chǎn)生重大影響的算法決策，企業(yè)應(yīng)解釋算法的基本原理。
對(duì)此，閆曉麗舉例道，歐盟《通用數(shù)據(jù)保護(hù)條例》第13條規(guī)定，當(dāng)數(shù)據(jù)控制者收集個(gè)人數(shù)據(jù)時(shí)，如采用自動(dòng)化決策對(duì)用戶進(jìn)行畫像或存在類似情況的，應(yīng)當(dāng)向數(shù)據(jù)主體提供關(guān)于此類問題處理的邏輯及預(yù)期后果的有效信息;美國(guó)《公平信用報(bào)告法》包含“不利行動(dòng)告知”條款，要求貸款方就對(duì)金融消費(fèi)者不利的算法評(píng)分向其進(jìn)行解釋。
“此外，還應(yīng)建立算法問責(zé)機(jī)制。允許個(gè)人對(duì)算法決策提出異議、要求對(duì)算法決策進(jìn)行人工審查等。”閆曉麗說。
在完善制度的同時(shí)，行業(yè)亦需要自律和良性競(jìng)爭(zhēng)。在6月7日舉行的2021全球人工智能技術(shù)大會(huì)上，記者發(fā)現(xiàn)，可信AI正成為行業(yè)關(guān)注重點(diǎn)，有望為規(guī)范人工智能發(fā)展提出自律性要求。
蘇寧金融研究院金融科技研究中心主任孫揚(yáng)認(rèn)為，從當(dāng)前行業(yè)現(xiàn)狀來看，違規(guī)采集、使用用戶數(shù)據(jù)等問題依舊頻發(fā)，人工智能的安全性、可靠性與可信性都需增強(qiáng)，打破數(shù)據(jù)孤島過程中如何防止技術(shù)公司濫用數(shù)據(jù)優(yōu)勢(shì)也向技術(shù)公司提出了更高的數(shù)據(jù)使用要求。
