2022-04-19 11:38:01
作者：肖夢黎｜華東理工大學(xué)法學(xué)院講師，本文原載于《探索與爭鳴》
我們已經(jīng)身處一個評分社會之中，平臺信用構(gòu)筑了我們的數(shù)字人格。在大數(shù)據(jù)和物聯(lián)網(wǎng)的背景下，現(xiàn)代社會的理性人逐漸轉(zhuǎn)化成可被計算的“微粒人”，智能化算法背后的權(quán)力行使者變得越來越隱秘，作為支持系統(tǒng)的信用評分機制更容易讓用戶放松對權(quán)力的警惕。面對線上線下不同場景的相互打通，我們已經(jīng)處于物理世界與數(shù)字世界虛實同構(gòu)的雙層空間之中。平臺公司不僅是簡單的基于數(shù)據(jù)做出交易決策，其還構(gòu)建了人們的數(shù)字身份、特征和相關(guān)聯(lián)想，甚至?xí)τ脩舻奈磥頇C會產(chǎn)生影響。
隨著越來越多的企業(yè)參與到數(shù)字身份塑造的集體過程中，這一系列基于平臺的評分判斷會更深刻地塑造人們的生活。社會主體在不斷深入的連接中積累了平臺的“社會信用”，不同企業(yè)也會通過數(shù)據(jù)庫購買、從其他公司導(dǎo)入算法判斷等方式進一步節(jié)約成本，從而在整個社會廣泛傳播人們的算法聲譽和數(shù)字身份。這一過程可能給持有數(shù)字身份的主體帶來不合理的成本，比如在更多的領(lǐng)域中傳播歧視、限制未來機會與加深脆弱性等。更甚者，評分機制可能會鼓勵一種讓生活符合算法要求的新模式，以削弱人們對真實生活的判斷。與此同時，互聯(lián)網(wǎng)平臺產(chǎn)生的信用與國家信用體系的建設(shè)正以不同的方式產(chǎn)生聯(lián)系：政府通過大數(shù)據(jù)技術(shù)搜集社會成員的信用數(shù)據(jù)，將評分作為失信聯(lián)合懲戒的前提要件，以實現(xiàn)對金融領(lǐng)域的有效治理。政府希望通過平臺信用的推廣在社會領(lǐng)域中進一步提升國家能力，補強現(xiàn)有法律規(guī)范的效力，在政府集中供給的秩序之外提升社會治理效果。通過信用治理的層層推進，國家可以無限接近一個“數(shù)據(jù)庫國家”與“智能社會”的想象。
平臺的信用評分機制正變得越來越重要，學(xué)者們也開始對這一機制給予越來越多的關(guān)注。在平臺中充當支持性基礎(chǔ)設(shè)施的信用評分機制，究竟是橫向的同儕評分，還是平臺推動的新的等級化的排序社會？在過度互聯(lián)與記憶顛覆的評分社會中，如何給予收到較低評價的用戶彌補機會，或者是賦予收到錯誤評價的用戶訂正機會？當信用治理被擴展到各種社會活動中時，權(quán)力結(jié)構(gòu)會發(fā)生何種變化？回應(yīng)這些問題，需要對平臺信用評分機制的治理屬性進行分析，采取有效的規(guī)制措施以限制其負外部性效應(yīng)，同時盡量避免公權(quán)力完全介入平臺自治機制，這無疑是多元治理下的一項重大挑戰(zhàn)。本文將從法社會學(xué)的角度，對平臺信用評分這種個性化、低成本的規(guī)范生成與執(zhí)行機制進行討論，闡釋其與現(xiàn)有法治模式的沖突與交融，從中透視出人工智能時代的治理變革趨向，最后嘗試提出平臺信用評分機制實現(xiàn)治理功能的法治化路徑。
一、平臺信用評分機制的規(guī)制邏輯與治理變革
平臺信用評分機制起初是一種只影響特定平臺上客戶與商品/服務(wù)提供者的分布式信用，但這種評分正逐漸向集中式信用評分轉(zhuǎn)變。平臺信用評分與“征信”“社會信用體系”不但語義上有所重疊，在實際場景中也相互交融。平臺信用評分機制對于用戶信用數(shù)據(jù)的征集粒度更細密、適用場景更廣泛，但該領(lǐng)域的公權(quán)力監(jiān)管還未完全成熟，難以達到前兩者的規(guī)制強度。于是，平臺信用評分形成了一個“自我監(jiān)管社區(qū)”，建構(gòu)了一種新型的權(quán)力機制，對傳統(tǒng)的征信邏輯與信任結(jié)構(gòu)進行了挑戰(zhàn)與重構(gòu)。
（一） 平臺信用評分機制的概念厘清
信用機制并不是新鮮產(chǎn)物，可以指代“理性行動者為了選擇交易對象和交易策略而可能運用到的各類信息機制的集中呈現(xiàn)”。在討論平臺信用機制時，首先需要厘清“信用”“征信”“社會信用體系”等語詞的確切概念。征信一般專屬于經(jīng)濟金融領(lǐng)域，是基于資產(chǎn)狀況等經(jīng)濟信息對主體未來履約能力的一種評價與預(yù)測。社會信用體系則以政務(wù)誠信、商務(wù)誠信、社會誠信和司法公信建設(shè)為主要內(nèi)容，旨在建設(shè)一個全方位覆蓋“政府—市場—社會—司法”等領(lǐng)域的全民社會信用體系。信用在不同場景中的含義有所差異：它既可能指代一種性格意象，一種人際關(guān)系約定，一種可追溯的契約，也可能代表一種可計量的債務(wù)責(zé)任。總體而言，信用一詞被用于經(jīng)濟范疇時，與征信的含義較為類似；被使用在更廣闊的場景時，就可能與社會信用體系發(fā)生重疊。
將視域切換回平臺信用領(lǐng)域，就會發(fā)現(xiàn)平臺信用評分機制更緊密地彌合了不同語詞間的縫隙。平臺信用評分機制中既存在類似于征信體系的B2C評分，如芝麻信用等；也有基于買賣雙方互動的C2C評分，如滴滴、愛彼迎（Airbnb）的雙方評價。一方面，由芝麻信用、騰訊征信、鵬元征信等共同發(fā)起的百行征信已經(jīng)獲得了首張個人征信業(yè)務(wù)許可，而由京東數(shù)科、小米、曠視等擔(dān)任股東的樸道征信也正在申請第二家個人征信牌照。與此同時，芝麻信用下的花唄已被正式納入征信軌道，央行2021年9月出臺的《征信業(yè)務(wù)管理辦法》也試圖將更多征信主體納入監(jiān)管范疇。另一方面，全民社會信用體系的建立也需要平臺企業(yè)的技術(shù)與數(shù)據(jù)資源。國務(wù)院辦公廳《關(guān)于促進平臺經(jīng)濟規(guī)范健康發(fā)展的指導(dǎo)意見》提出要利用平臺數(shù)據(jù)補充完善現(xiàn)有信用體系，加強對平臺內(nèi)失信主體的約束和懲戒?！吨腥A人民共和國國民經(jīng)濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠景目標綱要》多個章節(jié)涉及社會信用體系的建設(shè)，并呼吁建立公共信用信息和金融信息的共享整合機制。在這個意義上，平臺信用正與征信體系、社會信用體系彼此深度嵌入，逐漸同構(gòu)。
（二）平臺信用評分機制的規(guī)制邏輯
信用評分體系要處理“敘述”和“傳播”兩個問題：前者需要將定性問題轉(zhuǎn)化為定量事實，將復(fù)雜生活空間中的具體場景轉(zhuǎn)變?yōu)榭梢粤炕闹笜梭w系；后者則要解決如何向用戶發(fā)布此類消息的問題。不同平臺會選擇不同的信用評級方式（從簡單統(tǒng)計到星級評定，從數(shù)字分數(shù)到等級排序，甚至是成就徽章），選擇不同的模式就意味著遵循不同的規(guī)制邏輯。
首先，平臺信用評分機制展現(xiàn)了數(shù)字化判斷的治理指向。平臺使用簡單統(tǒng)計時可以保證其對信用評定的介入最少，允許用戶基于自己的判斷做出決定。缺點是只有用戶對環(huán)境足夠熟悉，才能得出正確的結(jié)論。星級評定和成就徽章在一定程度上解決了這個問題，能夠更好地幫助用戶消化信息，同時對評級質(zhì)量做出明確的判斷，適用于對信用評價質(zhì)量有基本共識的場景。數(shù)字等級與排行榜等方式則更進一步，不僅賦予用戶信用判斷的權(quán)利，還展示了用戶與他人的關(guān)系，在用戶中引入了啄食順序，對社區(qū)文化產(chǎn)生了強烈的影響。用戶間的評級比較通常會提升貢獻動機，增強信譽系統(tǒng)的過濾作用，但同時也灌輸了一種競爭文化，可能會催生更多的操縱。平臺信用評級方式的變更也會產(chǎn)生架構(gòu)式的權(quán)力，從而在一定程度上引導(dǎo)用戶的行為。
再次，平臺信用評分機制產(chǎn)生了場景化的信用外溢效應(yīng)。與傳統(tǒng)征信相比，平臺評分機制采取了粒度更細的征信指標：既有傳統(tǒng)征信所使用的金融借貸數(shù)據(jù)，又囊括了金融非借貸數(shù)據(jù)與非金融數(shù)據(jù)；還可能接入通信運營商、公安、法院、社保機構(gòu)等來源的多種外部數(shù)據(jù)。以芝麻信用為例，其采取“FICO”的評分體系，將評估維度分為身份特質(zhì)、信用歷史、行為偏好、履約能力、人脈關(guān)系五個維度。信用分數(shù)高的用戶可以在其他場合享有信用特權(quán)。以芝麻信用為例，芝麻積分可以關(guān)聯(lián)多個平臺，打通信用借還、免押出行、極速退款等服務(wù)，高積分用戶還可以享有快速預(yù)約面簽、多國免簽等優(yōu)待。隨著線上線下不同場景的打通以及平臺向社會信用體系的主動嵌入，平臺信用體系會產(chǎn)生更明顯的信用外溢效應(yīng)（見表1）。
表一 芝麻信用數(shù)據(jù)來源
平臺信用評分是一種被設(shè)計和開發(fā)出的聲譽機制，在未來交易中提供了一個供買賣雙方信息披露和溝通的窗口，從而為雙方建立交易信任。平臺建立評分機制的初衷是在匿名社會中鼓勵信息披露，降低交易成本，解決陌生人線上交易引發(fā)的消費者事后權(quán)益無法保障等問題。評分機制在網(wǎng)絡(luò)平臺中充當著支持性基礎(chǔ)設(shè)施的角色，可以有效緩解合同執(zhí)行中的保證問題。
最后，平臺信用評分機制創(chuàng)設(shè)了低成本的規(guī)范生成機制。平臺信用評分機制將用戶的行為經(jīng)驗轉(zhuǎn)變?yōu)闃藴驶挠嫹中问?，使記錄、修訂與執(zhí)行規(guī)范的速度大大提升，從而使標準化的“私人立法”成為可能。一方面，平臺信用評分機制能夠促進多元主體互相監(jiān)督與自我審查，在“更多聲譽、更少監(jiān)管”的命題下建構(gòu)自我監(jiān)管社區(qū)，逐漸實現(xiàn)無需法律的秩序。另一方面，信用評分也會實現(xiàn)對其他權(quán)力機制的整合，更好地促進成文規(guī)范的實施，進一步壓縮不成文規(guī)范和市場發(fā)揮作用的空間。在這個意義上，平臺成為了行政機構(gòu)授權(quán)的法律體系的私人執(zhí)行者，并由其承擔(dān)失敗風(fēng)險。由此政府可以在確定授權(quán)邊界的基礎(chǔ)上保持規(guī)制謙抑，通過助推的方式實現(xiàn)多元治理。
（三） 平臺信用評分機制的治理變革
第一，實現(xiàn)了相對于傳統(tǒng)征信與社會信用體系的飛躍。在信用數(shù)據(jù)的征集范圍上，平臺信用評分廣泛采取替代性數(shù)據(jù)，在很大程度上解決了“信用不可見”（Credit-Invisible）的問題。平臺信用機制中大量使用的替代性數(shù)據(jù)很好地解決了央行征信中心收錄的9.9億自然人中，僅5.3億人有信貸記錄這一問題，賦予了更多主體獲取信用記錄的資格。此外，網(wǎng)絡(luò)技術(shù)的引入增加了信用預(yù)測的可靠性、數(shù)據(jù)的及時性，并且成本較為低廉。與此同時，相較于社會信用體系主要記錄失信信息的特征，平臺信用評分的信息記錄更加全面（見表2）。
表二 不同信用征集機構(gòu)的模式差異
第二，實現(xiàn)了對法治模式與傳統(tǒng)信任機制的顛覆與重建。平臺信用評分以“數(shù)據(jù)—算法—后果”的數(shù)字化信用系統(tǒng)取代了“法律—行為—后果”的傳統(tǒng)法治模式，一定程度上促成了無需法律的秩序。這種強迫不再來自“槍的尖端”，也并非由國家權(quán)力所統(tǒng)攝。相反，信用評分機制的監(jiān)督效力源自于“凝視”，來自一種不斷觀察的系統(tǒng)與不斷被觀察的自我意識的結(jié)合。平臺主導(dǎo)的信用評分機制使傳統(tǒng)的、經(jīng)驗性的信任秩序轉(zhuǎn)而成為基于數(shù)據(jù)的算法控制與精確預(yù)測，實現(xiàn)了對傳統(tǒng)信任模式的重構(gòu)。信用算法在自身運轉(zhuǎn)過程中產(chǎn)生了新的價值系統(tǒng)，看起來是平臺基于現(xiàn)有的價值系統(tǒng)來識別與糾正用戶行為，實則是數(shù)據(jù)控制者將原則轉(zhuǎn)化為算法，通過算法的分析和決策產(chǎn)生評估結(jié)果。數(shù)據(jù)驅(qū)動的算法將傳統(tǒng)的治理系統(tǒng)轉(zhuǎn)變?yōu)閿?shù)據(jù)生成器，而數(shù)據(jù)生成器本身則通過另一套原則和目標進行管理。
第三，催生了新的權(quán)力結(jié)構(gòu)與權(quán)力生態(tài)。隨著平臺經(jīng)濟時代的到來，“國家—社會—平臺”的三元權(quán)力結(jié)構(gòu)逐漸沖擊“國家—社會”的兩元權(quán)力結(jié)構(gòu)，平臺成為了社會治理的重要力量。平臺信用評分機制既催生出包裹在技術(shù)中的平臺私權(quán)力，又拓寬了公權(quán)力的治理領(lǐng)域。平臺與政府在該場域內(nèi)的權(quán)力邊界是相對模糊的，雙方都在通過彼此的試探碰觸，來嘗試界定自己相對于其他權(quán)力主體的確定位置。在信用數(shù)據(jù)從商業(yè)化到治理工具化的過程中，政府期待通過吸納平臺信用來施行更為有效的算法行政。在這個意義上，對于平臺信用評分機制的建設(shè)和發(fā)展，政府是樂見其成的。平臺信用評分機制可視為國家信用體系建設(shè)的基礎(chǔ)設(shè)施，在一定程度上提升了政府的統(tǒng)計能力與治理水平。
二、平臺信用評分機制的規(guī)制功能
平臺信用評分是一種參與式的信用征集方式。對用戶而言，實現(xiàn)了一種新的賦權(quán)，將一定的權(quán)力讓渡給被評級者自身；對平臺而言，信用評分是一種重要的自我規(guī)制措施，能夠以較為溫和的方式執(zhí)行平臺規(guī)范。對現(xiàn)有的法律秩序而言，平臺信用提供了一種新的維度與可能，塑造出智能時代分布式的決策與回應(yīng)型的法律。
（一） 促進賦權(quán)與分權(quán)的平衡
信用評分機制實現(xiàn)了網(wǎng)絡(luò)空間內(nèi)對消費者的充分賦權(quán)與參與式治理，豐富并優(yōu)化了市場的多元權(quán)力類型。平臺信用評分機制最初是一種分布式、具體定制的評分方式。這種評分方式將評價權(quán)交還給用戶與消費者，意在實現(xiàn)一種體現(xiàn)多元價值的“參與式治理”。消費者能夠通過撰寫和閱讀在線評論來交流信息、觀點和經(jīng)驗，促進商家改進行為。平臺信用評分機制就像“第二只看不見的手”，可以有效引導(dǎo)市場，使第一只“看不見的手”變得更有力量。信用評分機制在效用上優(yōu)于傳統(tǒng)的強制披露方式，平臺以評級、排名等柔性舉措向消費者提供建議是更為可取的。信用評分體系一直在不斷演進，從單純提供警示黑名單到綜合各類指標的中性系統(tǒng)，平臺信用評分系統(tǒng)完成了從風(fēng)險預(yù)防者到商業(yè)建構(gòu)者的轉(zhuǎn)變。
更為重要的是，平臺信用評分在集中規(guī)制與消費者權(quán)利之間找到了新的平衡點。平臺信用評分機制是一種由社群自主驅(qū)動的信用評價模式，聲譽反饋可以催生出“更知情的消費者”。基于消費經(jīng)歷做出的分散化評價形式，能夠?qū)σ?guī)制機構(gòu)制定的集中式標準進行挑戰(zhàn)。隨著公共治理“更多聲譽、更少監(jiān)管”的轉(zhuǎn)向，平臺用戶通過信用互評可以實現(xiàn)與商家的雙向鉗制，構(gòu)成了新的權(quán)力平衡點。在社會治理的外部視角中，平臺的聲譽機制一定程度上替代了傳統(tǒng)的政府監(jiān)管，從而實現(xiàn)了對其他權(quán)力機制的限制與整合。
（二）生成自我規(guī)制秩序
平臺出于聲譽的考慮會主動進行有效的自律規(guī)制。對互聯(lián)網(wǎng)平臺而言，市場中過多的欺詐行為會影響流動性，減少平臺的交易量，因而平臺有動機制定并執(zhí)行更高的自律準則，給市場參與者提供一個公平、透明與高效的市場。
首先，信用評分機制能夠幫助平臺對用戶未來的行為進行精準預(yù)測?；谟脩粼u價或系統(tǒng)反饋，平臺可以相對準確地預(yù)測用戶未來的行動方式。其次，信用評分機制能夠幫助用戶了解并執(zhí)行平臺規(guī)范。當評級與其隱含的反饋被用來指導(dǎo)其他用戶的選擇時，平臺就建立了一個獎懲體系。平臺聲譽機制的廣泛生成，提升了用戶對重復(fù)博弈的預(yù)期。最后，信用評分機制充當著支持性基礎(chǔ)設(shè)施，可以有效預(yù)防糾紛的發(fā)生。
對平臺而言，通過聲譽機制篩選出誠實交易者來避免未來的糾紛是至關(guān)重要的，這可以通過對信用較高者提供額外獎勵來實現(xiàn)。在線聲譽有更強的穩(wěn)定性、及時性、豐富性和便利性，以聲譽為依據(jù)的制裁也更有針對性。信用評分機制是對用戶進行處罰的前提，平臺通過聲譽處罰實現(xiàn)了對平臺用戶的社會控制。
（三）塑造回應(yīng)型法律生態(tài)
平臺信用評分機制暗合了分布式?jīng)Q策下對規(guī)范的新認知：隨著網(wǎng)絡(luò)技術(shù)的迅猛發(fā)展，法律理論需要著眼于權(quán)力分散化的趨勢與自治系統(tǒng)的合法生產(chǎn)。法律不再是自上而下、建立在預(yù)設(shè)規(guī)則體系上的系統(tǒng)，而是一個自下而上的，靈活、異構(gòu)和不完全規(guī)則的生成過程。以平臺信用評分為代表的新型規(guī)范機制與法律規(guī)范的特性并不相悖，隱于評分機制背后的代碼同樣承擔(dān)著減少不確定性、穩(wěn)定相互間期望與增加交互性等功能。信用評分等新型規(guī)范與傳統(tǒng)法律間存在某種親緣性，在很多場景下可以相互重疊、彼此替代。
在這種情況下，法律需要清楚意識到對網(wǎng)絡(luò)自治系統(tǒng)直接干預(yù)可能產(chǎn)生的問題，法律僅需對其施以糾正性的干預(yù)，不可能也不必要塑造它們的基礎(chǔ)規(guī)范。國家的直接干預(yù)措施既低估了社會制度的自我構(gòu)成潛能，也高估了立法者的認知能力和權(quán)力行使能力。同時，平臺企業(yè)也必須認識到自己不是一個擁有完全決策權(quán)的“孤島”。法律生態(tài)應(yīng)該具有回應(yīng)性，推進公私合作間的合理劃界與協(xié)調(diào)合作。
三、平臺信用評分機制的規(guī)制風(fēng)險
平臺信用評分是一種行之有效的治理手段，在平臺自治與政府監(jiān)管兩個維度都顯著提升了治理效果，但仍不能忽視這一機制存在的規(guī)制風(fēng)險。多維度的信用評分構(gòu)成了個人的數(shù)字化行為履歷，可能形成評分社會與排序社會，從而固化偏見, 給主體貼上難以移除的標簽。一方面，由于平臺與用戶間的技術(shù)差距與數(shù)據(jù)鴻溝，算法透明與算法可知幾乎無法真正實現(xiàn)。另一方面,平臺信用評分機制面臨著與其他算法有別的解釋悖論：評分算法不透明會影響用戶的知情權(quán)，但規(guī)則透明反過來又會增加操縱。
平臺信用評價機制容易被包裝成平等、民主的參與性行為，而忽略其作為處罰行為前置條件的權(quán)力屬性。
（一）平臺信用評分機制與傳統(tǒng)征信系統(tǒng)的共性風(fēng)險
平臺主導(dǎo)的信用評分體系多通過數(shù)字表示，信用分值來自對用戶單個操作的數(shù)據(jù)收集與對其未來行為的類型化預(yù)測。簡單數(shù)值較難準確表達用戶的預(yù)期情緒與精準行為，更無法與真實世界的信用水平劃等號，這一點與傳統(tǒng)征信系統(tǒng)類似。有效的信用系統(tǒng)必須仔細跟蹤、報告用戶行為的各個方面，確定哪些行動與聲譽系統(tǒng)最為相關(guān)。這也就引發(fā)了新的悖論：若要提升評分的精準性，就需要收集用戶更多更全面的數(shù)據(jù)，但這又會引發(fā)平臺權(quán)力的進一步侵入，加劇評級用戶的弱勢地位。
平臺主導(dǎo)的信用評分有著傳統(tǒng)征信系統(tǒng)固有的不透明、任意評估與差別性影響等問題。平臺出于保護商業(yè)秘密的考慮，通常拒絕提供評分系統(tǒng)的細節(jié)，被評分者與監(jiān)管者無法真正理解評分過程，更遑論對其底層算法進行監(jiān)督與審計。雖然不同平臺在評價目標上有所不同，但是顯著的評分差異表明了相當比例任意評估的存在。從某種程度上看，平臺信用評分是在一個不完全嚴謹?shù)男畔⑹占^程之后得出的。平臺架構(gòu)者還需要解決信用評級中不真實報告與報告偏見的問題，用戶可能通過刻意規(guī)避不良評價的方式進行不真實的報告，也可能在某些情形下更傾向于發(fā)布反饋。前者是不真實報告，而后者則屬于報道偏差，兩者降低了平臺聲譽評價的可靠性。
（二） 平臺信用評分機制的規(guī)制困境
平臺信用評分機制還會面臨與傳統(tǒng)征信體系不同的規(guī)制難題：替代性數(shù)據(jù)雖然有助于擴大信用評價的范圍，但數(shù)據(jù)非標化也引發(fā)了不當聯(lián)結(jié)與最弱環(huán)節(jié)的問題；平臺信用評分中評價主體獨立性的缺失可能引發(fā)更深層次的歧視；未知情同意與退出困難則使平臺評分體系構(gòu)成了一個規(guī)制閉環(huán)，將用戶群體束縛其中，這種最初為了向消費者賦權(quán)的網(wǎng)絡(luò)民主機制正催生出更深層次的結(jié)構(gòu)不平等。
第一，非標化與不當聯(lián)結(jié)。平臺信用評分中替代性數(shù)據(jù)的使用會引發(fā)數(shù)據(jù)質(zhì)量與正確性等方面的風(fēng)險。與傳統(tǒng)征信系統(tǒng)只涉及確定性指標不同，可替代數(shù)據(jù)包含了大量的行為數(shù)據(jù)、關(guān)聯(lián)數(shù)據(jù)、教育數(shù)據(jù)與社交數(shù)據(jù)等。數(shù)據(jù)的多樣性和繁瑣性使平臺很難及時公布評分依據(jù)。例如，F(xiàn)ICO會公開自己的打分方法和標準，而沿用FICO計分方式的芝麻信用卻較少公布所涉及的指標信息，數(shù)據(jù)的非標化對用戶了解相關(guān)規(guī)則造成了障礙。
平臺信用的可移植性是廣泛存在的，行為信用與金融信用的聯(lián)通使不同平臺間很容易產(chǎn)生基于“同意”的反復(fù)授權(quán)。芝麻積分的場景拓展、與關(guān)聯(lián)方分享信用報告以及大數(shù)據(jù)征信等就是典型的例子。那么誰來管理不同場景下信用評價的流動，如何處理跨站點、跨公司的信譽評價，就成了無法回避的問題。在不同平臺與場景進行切換時，過度聯(lián)結(jié)可能產(chǎn)生最弱環(huán)節(jié)的問題，即最不安全站點的貢獻可能會損害整體評價的準確性。此外，平臺評級系統(tǒng)有強大的吸引力，給人以精確和可靠的錯覺，但預(yù)測算法可能并不準確。評價軟件通常是在極端的時間壓力下編寫的，設(shè)計原則不完善、算法模型與簡單編碼的問題都可能導(dǎo)致謬誤結(jié)果，聲譽系統(tǒng)的缺陷就變成了連帶責(zé)任。
第二，獨立性缺失與歧視強化。平臺信用評分機制并不符合傳統(tǒng)征信機構(gòu)所要求的“獨立第三方”原則，無法真正滿足“業(yè)務(wù)獨立、治理機構(gòu)獨立、關(guān)聯(lián)關(guān)系獨立、信息采集者與信息產(chǎn)生沒有關(guān)系”等要求?，F(xiàn)有的平臺信用評分普遍存在使用本集團服務(wù)越多，信用評分越高，以及向集團內(nèi)從事金融業(yè)務(wù)的部門透露用戶非公開信用信息等問題。當平臺聲譽產(chǎn)生廣泛的外溢效力時，就更需要審慎考慮獨立性的問題。
平臺信用評分機制容易受到利益相關(guān)者的操縱。聲譽指標越強大、越重要，意圖捕獲和顛覆它的力量就越大。信用評分算法非但沒有消除現(xiàn)有的歧視性做法，反而可能以更為隱蔽的方式將它們系統(tǒng)化。例如，當大數(shù)據(jù)征信與線上小額貸款結(jié)合時，會吸納社交平臺、電商平臺等的行為數(shù)據(jù)，可能導(dǎo)致居住在富裕板塊的人更容易獲得貸款。算法編寫者的偏見與價值觀會嵌入到算法中，通過信用共享進行傳播，以任意或歧視的方式縮小人們未來的生活與選擇機會。
第三，未知情而同意與退出困難。平臺信用評分中“未知情而同意”與打包授權(quán)的狀況頻繁出現(xiàn)。2017年，支付寶年度賬單一旦在朋友圈轉(zhuǎn)發(fā)就意味著同意使用《芝麻服務(wù)協(xié)議》，引發(fā)輿論軒然大波。多數(shù)用戶根本未曾閱讀冗長的用戶協(xié)議，可能構(gòu)成未知情而同意，削弱了主體對個人信息的控制權(quán)。此外，參與者的退出機制也并不順暢，輕易退出意味著話語權(quán)的喪失。網(wǎng)絡(luò)效應(yīng)使退出平臺的成本顯著提升，離開新浪微博并不像離開俄羅斯去美國，貼上“選擇退出”的標簽可能會加劇歧視。一些用戶協(xié)議中規(guī)定，在用戶與第三方關(guān)系尚未終止時，平臺有權(quán)不支持用戶撤銷授權(quán)，因此想退出系統(tǒng)的人可能發(fā)現(xiàn)自己還在繼續(xù)接受評級。
第四，價值層面的不平等與錯配。平臺信用評分催生了結(jié)構(gòu)不平等與價值錯配。這種不平等首先體現(xiàn)在生產(chǎn)與分配上，用戶在評分過程中更像是商品而非主體，無法平等參與到評分過程中。在平臺信用評分的具體場景中，作為數(shù)據(jù)提供者的用戶成為了“沉默螺旋”中的大多數(shù)，產(chǎn)生了知識相對于知者的外移。繼而，這種認知錯位會加劇價值錯位。對用戶而言，平臺評分是一種操作的副產(chǎn)品，用戶被鼓勵生產(chǎn)出盡可能多的評分數(shù)據(jù)（用戶的態(tài)度要么是漠不關(guān)心，要么是警惕但被裹挾著無法作為）。對于平臺而言，評分數(shù)據(jù)意味著能夠帶來巨額盈利的價值資本，但作為數(shù)據(jù)提供者的用戶卻無法參與這種利潤分配?？此泼裰鞯男庞迷u分中，平臺主導(dǎo)了規(guī)則的設(shè)置。在虛擬交互的空間中，用戶實際的不在場更可能進一步削弱控制感。
四、平臺信用評分機制規(guī)制功能的法治路徑
平臺信用數(shù)據(jù)正逐漸由分布式向集中式轉(zhuǎn)換，應(yīng)用場景也逐步拓展到線下?；ヂ?lián)網(wǎng)平臺變成了規(guī)范化、大規(guī)模處理聲譽信息的主體，征信回到了萬物普遍聯(lián)系的最初設(shè)想。監(jiān)管部門需要在程序與理念上予以糾偏，對于平臺信用評分機制的監(jiān)管強度應(yīng)略低于對傳統(tǒng)征信業(yè)的監(jiān)管，但仍應(yīng)提取其立法精神加以參考。
（一）確立法治化的評分規(guī)制理念
公權(quán)力在對平臺信用機制進行規(guī)制時，應(yīng)秉持“增量賦權(quán)”的制度思路。遵循“國家立法權(quán)與民間創(chuàng)議權(quán)的良性互動，讓政策指導(dǎo)與行業(yè)自治彼此交融”，在鼓勵創(chuàng)新與保護用戶權(quán)益間實現(xiàn)平衡。前提是要了解平臺信用評分的規(guī)制機理與實現(xiàn)技術(shù)，賦予其一定的“飛地自由”，當其突破自我規(guī)制界限時允許公權(quán)力介入。監(jiān)管理念要對創(chuàng)新驅(qū)動的自我規(guī)制秩序進行觀察與修正，尋求制度結(jié)構(gòu)和社會結(jié)構(gòu)的匹配路徑。對平臺信用評分的治理既要保護網(wǎng)絡(luò)的創(chuàng)新潛能，確保技術(shù)解決方案的安全性，也要保證它們的開放性和互操作性。
監(jiān)管體系需要在平臺自治與政府監(jiān)管間維持一種微妙的均衡。在平臺自我規(guī)制有效的情況下，政府需要保持克制，只對平臺進行糾正性的干預(yù)，不要試圖塑造它們已經(jīng)形成的自律性基礎(chǔ)規(guī)范。但當平臺信用評分可能給用戶權(quán)益或未來選擇機會造成不利影響時，就需要公權(quán)力對其適用范圍進行限制，嚴格限定使用評級的領(lǐng)域。具體而言，信息收集階段需要秉承目的限縮、信息收集完整、敏感數(shù)據(jù)禁止收集等原則；使用與共享階段要堅持消費者明確的知情同意原則，在向第三方提供消費者的信用數(shù)據(jù)時，需要最大限度地驗證使用者的身份和使用目的，輔之以嚴格的監(jiān)管與懲處規(guī)定，信用信息的公布只能在明文規(guī)定的有限場景下，并注意信用信息的及時更新。
政府應(yīng)堅持技術(shù)賦權(quán)與正當程序的雙重原則。一是要采取技術(shù)規(guī)制的思路，增強政府的數(shù)據(jù)治理能力，通過身份驗證等技術(shù)進行有效追蹤，以實現(xiàn)公共政策的治理目標。更為重要的是，政府不可直接以平臺評價作為處罰依據(jù)，而應(yīng)結(jié)合多種評價標準綜合判定。二是清楚限定平臺信用評分的適用場景，防止“一處失信，處處受限”的不當聯(lián)結(jié)。三是鼓勵平臺建立信用評分的正當程序，完善救濟手段。這可通過政府對透明度高的企業(yè)予以獎勵的方式實現(xiàn)，助推其他企業(yè)提升規(guī)范制定水平與執(zhí)行質(zhì)量。
（二） 促進數(shù)據(jù)分享與控制的法治化平衡
對平臺信用評分的治理要正視信用數(shù)據(jù)的公共性與可分享性，處理好不同主體間信息共享的區(qū)分性原則。個人信息保護主要適用于用戶與平臺之間，平臺與其他主體間的數(shù)據(jù)共享不適用這一原則。其一，平臺對用戶行為數(shù)據(jù)進行精細化收集時，應(yīng)列明負面清單，可參照《征信業(yè)管理條例》的相關(guān)規(guī)定，禁止收集可能引發(fā)歧視的信息。其二，商業(yè)主體與政府機構(gòu)間的數(shù)據(jù)分享與整合是必要的，要有意識地限制一些超級平臺為了追求所謂業(yè)務(wù)閉環(huán)，以保護用戶隱私或者商業(yè)秘密的理由拒絕向政府披露相關(guān)信息。其三，信用評分數(shù)據(jù)因其特有的公共性價值，由國家所有可能會更好地行使“所有權(quán)優(yōu)勢”，繼而通過稅收等方式調(diào)節(jié)市場，最終實現(xiàn)對公共利益的“反哺”。因此，在平臺主導(dǎo)的信用評分中，可考慮用公有化矯正數(shù)字基礎(chǔ)設(shè)施的牟利性，用公權(quán)力的介入彌補公眾參與的不足。
平臺信用評分機制應(yīng)區(qū)別用戶評價與信用評分兩個部分。用戶評價屬于企業(yè)的公開數(shù)據(jù)，每個人都可以查看。公開的評級能夠提示潛在交易方，形成聲譽壓力，在管理此類數(shù)據(jù)時，對惡意抓取進行限制即可。用戶的信用評分則屬于可識別的個人信息，在用戶知情并授權(quán)的條件下才能共享。用戶需要清楚知悉自己的信用評分在哪些場景下可以使用，會產(chǎn)生何種不利后果。若平臺信用評分存在錯誤，用戶有權(quán)利提出異議、要求更正或撤銷，或者要求恢復(fù)信譽、消除不利影響。
（三）實現(xiàn)評分算法治理的法治化
對平臺信用評分算法進行治理的核心是用客觀性矯正“算法黑箱”。在算法設(shè)計階段，既要建立基準，進行技術(shù)規(guī)制，又要加入“人機回圈”等方式，注入除設(shè)計者外的民主化濾鏡；在算法適用階段，需要通過算法解釋與算法審查并行的方式保障用戶的知情權(quán)。
其一，算法設(shè)計階段需建立基準。平臺信用評分算法基準的建立是至關(guān)重要的，能夠在一定程度上解決不同領(lǐng)域內(nèi)信用算法的不當聯(lián)結(jié)問題。從歐盟的經(jīng)驗來看，不同國家相異的聲譽制度可能會給歐洲單一市場造成新的障礙，因此要在歐盟層面協(xié)調(diào)在線評級與審查系統(tǒng)的相關(guān)規(guī)則?，F(xiàn)有對在線評級制度的監(jiān)管舉措是非均衡的，既有標準、指導(dǎo)方針、立法提案，也有不同法院的司法判決，需要提取其中的關(guān)鍵性要素，為后續(xù)的監(jiān)管規(guī)范化提供參考。其中，基于買賣雙方互動的C2C評分是規(guī)則混亂的重災(zāi)區(qū)。首先，要考慮透明度的問題。聲譽系統(tǒng)的運營商必須公平、清晰、透明地向用戶提供在線評論的發(fā)布與處理方式，說明評論發(fā)布前是否要受到平臺的審查。用戶協(xié)議中應(yīng)包括提交評論的基本原則、評論權(quán)重與展示方法等，通過用戶易于理解的方式進行說明。其次，架構(gòu)問題也需要納入考慮。評價系統(tǒng)是開放還是封閉，如何驗證用戶身份等可由市場自主決定，但平臺不應(yīng)就評論的來源誤導(dǎo)用戶。平臺運營商可設(shè)置合適的激勵機制，或通過技術(shù)手段減少報告偏差。例如，易貝（eBay）不給賣家提供對買家進行負面反饋的選擇，以減少因害怕報復(fù)性反饋而不愿評價的問題。最后，要關(guān)注平臺主導(dǎo)的綜合評級的風(fēng)險問題。綜合評級有助于減輕信息過載，多以星級或分數(shù)的方式呈現(xiàn)，會深刻影響消費者的購買決策。綜合評級是基于某種信息聚合的模型，意味著某種選擇性披露，其中的算法透明更不易實現(xiàn)，因此適宜由司法部門根據(jù)個案具體裁決。
其二，算法適用階段需完善算法解釋與算法審查機制。監(jiān)管機構(gòu)針對不同類型的算法應(yīng)采取分類治理的方式。高風(fēng)險算法是對個體產(chǎn)生重要影響的算法，如信用貸款審批、電子招聘、醫(yī)療服務(wù)、教育或顯著影響個人習(xí)慣或選擇的自動化決策。在面對高風(fēng)險算法時，GDPR規(guī)定“應(yīng)為數(shù)據(jù)主體提供自動化決策中運用邏輯的有用信息，與對數(shù)據(jù)主體可能造成的后果”。美國《算法審查法案》則規(guī)定，應(yīng)詳細說明包括算法設(shè)計、訓(xùn)練數(shù)據(jù)和算法目標在內(nèi)的信息。算法解釋與算法透明是一體兩面的，算法透明可視為對算法設(shè)計與使用方的義務(wù)設(shè)定，算法解釋則是對受算法影響者的具體賦權(quán)。算法解釋權(quán)可以通過軟件驗證、加密承諾、零智商證明原則等技術(shù)來實現(xiàn)，同時可引入統(tǒng)計模式識別和偏見評級的自動校正系統(tǒng)?！叭藱C回圈”原則通過補足人類智慧的方式來優(yōu)化算法，可為算法決策過程注入民主化要素。比如，淘寶網(wǎng)的“大眾評審制度”與“閑魚小法庭”就可為評分和處罰過程增加參與性與民主性。對作為規(guī)制者的平臺而言，加強風(fēng)險溝通有助于提升公眾的信任度，促使其決定合法化，改善決策質(zhì)量。對公眾而言，無可能也無必要對每項算法都提出解釋需求，若這樣也等于基本告別了算法統(tǒng)治下的現(xiàn)代社會。
如果公布算法或者解釋算法中的各項權(quán)重因素確有困難，可考慮制定類似藥品說明書的算法說明書。雖然制藥工藝受專利與商業(yè)秘密保護免于披露，但功能主治與禁忌說明應(yīng)該公開。算法設(shè)計與使用者應(yīng)對核心算法的邏輯、目的等加以公布，對涉及的敏感因素予以提示。平臺信用評分也應(yīng)向征信機構(gòu)學(xué)習(xí)，公開指標體系，既提供信用評價與信用報告，也進行信用評分分析與信用信息的變化預(yù)警，從而更好地對用戶進行信用教育。
（四）探索程序化的信用評分模式
結(jié)語
在人人皆處其中的評分社會中，應(yīng)肯定平臺信用體系在降低交易成本與塑造信任等方面的積極作用。這一在線聲譽體系對傳統(tǒng)的消費者保護形式進行了有效補充，但仍可能因制度和設(shè)計上的缺陷對消費者造成誤導(dǎo)或產(chǎn)生實質(zhì)性傷害。更甚者，平臺信用評分的外溢效應(yīng)可能導(dǎo)致價值上的錯位，營造出一種迎合算法生活的新趨勢。在平臺評分算法構(gòu)筑的“規(guī)訓(xùn)”空間內(nèi)，主體價值的找尋就成為了重要課題。因此有必要建立新型的監(jiān)管框架，通過算法基準與程序機制的設(shè)置確保平臺信用的有效性。監(jiān)管核心在于厘清公權(quán)力與平臺自治的邊界，一方面運用程序規(guī)則限制平臺的自由裁量與權(quán)力擴張，另一方面允許用戶進行自我選擇，使法律擁有更好的回應(yīng)性。在工業(yè)社會向算法社會的轉(zhuǎn)向中，通過個人自主性的提升來反對平臺集權(quán)，是一種可行之道。
《數(shù)字法治》專題由華東政法大學(xué)數(shù)字法治研究院特約供稿。專題統(tǒng)籌：秦前松
編輯：海洋