摘要：在數(shù)字經(jīng)濟(jì)生產(chǎn)中，信用評分算法對主體利益產(chǎn)生比傳統(tǒng)征信技術(shù)更深遠(yuǎn)的影響。當(dāng)前信用評分算法制度存在利益與風(fēng)險(xiǎn)失衡問題。信用治理動態(tài)調(diào)整使得信用治理機(jī)制具有規(guī)范互動的不確定性。需要樹立規(guī)范技術(shù)運(yùn)行、激勵(lì)技術(shù)創(chuàng)新的共識，運(yùn)用算法規(guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯，在“融通并行”理念引導(dǎo)下，形成新型信用評分算法治理方案。算法規(guī)制用于識別與測量信用評分算法風(fēng)險(xiǎn)、實(shí)現(xiàn)風(fēng)險(xiǎn)合理分配之目的。產(chǎn)品責(zé)任制度為信用評分算法運(yùn)用中的主體權(quán)益分配達(dá)成較為明確的預(yù)期且需做現(xiàn)代化調(diào)適。前者為后者的適用提供缺陷檢測時(shí)點(diǎn)與降低缺陷認(rèn)定困難。平臺可利用信用評分算法規(guī)制的具體內(nèi)容做出有利于己的證明，獲得一定的技術(shù)創(chuàng)新激勵(lì)。

　　關(guān)鍵詞：信用評分；個(gè)人征信；算法規(guī)制；信用治理

　　當(dāng)前，信用法治建設(shè)不斷深入開展。培育與發(fā)展征信市場對數(shù)字經(jīng)濟(jì)發(fā)展十分重要，也是未來信用治理的重點(diǎn)工作。2021年，《征信業(yè)務(wù)管理辦法》首次將互聯(lián)網(wǎng)平臺生產(chǎn)的信用評分納入監(jiān)管范疇，展現(xiàn)了一定的官方立場。信用評分是個(gè)性化推送、篩選排序等下游商業(yè)行為的基礎(chǔ)。信用評分算法運(yùn)行存在難以避免的偏差，容易導(dǎo)致不利后果的彌散，產(chǎn)生錯(cuò)上加錯(cuò)的惡性循環(huán)。隨著算法逐步滲入社會經(jīng)濟(jì)生活的方方面面，各種算法在技術(shù)動因、運(yùn)行機(jī)理、風(fēng)險(xiǎn)挑戰(zhàn)與損益界定方面存在顯著的差異，必然導(dǎo)向不同的法律回應(yīng)路徑。信用治理機(jī)制具有獨(dú)特的規(guī)范互動性?，F(xiàn)行制定法難以對信用評分算法施加有效的約束與激勵(lì)。我國首部有關(guān)算法規(guī)制的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，也僅是強(qiáng)調(diào)對信用評分算法應(yīng)用后的算法推薦行為予以規(guī)制。有鑒于此，本文力圖構(gòu)建算法規(guī)制結(jié)合產(chǎn)品責(zé)任的信用評分算法雙軌治理方案，合理協(xié)調(diào)主體權(quán)益，科學(xué)分配技術(shù)風(fēng)險(xiǎn)，形成具有針對性的制度安排。

　　一、信用評分算法的現(xiàn)實(shí)治理圖景

　　信用評分算法運(yùn)行中產(chǎn)生的信用判斷偏差，既可造成個(gè)人的實(shí)際損失，也可影響個(gè)人的預(yù)期利益。與傳統(tǒng)征信技術(shù)比較，信用評分算法運(yùn)用更容易產(chǎn)生主體利益沖突問題。當(dāng)前，信用評分異議數(shù)以十萬計(jì)，法律能夠提供的救濟(jì)措施卻是滄海一粟。信用評分算法治理主要涉及的征信管理制度、個(gè)人信息保護(hù)制度、產(chǎn)品責(zé)任制度與責(zé)任保險(xiǎn)制度在利益分配與風(fēng)險(xiǎn)承擔(dān)上存在不同程度的失調(diào)。

　?。ㄒ唬┬庞迷u分算法運(yùn)行中的利益沖突

　　信用評分算法運(yùn)行通過人工編程由參數(shù)驅(qū)動，基本流程包括數(shù)據(jù)采集與篩選、統(tǒng)計(jì)模型開發(fā)與優(yōu)化等。在信用評分算法設(shè)計(jì)、生產(chǎn)、應(yīng)用與優(yōu)化的過程中，方法選擇、樣本處理、權(quán)重設(shè)置、變量取舍都取決于技術(shù)專家的主觀判斷。具體言之，信用評分算法運(yùn)行偏差及其后果可歸納為兩個(gè)基本類型。

　　第一，直接導(dǎo)致個(gè)人經(jīng)濟(jì)損失的信用評分算法偏差。大數(shù)據(jù)技術(shù)能夠?qū)崟r(shí)采集數(shù)據(jù)，在理論上能夠避免人工操作的失誤，卻可能被設(shè)計(jì)為“拋棄”標(biāo)識符中的細(xì)微差異，在數(shù)據(jù)轉(zhuǎn)換為機(jī)器識別碼時(shí)出現(xiàn)“視而不見”的問題，造成個(gè)人的直接經(jīng)濟(jì)損失。例如，Trans Union曾因未能區(qū)分相差一位數(shù)字的兩個(gè)社會安全號碼，而將兩個(gè)人的壞賬與信用檔案混淆數(shù)年之久，導(dǎo)致其中信用本應(yīng)良好的個(gè)體以更高價(jià)格獲取生活必需的產(chǎn)品與服務(wù)。又如，低芝麻信用分個(gè)人無法在阿里健康合作的公立醫(yī)院獲得預(yù)先診療、延后付費(fèi)服務(wù)，在急癥發(fā)作時(shí)可能不得不承擔(dān)更高額的私人醫(yī)療費(fèi)用。

　　第二，影響個(gè)人預(yù)期利益實(shí)現(xiàn)的信用評分算法偏差。在信用評分算法的開發(fā)、設(shè)計(jì)與優(yōu)化過程中，首先要求對信用做出主觀定義，將信用程度劃分為多個(gè)層級。為避免個(gè)人成為“統(tǒng)計(jì)學(xué)推論下的合理受害者”，需通過重設(shè)變量、權(quán)重與臨界點(diǎn)等多種方式調(diào)整統(tǒng)計(jì)模型。此外，為保證樣本的動態(tài)平衡、盡量反映個(gè)體的信用特征，還需對數(shù)據(jù)重新抽樣。上述因素使得信用評分算法偏差難以避免。由此導(dǎo)致的信用誤判將顯著地影響個(gè)人未來可能獲得的財(cái)產(chǎn)利益與經(jīng)濟(jì)機(jī)會。實(shí)踐中，六年仍未畢業(yè)的博士研究生會被判斷為“缺乏自控力”，被劃為低信用程度個(gè)體，面臨更嚴(yán)苛的授信條件與較高的借貸利率。

　　從技術(shù)角度還原信用評分算法偏差的形成過程，其難度極大。信用評分算法通常作為商業(yè)秘密保護(hù)。據(jù)報(bào)道，芝麻信用分開發(fā)團(tuán)隊(duì)有百余名工作人員，僅核心成員了解算法系統(tǒng)內(nèi)核。Zest Finance亦在專利申請書中對其信用評分算法采用的變量做模糊處理。學(xué)者大多從外部視角觀察統(tǒng)計(jì)模型的一般規(guī)律，倒推獲得信用評分算法運(yùn)行機(jī)理與潛在風(fēng)險(xiǎn)的知識。至于何種變量最為重要，模型如何計(jì)算，計(jì)算結(jié)果是否準(zhǔn)確，均難以確定。信用評分算法無法排除主觀價(jià)值判斷。開發(fā)者通過統(tǒng)計(jì)等方法增加中間層次進(jìn)行模型擬合，之后還會不斷地新增變量。信用評分算法偏差實(shí)際面臨無法解釋的技術(shù)困境。技術(shù)專家的介入有助于緩解兩類信用評分算法偏差，同時(shí)也將更多的人工干預(yù)整合進(jìn)機(jī)器學(xué)習(xí)。這使得信用評分算法運(yùn)行成為區(qū)別于傳統(tǒng)征信技術(shù)、人機(jī)緊密結(jié)合、平臺利益與個(gè)人利益交錯(cuò)的復(fù)雜活動。傳統(tǒng)征信技術(shù)所要預(yù)測的目標(biāo)一般只是個(gè)人信貸賬戶在未來特定時(shí)期內(nèi)“變好”“變壞”“維持中性”的概率。用于建立統(tǒng)計(jì)模型的變量都是經(jīng)濟(jì)意義上的有關(guān)交易細(xì)節(jié)、行為特征的客觀記錄。與之相對，信用評分算法源于平臺在網(wǎng)絡(luò)環(huán)境中控制風(fēng)險(xiǎn)、傳導(dǎo)信號的商業(yè)需求。信用評分算法運(yùn)行中的信息不對稱程度越高，越有利于平臺的經(jīng)濟(jì)利益。其使用平臺控制的各類信息數(shù)據(jù)，廣泛地用于社會經(jīng)濟(jì)領(lǐng)域。不僅直接影響個(gè)人的既得利益，還會帶來強(qiáng)化不利的持續(xù)性后果。故信用評分算法相比傳統(tǒng)征信技術(shù)，對主體利益具有更加深遠(yuǎn)的影響。

　　截至2022年1月10日，在“百度知道”以“芝麻信用申訴”為關(guān)鍵詞可檢索到逾31萬條結(jié)果，以“芝麻信用修復(fù)”為關(guān)鍵詞可檢索到逾17萬條結(jié)果。個(gè)人發(fā)現(xiàn)信用評分算法輸出不恰當(dāng)?shù)男庞迷u判結(jié)果時(shí)，大多無法獲得法律救濟(jì)。僅在第三方提供的信息確實(shí)有誤、不可抗力、他人冒用、系統(tǒng)錯(cuò)誤四種情形中，方能獲得平臺提供的有限救濟(jì)。值得反思的是，出于回應(yīng)魏則西事件、滴滴大數(shù)據(jù)殺熟事件、朱燁訴百度案等社會焦點(diǎn)問題的考慮，《個(gè)人信息保護(hù)法》《電子商務(wù)法》《民法典》已經(jīng)開始重點(diǎn)治理商業(yè)營銷算法應(yīng)用行為。當(dāng)前，信用評分算法尚未引發(fā)較大的風(fēng)險(xiǎn)事件，信用評分算法運(yùn)行中的利益沖突未能獲得足夠關(guān)注。

　?。ǘ╋L(fēng)險(xiǎn)分配與利益協(xié)調(diào)的制度失衡

　　平臺生產(chǎn)的信用評分不僅為數(shù)字經(jīng)濟(jì)活動傳導(dǎo)風(fēng)險(xiǎn)信號，也是數(shù)字信用共治的有效工具。信用評分具有一定的公共物品屬性。信用評分算法治理既是公法上的命題，也是私法上的命題。其主要涉及征信管理制度、個(gè)人信息保護(hù)制度、產(chǎn)品責(zé)任制度與責(zé)任保險(xiǎn)制度等法律規(guī)范（參見表1）。其中，前兩類制度一般統(tǒng)稱為個(gè)人征信制度。四類制度規(guī)范在回應(yīng)信用評分算法運(yùn)行的特定技術(shù)風(fēng)險(xiǎn)時(shí)，不同程度地存在主體利益保護(hù)不周延、技術(shù)風(fēng)險(xiǎn)分配不均衡問題。

　　1.個(gè)人征信制度的風(fēng)險(xiǎn)分配失衡

　　第一，征信管理制度回避風(fēng)險(xiǎn)分配?！墩餍艠I(yè)務(wù)管理辦法》是最新頒布的核心規(guī)范。該辦法第50條將以信用信息服務(wù)、信用服務(wù)、信用評分、信用評級、信用修復(fù)為名義提供征信服務(wù)的行為納入適用范疇，但并未對此做出詳細(xì)解釋。立法文本與立法起草說明中回避了大數(shù)據(jù)應(yīng)用對個(gè)人征信究竟造成哪些變與不變的分析，而是在用語上去除“大數(shù)據(jù)”的痕跡，采取刻意犧牲精確來成就表面的“大數(shù)據(jù)化”，以維持其征信統(tǒng)一監(jiān)管法的風(fēng)格。這反映出舉棋不定的立法態(tài)度，不利于保證立法技術(shù)和立法語言的邏輯性、精確性與可操作性。進(jìn)一步分析，監(jiān)管活動本質(zhì)上是根植于專業(yè)技術(shù)開展的、效率與分配相分離的決策活動。監(jiān)管者不應(yīng)是中立的規(guī)則制定者。監(jiān)管活動應(yīng)當(dāng)采取促進(jìn)各方主體協(xié)商的合理形式。中國人民銀行作為征信管理制度的制定者、實(shí)施者與監(jiān)督者，傾向于采取最有利于增進(jìn)公共利益的立場。出于金融監(jiān)管活動的獨(dú)特性，中國人民銀行在征信監(jiān)管活動中還存在以指標(biāo)、目標(biāo)、統(tǒng)計(jì)、認(rèn)證等模式取代法律規(guī)范的明顯傾向。以征信管理制度為主導(dǎo)的信用評分算法制度設(shè)計(jì)，容易模糊政治決策與經(jīng)濟(jì)決策的界限，忽視平臺對信用評分算法享有的經(jīng)濟(jì)利益。

　　第二，個(gè)人信息保護(hù)制度不適當(dāng)?shù)販p輕平臺的風(fēng)險(xiǎn)成本?！秱€(gè)人信息保護(hù)法》能否直接適用于信用評分算法存疑，還在行為指引方面顯著缺失針對性。該法對個(gè)人信息自動化處理行為適用的一般規(guī)則作出規(guī)定。其中，第24條與第55條分別提出信息處理者應(yīng)當(dāng)向信息主體履行告知與說明義務(wù)，與透明、公正、公平、合理、事前評估的義務(wù)。根據(jù)該法第73條對自動化決策的界定，上述條款僅是針對完全由計(jì)算機(jī)程序開展的分析、評估、決策情形而設(shè)。信用評分算法的設(shè)計(jì)、開發(fā)、應(yīng)用與優(yōu)化均是難以剝離人類決策的復(fù)雜行為，故存在一定的個(gè)人信息保護(hù)法律適用問題。

　　2.產(chǎn)品責(zé)任制度的利益協(xié)調(diào)偏差

　　信用評分算法是否構(gòu)成《民法典》《產(chǎn)品質(zhì)量法》《消費(fèi)者權(quán)益保護(hù)法》意義上的“產(chǎn)品”，是決定其能否適用產(chǎn)品責(zé)任制度的根本因素。立法尚未明確規(guī)定信用評分算法是否構(gòu)成“產(chǎn)品”。理論上也暫未形成統(tǒng)一的觀點(diǎn)。信用評分算法是人的發(fā)明創(chuàng)造，未完全脫離“物”的范疇。能夠規(guī)?；a(chǎn)、銷售與應(yīng)用的算法，其開發(fā)者一般具有更強(qiáng)的風(fēng)險(xiǎn)控制能力與成本承擔(dān)能力。將信用評分算法納入“產(chǎn)品”范疇，還有助于激勵(lì)缺陷檢測行為，鼓勵(lì)技術(shù)創(chuàng)新。因此，對信用評分算法適用產(chǎn)品責(zé)任制度具有一定的合理性，但是存在相當(dāng)?shù)倪m用困難。整體來看，信用評分算法與自動駕駛汽車代表的可大規(guī)模工業(yè)化生產(chǎn)的人工智能產(chǎn)品差異較大，其從設(shè)計(jì)開發(fā)到優(yōu)化應(yīng)用并不是從無形到有形的過程，難以通過現(xiàn)行產(chǎn)品責(zé)任制度預(yù)防風(fēng)險(xiǎn)與權(quán)衡利益。

　　第一，信用評分算法缺陷與責(zé)任的認(rèn)定異常復(fù)雜。與自動駕駛汽車不同，信用評分算法一般不存在制造缺陷與說明缺陷，卻可能存在設(shè)計(jì)缺陷、警示缺陷與跟蹤觀察缺陷。其中，設(shè)計(jì)缺陷不一定是明顯的漏洞而更可能是推斷的漏洞。用于訓(xùn)練信用評分算法的信息數(shù)據(jù)往往形成于特定的歷史背景，“帶有特定場景中的歧視烙印”。信用評分算法缺陷難以依賴已知的技術(shù)標(biāo)準(zhǔn)識別，其與偏差結(jié)果之間未必具有直接關(guān)聯(lián)關(guān)系。開發(fā)者常能依據(jù)《產(chǎn)品質(zhì)量法》第41條進(jìn)行發(fā)展風(fēng)險(xiǎn)抗辯，將有失理性的技術(shù)創(chuàng)新行為不恰當(dāng)?shù)睾戏ɑ６鴤€(gè)人不具備與之相當(dāng)?shù)募夹g(shù)能力，難以就信用評分算法缺陷與損害后果之間的因果關(guān)系作出證明。

　　第二，產(chǎn)品責(zé)任制度只救濟(jì)受害人遭受的實(shí)際損害。信用評分算法偏差不僅造成實(shí)際經(jīng)濟(jì)損失，更將致使個(gè)人喪失未來的經(jīng)濟(jì)機(jī)會。傳統(tǒng)征信的法律救濟(jì)較少關(guān)照預(yù)期利益。這是由于，傳統(tǒng)征信的基礎(chǔ)法律關(guān)系是民事法律關(guān)系，適用填平性賠償原則。當(dāng)交易發(fā)生在個(gè)人與金融機(jī)構(gòu)之間時(shí)，個(gè)人權(quán)益屬于金融消費(fèi)者權(quán)益范疇。法律無需再對預(yù)期利益提供特別保護(hù)。而信用評分算法開發(fā)者與個(gè)人具有實(shí)質(zhì)不平等的關(guān)系。其中的個(gè)人權(quán)益與平等民事主體權(quán)利存在本質(zhì)區(qū)別，也不必然屬于金融消費(fèi)者權(quán)益范疇。保護(hù)個(gè)人預(yù)期利益的考量應(yīng)當(dāng)被納入信用評分算法治理之中。產(chǎn)品責(zé)任制度對此存在局限。

　　第三，嚴(yán)格責(zé)任歸責(zé)原則難以適應(yīng)數(shù)字經(jīng)濟(jì)的發(fā)展需求。對信用評分算法適用嚴(yán)格責(zé)任可能對開發(fā)者過于苛責(zé)。產(chǎn)品責(zé)任適用嚴(yán)格責(zé)任原則的理念，建立在早期僅有產(chǎn)品制造缺陷的司法判例基礎(chǔ)上。研究發(fā)現(xiàn)，嚴(yán)格責(zé)任的設(shè)計(jì)和運(yùn)用與技術(shù)創(chuàng)新密切相關(guān)，容易導(dǎo)致較高的法律成本，不利于激勵(lì)企業(yè)大膽地實(shí)施創(chuàng)新行為。由開發(fā)者預(yù)知與防范信用評分算法運(yùn)行可能引起的所有危險(xiǎn)，易使開發(fā)者承擔(dān)過于嚴(yán)格的責(zé)任內(nèi)容，犧牲其技術(shù)創(chuàng)新積極性，最終將不利于信用評分算法的更新迭代。

　　3.責(zé)任保險(xiǎn)制度的調(diào)整功能喪失

　　信用評分算法不應(yīng)適用責(zé)任保險(xiǎn)制度。信用評分算法的保險(xiǎn)責(zé)任認(rèn)定、保險(xiǎn)費(fèi)率與賠付費(fèi)率認(rèn)定均存在困難。保險(xiǎn)責(zé)任認(rèn)定需滿足產(chǎn)品缺陷、損害后果與因果關(guān)系三項(xiàng)要素，同樣存在因缺乏直接因果關(guān)系而產(chǎn)生的責(zé)任認(rèn)定問題，喪失迅速賠償而無關(guān)損害的制度優(yōu)勢。此外，保險(xiǎn)行業(yè)定價(jià)的基本原則是：大量收集被保險(xiǎn)人的各類信息，依據(jù)被保險(xiǎn)人的風(fēng)險(xiǎn)預(yù)期，由專業(yè)人員就收益與風(fēng)險(xiǎn)做出極為精細(xì)的測算，得到最終的價(jià)格。被保險(xiǎn)人的風(fēng)險(xiǎn)預(yù)期包括索賠概率、索賠成本、價(jià)格承受能力等因素。而信用評分算法偏差所導(dǎo)致的收益與風(fēng)險(xiǎn)很難以貨幣計(jì)量。保險(xiǎn)公司亦面臨缺乏科學(xué)論證的巨大壓力，難以發(fā)揮責(zé)任劃分與定損賠償?shù)慕?jīng)驗(yàn)優(yōu)勢。

　　更為重要的是，信用評分算法責(zé)任保險(xiǎn)可能加劇我國保險(xiǎn)業(yè)的整體成本。在世界范圍內(nèi)，人工智能產(chǎn)品的保險(xiǎn)成本呈現(xiàn)不斷攀升的趨勢。德國《道路交通法第八修正案》將系統(tǒng)故障導(dǎo)致人員傷亡事件的最高賠償額由500萬歐元提升至1000萬歐元。美國的商業(yè)實(shí)踐也顯示，無過錯(cuò)保險(xiǎn)制度的成本遠(yuǎn)超預(yù)期。我國則面臨著壓降保險(xiǎn)業(yè)整體成本的迫切需求。自2016年起，保險(xiǎn)業(yè)不當(dāng)創(chuàng)新現(xiàn)象頻發(fā)。因保險(xiǎn)資金涉及公眾利益并可能引發(fā)系統(tǒng)性風(fēng)險(xiǎn)，自2018年以來的監(jiān)管重點(diǎn)是化解前期遺留的金融安全重大問題，促使保險(xiǎn)資金運(yùn)用回歸收益穩(wěn)定、回收期長的實(shí)體經(jīng)濟(jì)領(lǐng)域。

　　信用評分算法責(zé)任保險(xiǎn)的創(chuàng)設(shè)與我國保險(xiǎn)業(yè)的現(xiàn)實(shí)需求相悖。信用評分算法運(yùn)行涉及大部分互聯(lián)網(wǎng)使用者。將開發(fā)者納入信用評分算法強(qiáng)制責(zé)任保險(xiǎn)的投保主體范圍，雖然能夠救濟(jì)個(gè)人的損失，但保險(xiǎn)公司此時(shí)只是承擔(dān)一種過渡角色。其必須向個(gè)人提供損害補(bǔ)償，又將因取得代位求償權(quán)，面向微觀經(jīng)濟(jì)行為的眾多主體而產(chǎn)生巨額費(fèi)用。相比之下，2021年底中國保險(xiǎn)行業(yè)協(xié)會發(fā)布的《新能源汽車商業(yè)保險(xiǎn)專屬條款（試行）》則允許保險(xiǎn)公司就智能輔助駕駛軟件的承保獲得額外收益。可以發(fā)現(xiàn)，自動駕駛汽車的責(zé)任保險(xiǎn)機(jī)制更加成熟，其可通過費(fèi)率改革等多項(xiàng)制度的配適，實(shí)現(xiàn)壓降保險(xiǎn)行業(yè)綜合成本的目標(biāo)。

　　綜上，有關(guān)信用評分算法的治理呈現(xiàn)出顯著的利益分配與風(fēng)險(xiǎn)承擔(dān)失衡。就個(gè)人而言，個(gè)人實(shí)際損失在產(chǎn)品責(zé)任法律層面一般可獲救濟(jì)，但是救濟(jì)機(jī)制的啟動受到科學(xué)認(rèn)識的制約而存在困難。同時(shí)，侵害預(yù)期利益才是信用評分算法運(yùn)行中的重大風(fēng)險(xiǎn)所在，卻難以受到產(chǎn)品責(zé)任制度的調(diào)整。就平臺而言，現(xiàn)行制度存在全有或全無、兩極分化的利益保護(hù)弊端。在信用評分算法運(yùn)行中，當(dāng)平臺的經(jīng)濟(jì)利益受到忽視時(shí)，其承擔(dān)的義務(wù)內(nèi)容和風(fēng)險(xiǎn)成本就難以合理設(shè)置。

　　二、“融通并行”治理理念的提出

　　信用評分算法運(yùn)行帶來新的技術(shù)風(fēng)險(xiǎn)，引發(fā)風(fēng)險(xiǎn)的再分配與利益的重新協(xié)調(diào)。需要通過算法規(guī)制與產(chǎn)品責(zé)任的結(jié)合，彌補(bǔ)難以深入信用評分算法細(xì)枝末節(jié)的缺憾，實(shí)現(xiàn)信用評分算法治理的整體進(jìn)化。概言之，有效的信用評分算法治理方案應(yīng)當(dāng)實(shí)現(xiàn)算法規(guī)制與產(chǎn)品責(zé)任的“融通并行”。

　?。ㄒ唬┧惴ㄒ?guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯

　　信用治理一直處于調(diào)整與漸進(jìn)的過程。信用治理機(jī)制只能在特定的文化、經(jīng)濟(jì)、制度條件下維持暫時(shí)的均衡狀態(tài)。信用治理機(jī)制具有豐富的內(nèi)涵，既包括與信用相關(guān)的強(qiáng)制規(guī)范，也包括有關(guān)信用的其他規(guī)范。在強(qiáng)制規(guī)范的干預(yù)與擴(kuò)張下，其他規(guī)范自身不斷進(jìn)行調(diào)整，最終往往也會融入強(qiáng)制規(guī)范。這正是信用治理規(guī)范互動性的反映。

　　算法規(guī)制與產(chǎn)品責(zé)任相結(jié)合，能夠?yàn)樾庞迷u分算法的治理實(shí)踐提供具有實(shí)用性的制度條件。算法規(guī)制難以單獨(dú)發(fā)揮作用，其就問題解決方案討價(jià)還價(jià)尋求重疊性共識，本質(zhì)上是一種相機(jī)行事的規(guī)制措施，難以在復(fù)雜活動中客觀地取舍創(chuàng)新活力與主體利益。將新興技術(shù)風(fēng)險(xiǎn)通過裁斷行為后果的方式固定下來，有利于推動技術(shù)的理性運(yùn)行，也有助于應(yīng)對信息社會技術(shù)水平突飛猛進(jìn)的現(xiàn)實(shí)。而產(chǎn)品責(zé)任滯后于新興技術(shù)的發(fā)展水平，是幾乎每一社會文化環(huán)境中都會出現(xiàn)的正?，F(xiàn)象。算法規(guī)制注重經(jīng)驗(yàn)事實(shí)的認(rèn)知和驗(yàn)證，有助于通過行為邏輯的塑造，對新興技術(shù)施加可操作的約束措施，發(fā)揮制度規(guī)范的激勵(lì)功能。

　　算法規(guī)制與產(chǎn)品責(zé)任的“融通并行”，不可避免地存在多種價(jià)值觀與規(guī)制效能整合的劇烈挑戰(zhàn)。故更應(yīng)形成一些基本共識，減少規(guī)范互動帶來的不確定性。最首要的共識應(yīng)當(dāng)是促進(jìn)信用評分算法的規(guī)范運(yùn)行。信用評分算法運(yùn)行有別于一般信息處理行為，是在整個(gè)社會范圍內(nèi)發(fā)生的信息固定、評價(jià)與傳遞。只有信用評分算法規(guī)范運(yùn)行，才能在信息公開與信息保護(hù)之間尋求價(jià)值平衡。除此以外，還應(yīng)重視平臺在信用治理領(lǐng)域的技術(shù)創(chuàng)新潛力，促進(jìn)個(gè)人征信市場的錯(cuò)位互補(bǔ)與繁榮發(fā)展，彌補(bǔ)管理型政府治理機(jī)制對社會活力與創(chuàng)造力的犧牲。兩者并重方可有效地發(fā)揮信用治理機(jī)制的約束與激勵(lì)功能。

　　基于此，算法規(guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯有助于改善主體技術(shù)水平差異引發(fā)的利益與風(fēng)險(xiǎn)失衡狀態(tài)。信用評分算法起源于商業(yè)需求，更多地運(yùn)用于商業(yè)領(lǐng)域，只有在信用聯(lián)合懲戒的特殊場景中才可能具備公法規(guī)范的直接適用空間。信用評分算法難以有效治理的根本原因是運(yùn)行機(jī)理與實(shí)施標(biāo)準(zhǔn)不易為個(gè)人獲知。這加劇了信用評分算法侵害個(gè)人權(quán)益的現(xiàn)實(shí)風(fēng)險(xiǎn)。算法規(guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯能夠突破信用評分算法的認(rèn)知困境，以程序化的實(shí)施標(biāo)準(zhǔn)揭開技術(shù)面紗與提供救濟(jì)渠道。產(chǎn)品責(zé)任更多地修補(bǔ)破損的社會結(jié)構(gòu)，預(yù)防信用評分算法風(fēng)險(xiǎn)的功能相對有限。算法規(guī)制則有助于落實(shí)與細(xì)化激勵(lì)措施，防范信用評分算法發(fā)展中的各類風(fēng)險(xiǎn)。

　　兩種規(guī)范各自利弊共存。算法規(guī)制重在事前預(yù)防與事中干預(yù)。其直接作用于信用評分算法的設(shè)計(jì)、生產(chǎn)、應(yīng)用與優(yōu)化過程，使信用評分算法的運(yùn)行變得透明，令難以窺見的技術(shù)行為變得有跡可循。個(gè)人就信用評分算法享有的權(quán)利并不構(gòu)成私法上的絕對權(quán)，而是個(gè)人信息保護(hù)體系中的若干權(quán)能。這些權(quán)能具有典型的軟法性質(zhì)，存在救濟(jì)能力匱乏的問題。產(chǎn)品責(zé)任作為調(diào)整私主體法律關(guān)系的成文規(guī)范，旨在事后彌補(bǔ)損害。其為個(gè)人提供明確的權(quán)利基礎(chǔ)與有效的損害救濟(jì)，卻無力深入信用評分算法運(yùn)行的各個(gè)細(xì)節(jié)。

　　兩者在規(guī)范方式、結(jié)構(gòu)、功能、目的方面互為補(bǔ)充（參見表2）。算法規(guī)制并不挑戰(zhàn)產(chǎn)品責(zé)任，而是為產(chǎn)品責(zé)任的有效性提供識別與量化風(fēng)險(xiǎn)的必要知識，向個(gè)人提供更充分的防御手段和更豐富的救濟(jì)途徑，從而在根本上解決信用評分算法運(yùn)行對個(gè)人預(yù)期利益帶來的危險(xiǎn)。產(chǎn)品責(zé)任也須通過算法規(guī)制確立的行為準(zhǔn)則，為主體利益協(xié)調(diào)提供制度支持。在這個(gè)意義上，兩者具有整合形成新型信用評分算法治理方案的可能。

　　（二）旨在分散風(fēng)險(xiǎn)的算法規(guī)制框架

　　風(fēng)險(xiǎn)在脫離主觀價(jià)值判斷后，才具有對比、選擇與接受的意義。算法規(guī)制框架是分散信用評分算法運(yùn)行風(fēng)險(xiǎn)的務(wù)實(shí)選擇。其有利于將事前難以獲知的技術(shù)細(xì)節(jié)還原為合理性問題，利用正當(dāng)程序嵌入治理實(shí)踐。

　　1.信用評分算法規(guī)制框架以有限的算法透明為原則

　　信用評分算法規(guī)制框架可在技術(shù)創(chuàng)新與風(fēng)險(xiǎn)預(yù)防之間實(shí)現(xiàn)基本的平衡關(guān)系。為防止“刷信”“炒信”等違法行為，避免評價(jià)結(jié)果失真，信用評分算法不對外公開實(shí)屬國際慣例。本文認(rèn)為應(yīng)對信用評分算法適用有限透明原則。

　　第一，結(jié)合信用評分算法的影響范圍、平臺的競爭優(yōu)勢與市場地位等因素，以不公開為原則，以公開為例外。StateofWisconsinv.EricL.Loomis案可以提供一些鏡鑒（見Statev.Loomis，881N.W.2d749(2016)，No.2015AP157-CR，decidedon2016-7-13）。因限制準(zhǔn)入而形成壟斷地位或國家財(cái)政資金支持的信用評分算法，其性質(zhì)更接近公共物品，能夠?qū)€(gè)人信用做出帶有國家公信力的價(jià)值判斷。例如，中國人民銀行征信中心開發(fā)的信用評分算法，百行征信與樸道征信開發(fā)的信用評分算法，其關(guān)涉知情權(quán)與監(jiān)督權(quán)等基本權(quán)利，應(yīng)當(dāng)在一定程度上降低保護(hù)標(biāo)準(zhǔn)，向社會公開，受到更加充分的公眾監(jiān)督。而大型平臺開發(fā)的信用評分算法，應(yīng)當(dāng)限定于向特定行政主體公開，通過行政備案方式實(shí)現(xiàn)算法透明，確保信用評分算法始終處于可監(jiān)督、可理解、可預(yù)測的狀態(tài)。新興平臺開發(fā)的信用評分算法，出于激勵(lì)創(chuàng)新目的，可以考慮僅向自律組織注冊，實(shí)現(xiàn)一定程度的算法透明。

　　第二，以信用評分算法的解釋性說明為披露內(nèi)容，而非其源代碼。對于平均理性自然人而言，披露源代碼并無助于理解信用評分算法如何運(yùn)行。以解釋性說明為主要披露內(nèi)容，正是對普通人也有權(quán)了解信用評分算法之需求的適當(dāng)回應(yīng)。歐盟GDPR第12條算法規(guī)制條款亦是將“透明性”理解為“可解釋性”。參考《人工智能投資顧問監(jiān)管指南更新》，信用評分算法的解釋性內(nèi)容一般可包括功能介紹、假設(shè)條件、理論局限、固有風(fēng)險(xiǎn)、設(shè)計(jì)者與管理者說明、所有權(quán)、潛在利益沖突、歷次測試與調(diào)整情況。

　　2.信用評分算法規(guī)制框架以保護(hù)人的自主性為基點(diǎn)

　　從人認(rèn)識、理解、防范與拒絕承受算法風(fēng)險(xiǎn)的基本需求來看，算法結(jié)果拒絕權(quán)能與算法解釋請求權(quán)能最突出地體現(xiàn)個(gè)人在信用評分算法面前的主體地位。

　　第一，算法解釋請求權(quán)對個(gè)人自主性的形成與維護(hù)具有不可替代的作用。從信任生產(chǎn)機(jī)制的角度來看，個(gè)人有理由期待在信用評分算法發(fā)生錯(cuò)誤與危害風(fēng)險(xiǎn)時(shí)，平臺以負(fù)責(zé)任的態(tài)度迅速作出回應(yīng)。就救濟(jì)機(jī)制的啟動條件而言，只有算法解釋請求權(quán)可由個(gè)人完全基于自己的立場啟動。就權(quán)利行使成本而言，算法解釋請求權(quán)要求既向個(gè)人解釋信用評分的形成過程，也向個(gè)人提供有關(guān)信用評分調(diào)整方式與調(diào)整影響的行為指引，避免信用評分糾紛直接進(jìn)入行政干預(yù)或司法救濟(jì)環(huán)節(jié)，有效節(jié)約社會資源。

　　第二，算法結(jié)果拒絕權(quán)向個(gè)人直接賦予人類干預(yù)、價(jià)值衡量與結(jié)果修正的機(jī)會，避免其淪為信用評分算法的“純粹客體”?？紤]到信用評分算法的動態(tài)演化，算法結(jié)果拒絕權(quán)的行使需要受到直接重大影響條件和正當(dāng)理由豁免情形的限制。前者應(yīng)結(jié)合個(gè)人利益受侵害的潛在危險(xiǎn)、信用評分算法的市場占有率等因素判斷。后者則要求平臺不得違反個(gè)人信息保護(hù)規(guī)則，除非法律明確做出規(guī)定。

　　以保護(hù)個(gè)人自主性地位為基點(diǎn)，還能夠引申出一個(gè)由多種算法規(guī)制工具組合而成的信用評分算法規(guī)制框架。該框架在解釋、驗(yàn)證、評估、問責(zé)等多種算法規(guī)制工具之間建立起有機(jī)聯(lián)系，協(xié)調(diào)與跨越不同的規(guī)制安排，形成一定的規(guī)制結(jié)構(gòu)，保障普通人也有機(jī)會理解信用評分算法的技術(shù)原理，事先做出保護(hù)自身權(quán)益的適當(dāng)安排。算法規(guī)制工具可大致分為算法監(jiān)督工具與算法問責(zé)工具兩種類型，每一類中又可開展更加細(xì)致的分層設(shè)計(jì)。

　　（三）權(quán)衡主體利益的產(chǎn)品責(zé)任制度

　　主體利益需要通過相對固定的權(quán)利義務(wù)結(jié)構(gòu)加以權(quán)衡。以產(chǎn)品責(zé)任制度協(xié)調(diào)信用評分算法運(yùn)行中的主體利益，既具有必要性也具有多方面的可行性。

　　就其必要性而言，信用評分算法具備高度的行動能力，卻與平臺的價(jià)值和行為綁定。信用評分算法在運(yùn)作方式上比普通產(chǎn)品更具復(fù)雜性，在致害范圍上比普通產(chǎn)品更具擴(kuò)張性，與平臺的關(guān)系也較普通產(chǎn)品更為緊密。由平臺作為設(shè)計(jì)者與開發(fā)者承擔(dān)信用評分算法產(chǎn)品責(zé)任，是“成本-效益”經(jīng)濟(jì)分析的結(jié)果。產(chǎn)品責(zé)任會施加私人成本。例如，信用評分算法缺陷的識別與解決均需要相應(yīng)的支出。通過設(shè)置產(chǎn)品責(zé)任誘導(dǎo)最適合進(jìn)行“成本-效益”分析的主體承擔(dān)信用評分算法缺陷的代價(jià)，達(dá)到帕累托最優(yōu)結(jié)果，是實(shí)現(xiàn)主體利益協(xié)調(diào)的必然選擇。

　　在其可行性方面，信用評分算法的運(yùn)行過程大體對應(yīng)著產(chǎn)品的設(shè)計(jì)、生產(chǎn)、制造、流通與優(yōu)化過程。嚴(yán)格責(zé)任歸責(zé)原則可以最大程度杜絕信用評分算法缺陷的發(fā)生與存續(xù)，督促責(zé)任主體盡可能地在信用評分算法運(yùn)行中保持審慎。產(chǎn)品缺陷的責(zé)任承擔(dān)方式大多可適用于信用評分算法致害場合，如賠償損失、消除危險(xiǎn)、排除妨礙、警示與懲罰性賠償。此外，“發(fā)展風(fēng)險(xiǎn)抗辯”的免責(zé)事由在一定程度上亦有助于維護(hù)平臺的經(jīng)濟(jì)利益。

　　產(chǎn)品責(zé)任制度雖能達(dá)成較為明確的利益分配預(yù)期，卻存在不可避免的利益協(xié)調(diào)偏差。產(chǎn)品責(zé)任制度不足以獨(dú)立回應(yīng)信用評分算法運(yùn)行帶來的危險(xiǎn)，需針對信用評分算法運(yùn)行，在以下兩方面做出一定的現(xiàn)代化調(diào)適。

　　在判斷標(biāo)準(zhǔn)方面，現(xiàn)行產(chǎn)品缺陷的判斷標(biāo)準(zhǔn)難以直接辨識信用評分算法缺陷。傳統(tǒng)上，產(chǎn)品缺陷的不合理危險(xiǎn)與未達(dá)到技術(shù)標(biāo)準(zhǔn)兩項(xiàng)判斷依據(jù)均與產(chǎn)品的質(zhì)量標(biāo)準(zhǔn)相關(guān)，主要反映在產(chǎn)品的物理性能與使用性能上。在信用評分算法缺陷認(rèn)定中，這兩種標(biāo)準(zhǔn)難以解決“信用評分算法做出有悖倫理的決策是否屬于產(chǎn)品缺陷”等新的具體問題。此外，要準(zhǔn)確判定信用評分算法缺陷，個(gè)人必須能夠理解其工作原理與決策過程，這已大大超出一般理性人的認(rèn)知范疇。因此，必須在算法透明原則指引下，借助新的認(rèn)知手段克服技術(shù)理解障礙，方能真正合理地權(quán)衡主體利益。

　　在舉證責(zé)任方面，現(xiàn)行產(chǎn)品缺陷的舉證責(zé)任往往偏重由一方承擔(dān)，不利于在信用評分算法缺陷訟爭中實(shí)現(xiàn)主體利益均衡。例如，個(gè)人通常僅能收集到間接證據(jù)，這些證據(jù)的證明效力比較有限。由個(gè)人承擔(dān)舉證責(zé)任容易加劇個(gè)人權(quán)益保護(hù)的難度。故對信用評分算法采用一般的產(chǎn)品責(zé)任舉證規(guī)則，個(gè)人遭受的損失就難獲救濟(jì)。然而，由于機(jī)器學(xué)習(xí)與人工干預(yù)的持續(xù)發(fā)生，平臺亦面臨信用評分算法運(yùn)行過程難以還原的技術(shù)難題，同樣難以通過現(xiàn)行產(chǎn)品舉證規(guī)則維護(hù)自身合法權(quán)益。因此，必須借助算法規(guī)制框架，方可明確產(chǎn)品責(zé)任制度的舉證責(zé)任分配。

　　三、“融通并行”治理方案的設(shè)計(jì)

　　在“融通并行”治理理念的指導(dǎo)下，本文嘗試構(gòu)建一種雙軌治理方案。主要內(nèi)容包括：信用評分算法規(guī)制框架用于識別與測量風(fēng)險(xiǎn)，最終實(shí)現(xiàn)技術(shù)風(fēng)險(xiǎn)的合理分配。信用評分算法規(guī)制框架為信用評分算法產(chǎn)品缺陷提供檢測試點(diǎn)，降低缺陷認(rèn)定困難。在舉證規(guī)則方面，允許平臺利用信用評分算法規(guī)制的具體內(nèi)容，做出有利于己的證明。

　?。ㄒ唬┧惴ㄒ?guī)制框架下的風(fēng)險(xiǎn)分配機(jī)制

　　在大部分國家，算法規(guī)制正處于從學(xué)理建議到技術(shù)實(shí)踐再到成文規(guī)范的轉(zhuǎn)化階段。本文梳理現(xiàn)有研究與實(shí)踐，提出信用評分算法規(guī)制框架中至少包含五類風(fēng)險(xiǎn)分配機(jī)制。算法偏誤檢測機(jī)制適用于信用評分算法全生命周期。算法影響評估、評分異議與修復(fù)、算法審計(jì)機(jī)制，自信用評分算法進(jìn)入市場起啟動。算法備案機(jī)制適用于信用評分算法首次進(jìn)入市場運(yùn)行、發(fā)生重大修改兩種情形。

　　1.信用評分算法偏誤檢測機(jī)制

　　信用評分算法偏誤檢測屬于全過程的風(fēng)險(xiǎn)分配機(jī)制。作為平臺企業(yè)內(nèi)部管理手段，其旨在實(shí)現(xiàn)對信用評分算法設(shè)計(jì)與開發(fā)的定期監(jiān)控，包括：①由監(jiān)管部門提供統(tǒng)一的格式文本，要求平臺完整、無遺漏地對信用評分算法設(shè)計(jì)與開發(fā)的各個(gè)環(huán)節(jié)做出算法偏差可能性的自查檢測。②以書面形式做出，作為企業(yè)的重要檔案文件長期留存。③對市場占有率高、影響范圍大的信用評分算法實(shí)施更頻繁的定期偏誤檢測。④檢測用于訓(xùn)練信用評分算法的信息數(shù)據(jù)樣本，避免在機(jī)器學(xué)習(xí)和特征選擇階段使用的信息數(shù)據(jù)集無意識地偏向特定群體。⑤偏誤檢測報(bào)告應(yīng)當(dāng)采取平實(shí)、清晰、可理解的表達(dá)方式，避免導(dǎo)致因各方技術(shù)差距而造成徒具形式的檢測結(jié)果。

　　在發(fā)生信用評分異議時(shí)，平臺應(yīng)當(dāng)先行實(shí)施信用評分算法偏誤檢測，努力與個(gè)人協(xié)商解決。個(gè)人要求平臺對信用評分算法的機(jī)理進(jìn)行解釋，應(yīng)當(dāng)舉證信用評分算法運(yùn)行結(jié)果對自身權(quán)益造成了重大影響。平臺應(yīng)在法定期限內(nèi)履行解釋義務(wù)。當(dāng)個(gè)人無法獲得解釋，或在平臺解釋后仍存在異議的，應(yīng)允許其拒絕評分并尋求行政救濟(jì)或司法救濟(jì)。此外，鼓勵(lì)市場主體建立信用評分算法自律組織，就信用評分算法的技術(shù)標(biāo)準(zhǔn)、設(shè)計(jì)流程、準(zhǔn)確程度、潛在風(fēng)險(xiǎn)設(shè)置不同的認(rèn)證等級，形成梯度的處罰措施。自律管理情況應(yīng)定期向公眾披露。

　　2.信用評分算法影響評估機(jī)制

　　信用評分算法影響評估強(qiáng)調(diào)損害預(yù)防，指按照信用評分算法可能影響的人數(shù)規(guī)模、市場范圍、終端設(shè)備等指標(biāo)，分析信用評分算法開發(fā)與應(yīng)用中可能發(fā)生的技術(shù)風(fēng)險(xiǎn)與防范方法，劃分為若干風(fēng)險(xiǎn)層次，施以不同強(qiáng)度的監(jiān)督。平臺需圍繞信用評分算法解釋性說明、風(fēng)險(xiǎn)評估、應(yīng)對預(yù)案三項(xiàng)要點(diǎn)，建立信用評分算法影響評估程序。當(dāng)平臺發(fā)現(xiàn)無法減輕的信用評分算法高風(fēng)險(xiǎn)時(shí)，需在開始處理風(fēng)險(xiǎn)前，向監(jiān)管部門及時(shí)匯報(bào)與咨詢。信用評分算法風(fēng)險(xiǎn)評估結(jié)果應(yīng)當(dāng)形成書面報(bào)告，經(jīng)平臺的專門責(zé)任人發(fā)表書面意見后，向社會公眾公開披露，并受監(jiān)管部門審查。

　　監(jiān)管機(jī)構(gòu)則應(yīng)采取標(biāo)準(zhǔn)化方法科學(xué)地評估信用評分算法影響程度。至少包括以下兩方面：①明確平臺啟動信用評分算法影響評估程序的條件。《信息安全技術(shù)個(gè)人信息安全規(guī)范》將處理“超過100萬人的個(gè)人信息”作為風(fēng)險(xiǎn)評估觸發(fā)點(diǎn)，與域外監(jiān)管實(shí)踐相比，判定標(biāo)準(zhǔn)比較單一且有待豐富。②科學(xué)界定信用評分算法的風(fēng)險(xiǎn)等級。尤其是對于具有維護(hù)公共利益性質(zhì)、涉及敏感個(gè)人信息、運(yùn)用與影響范圍較大的信用評分算法，應(yīng)由平臺依據(jù)個(gè)人信息保護(hù)規(guī)則自行評估，監(jiān)管部門審查評估結(jié)果。

　　3.信用評分異議與修復(fù)機(jī)制

　　信用評分異議與修復(fù)機(jī)制強(qiáng)調(diào)損害發(fā)生后的救濟(jì)，要求以信用宣傳教育為起點(diǎn)，允許個(gè)人便利提出信用評分異議，直觀跟蹤異議處理過程，免費(fèi)獲取信用評分凍結(jié)服務(wù)。具體而言：①平臺在信用評分算法啟動前向個(gè)人明確地告知算法設(shè)計(jì)目的、功能、潛在影響、個(gè)人合法權(quán)益、程序性保障措施與救濟(jì)方式。②在監(jiān)管部門與自律組織官方網(wǎng)頁的顯著位置，采用簡潔易懂的語言，通過問答或指引方式開設(shè)信用教育專欄，提供有關(guān)信用評分算法的基礎(chǔ)信息。③允許具有公信力的第三方開發(fā)信用評分異議處理系統(tǒng)，便利個(gè)人提出異議申請。④完善信用評分異議處理流程，標(biāo)記異議信用評分，在限定期限內(nèi)由平臺實(shí)施自查、刪除、更正、補(bǔ)足信息、評分凍結(jié)、通知與備案程序。在特定條件下，平臺可就評分凍結(jié)行為獲得合理對價(jià)。個(gè)人存在異議的，有權(quán)向監(jiān)管部門提出申訴、復(fù)議或訴訟。⑤自律組織明確信用修復(fù)機(jī)構(gòu)的資質(zhì)，定期考核信用修復(fù)機(jī)構(gòu)的執(zhí)業(yè)情況。

　　4.信用評分算法備案機(jī)制

　　信用評分算法備案針對特定情形適用，即信用評分算法初始進(jìn)入市場運(yùn)行和信用評分算法重大修改兩種情形。信用評分算法的披露對象應(yīng)當(dāng)限于中國人民銀行及個(gè)人信息保護(hù)管理部門。根據(jù)信用評分算法的影響程度不同，采取行政備案方式或自助登記方式加以披露，其原因如下：①信用評分具有個(gè)人征信的本質(zhì)屬性，有必要納入中國人民銀行監(jiān)管范疇，理順監(jiān)管邏輯。②有助于借助平臺開發(fā)的成熟技術(shù)，及時(shí)提升大數(shù)據(jù)監(jiān)管能力，避免中國人民銀行原有的個(gè)人信用信息數(shù)據(jù)庫淪為堰塞湖。③有助于中國人民銀行調(diào)動必要的技術(shù)資源聚焦微觀風(fēng)險(xiǎn)評估領(lǐng)域。④有助于激勵(lì)平臺不斷提升信用評分算法創(chuàng)新能力，客觀上打破平臺技術(shù)壟斷形成的“專利叢林”。⑤信用評分算法不能脫離個(gè)人信息單獨(dú)發(fā)揮作用，有必要納入個(gè)人信息保護(hù)監(jiān)管范疇。

　　此外，還應(yīng)明確信用評分算法的備案內(nèi)容。參考《關(guān)于規(guī)范金融機(jī)構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》中有關(guān)智能投資顧問算法的行政備案要求，除披露信用評分算法的一般解釋性內(nèi)容以外，平臺還應(yīng)向個(gè)人信息保護(hù)管理部門與中國人民銀行備案信用評分算法主要參數(shù)、主要運(yùn)行邏輯與技術(shù)人員。其中，技術(shù)人員包括信用評分算法開發(fā)的實(shí)施人員、管理人員、審查人員、負(fù)責(zé)任的高級管理人員，對上述人員應(yīng)采取注冊制管理。在平臺對信用評分算法的程序、方法等做出重大修改時(shí)，應(yīng)當(dāng)披露變動原因，向前述監(jiān)管部門書面說明變動合理性。

　　5.信用評分算法審計(jì)機(jī)制

　　信用評分算法審計(jì)則屬于兜底性風(fēng)險(xiǎn)分配措施，分為外部審計(jì)與內(nèi)部審計(jì)兩種機(jī)制。就外部審計(jì)而言，應(yīng)由第三方技術(shù)團(tuán)體或研究機(jī)構(gòu)，根據(jù)法律法規(guī)與監(jiān)管要求檢查信用評分算法風(fēng)險(xiǎn)，發(fā)布報(bào)告，提出建議。內(nèi)部審計(jì)則應(yīng)參考國際通行的“三道防線”公司治理結(jié)構(gòu)，在平臺內(nèi)部建立信用評分算法審計(jì)機(jī)制。信用評分算法內(nèi)部審計(jì)人員職責(zé)涵蓋信用評分算法與信息數(shù)據(jù)風(fēng)險(xiǎn)管理的全部要素，包括風(fēng)險(xiǎn)識別、風(fēng)險(xiǎn)動態(tài)評估和響應(yīng)、風(fēng)險(xiǎn)事件溝通，以及企業(yè)信息與數(shù)據(jù)安全戰(zhàn)略、道德、運(yùn)營、報(bào)告、合規(guī)。信用評分算法內(nèi)部審計(jì)人員應(yīng)能獨(dú)立開展審計(jì)工作，充分理解信用評分算法，就信息數(shù)據(jù)保護(hù)與信用評分算法治理機(jī)制的有效性向管理層提供意見，做出評估，預(yù)防風(fēng)險(xiǎn)。

　?。ǘ┊a(chǎn)品責(zé)任制度中的利益協(xié)調(diào)方法

　　1.信用評分算法的責(zé)任主體

　　需要再次明確的是，信用評分算法缺陷的責(zé)任主體應(yīng)為平臺。平臺不是傳統(tǒng)上在生產(chǎn)與再生產(chǎn)環(huán)節(jié)具有明確邊界的組織實(shí)體。然而，平臺技術(shù)架構(gòu)的有效運(yùn)行依賴能夠反映實(shí)際控制人意志的公司治理。只有從辨別實(shí)際控制人入手，才能清晰地劃定平臺的組織邊界。故本文采取更具整體性的視角，將同一實(shí)際控制關(guān)系下的平臺企業(yè)集團(tuán)作為信用評分算法缺陷的歸責(zé)主體。具言之，平臺承擔(dān)信用評分算法產(chǎn)品責(zé)任由以下兩方面因素決定。

　　首先，信用評分算法輸出的信用評判結(jié)果無法脫離平臺的利益考量。信用價(jià)值取決于社會文化背景，具有豐富的道德意義和開放的概念體系。這使得信用的內(nèi)涵極具變動性，因時(shí)而異，因行為主體而異。信用評分是平臺利用大數(shù)據(jù)與人工智能技術(shù)開展的信息處理活動。信用評分算法作為平臺的信息處理工具，其運(yùn)行必須依賴程序員的參與和技術(shù)專家的監(jiān)督。程序員和技術(shù)專家有關(guān)信用價(jià)值的認(rèn)知均由平臺塑造。兩者皆難以成為獨(dú)立于平臺的生產(chǎn)者。可見，信用評價(jià)算法在存在意義上是中性的，在主體層面和對象層面卻完全融入了平臺的價(jià)值判斷。

　　其次，平臺承擔(dān)產(chǎn)品責(zé)任是因應(yīng)侵權(quán)行為法現(xiàn)代化調(diào)適的必然要求。侵權(quán)行為法上的社會安全義務(wù)引導(dǎo)生產(chǎn)者趨利避害，在交易中應(yīng)注意保護(hù)他人權(quán)益。在信用評分算法治理語境中，產(chǎn)品責(zé)任制度亦具有保障人民安全、增強(qiáng)數(shù)字信用的重要功能。產(chǎn)品責(zé)任制度發(fā)端于信息社會之前。傳統(tǒng)產(chǎn)品一經(jīng)銷售，生產(chǎn)者即喪失占有與控制的能力。而在信息社會中，平臺對信用評分算法的控制遠(yuǎn)超個(gè)人。平臺在信用評分算法的開發(fā)、設(shè)計(jì)、應(yīng)用與優(yōu)化等諸多方面具有更強(qiáng)的支配力，產(chǎn)生了新的危險(xiǎn)。按照預(yù)見可能性理論，信用評分算法運(yùn)行的風(fēng)險(xiǎn)屬于平臺的管轄范疇，應(yīng)當(dāng)由平臺對風(fēng)險(xiǎn)及由此產(chǎn)生的結(jié)果負(fù)責(zé)。在證據(jù)規(guī)則方面還可做進(jìn)一步的調(diào)整，以適應(yīng)信息社會的發(fā)展演變。

　　在此基礎(chǔ)上，產(chǎn)品責(zé)任制度立法升級的整體思路是：將信用評分算法缺陷歸納為設(shè)計(jì)缺陷、警示缺陷與跟蹤觀察缺陷三種類型，與信用評分算法的主要運(yùn)行環(huán)節(jié)相對應(yīng)。信用評分算法缺陷的判斷應(yīng)以存在威脅人身安全與財(cái)產(chǎn)安全的不合理危險(xiǎn)為原則。由于個(gè)人的實(shí)際損失可較為直觀地觀察，為避免規(guī)則適用沖突應(yīng)沿用相當(dāng)因果關(guān)系理論。在缺陷認(rèn)定方面，應(yīng)以信用評分算法檢測、信用評分算法影響評估、信用評分異議分別作為未上市的信用評分算法設(shè)計(jì)缺陷、信用評分算法警示缺陷、信用評分算法跟蹤觀察缺陷的檢測時(shí)點(diǎn)。對于已正式上市的信用評分算法，判斷其設(shè)計(jì)缺陷是否存在，應(yīng)考察平臺是否遵守了算法規(guī)制的各項(xiàng)內(nèi)容。在舉證責(zé)任分配方面，應(yīng)采取舉證責(zé)任倒置的方式，但可為平臺設(shè)置較為寬松的證明方式。

　　2.信用評分算法設(shè)計(jì)缺陷的識別與認(rèn)定

　　以“風(fēng)險(xiǎn)-效能標(biāo)準(zhǔn)”作為信用評分算法設(shè)計(jì)缺陷的判斷依據(jù)?！帮L(fēng)險(xiǎn)-效能標(biāo)準(zhǔn)”比較信用評分算法設(shè)計(jì)的有用性與危險(xiǎn)性，檢視在費(fèi)用未明顯增加的前提下，平臺是否履行合理的注意義務(wù)與采取適當(dāng)?shù)谋Ｕ洗胧?，確保信用評分算法具有合理與最優(yōu)的性能。否則，信用評分算法即具有設(shè)計(jì)缺陷。在“風(fēng)險(xiǎn)-效能標(biāo)準(zhǔn)”的適用中，域外實(shí)踐大多要求原告提供合理的替代性方案來證明缺陷存在。個(gè)人在證明信用評分算法設(shè)計(jì)明顯不合理、提出技術(shù)上可行的替代方案時(shí)，顯著地缺乏能力。因此，采取“風(fēng)險(xiǎn)-效能標(biāo)準(zhǔn)”需采取符合個(gè)人技術(shù)能力的制度設(shè)計(jì)，促使個(gè)人合理利用信用評分算法規(guī)制的內(nèi)容。

　　根據(jù)信用評分算法的運(yùn)行階段不同，劃分為兩種認(rèn)定方法。第一，在信用評分算法僅向少數(shù)人開放的測試階段，信用評分算法檢驗(yàn)制度可為算法設(shè)計(jì)缺陷的發(fā)現(xiàn)與認(rèn)定提供準(zhǔn)據(jù)，與個(gè)人的技術(shù)能力相當(dāng)。信用評分算法檢驗(yàn)制度要求平臺在信用評分算法正式進(jìn)入市場前，對其進(jìn)行全面的調(diào)適與改進(jìn)，采用經(jīng)行業(yè)認(rèn)證的先進(jìn)而安全的技術(shù)，解決信用評分算法在樣本標(biāo)記、變量擇取與軟硬件設(shè)施等方面的缺陷。信用評分算法檢驗(yàn)制度能夠提供標(biāo)準(zhǔn)化的自查報(bào)告與認(rèn)證報(bào)告，協(xié)助個(gè)人判斷信用評分算法是否經(jīng)合理設(shè)計(jì)，提出信用評分算法的合理替代方案。第二，在信用評分算法完全開放的正式運(yùn)行階段，設(shè)計(jì)缺陷仍可能不斷地涌現(xiàn)與獲得改進(jìn)。個(gè)人應(yīng)考察平臺是否已按照信用評分算法規(guī)制框架的要求，在發(fā)現(xiàn)設(shè)計(jì)缺陷的每個(gè)時(shí)點(diǎn)，都相應(yīng)地采取措施彌補(bǔ)，否則即可主張信用評分算法存在設(shè)計(jì)缺陷。

　　3.信用評分算法警示缺陷的認(rèn)定

　　信用評分算法影響評估制度可為信用評分算法的警示缺陷提供認(rèn)定依據(jù)。信用評分算法警示缺陷的規(guī)避，要求平臺以警示發(fā)生前的最新技術(shù)水平充分預(yù)知信用評分算法運(yùn)行引致的風(fēng)險(xiǎn)類型，在技術(shù)升級后及時(shí)預(yù)見新風(fēng)險(xiǎn)并更新警示內(nèi)容。對此，信用評分算法影響評估制度正是建立在技術(shù)的動態(tài)發(fā)展進(jìn)程上，能夠促使平臺不斷地調(diào)整信用評分算法的風(fēng)險(xiǎn)等級與治理策略。這樣既便利平臺在履行“修改設(shè)計(jì)以消除危險(xiǎn)”的義務(wù)時(shí)謹(jǐn)慎地權(quán)衡邊際收益與邊際成本，也有助于個(gè)人借助平臺披露的應(yīng)對預(yù)案，識別信用評分算法是否具有警示缺陷。

　　4.信用評分算法跟蹤觀察缺陷的認(rèn)定

　　信用評分異議制度可為信用評分算法的跟蹤觀察缺陷設(shè)置固定的檢測時(shí)點(diǎn)。信用評分算法跟蹤觀察缺陷的解決，要求平臺在信用評分算法運(yùn)行中采取檢測記錄、信息傳遞等反應(yīng)行為，及時(shí)將信用評分異議反饋至技術(shù)人員解決。信用評分算法跟蹤觀察缺陷需要設(shè)置固定的檢測時(shí)點(diǎn)，以防止機(jī)器學(xué)習(xí)產(chǎn)生的異化難以及時(shí)地獲得觀察與修正。在信用評分異議制度中，異議申請、評分凍結(jié)、評分解凍與評分申訴均可為平臺跟蹤與觀察信用評分算法缺陷設(shè)置有意義的節(jié)點(diǎn)，為平臺判斷能否修復(fù)信用評分算法缺陷、如何更新缺陷修復(fù)程序、何時(shí)增加新風(fēng)險(xiǎn)警示提供必要的標(biāo)識。

　?、敌庞迷u分算法致害的舉證責(zé)任分配規(guī)則

　　法律不能無視損害的發(fā)生，必須在侵害人與受害人之間分配責(zé)任的最終承擔(dān)方式。對于新興科技的設(shè)計(jì)、開發(fā)與生產(chǎn)者，應(yīng)當(dāng)通過法律機(jī)制的合理設(shè)計(jì)，既督促其負(fù)責(zé)任地開展創(chuàng)新，又給予其恰當(dāng)?shù)膶捜菖c激勵(lì)。鑒于新興科技的復(fù)雜程度與日俱增，多數(shù)觀點(diǎn)認(rèn)為應(yīng)將產(chǎn)品致害的舉證責(zé)任分配給生產(chǎn)者。在信用評分算法運(yùn)行中，個(gè)人受技術(shù)水平的限制更嚴(yán)重，而平臺對信用評分算法缺陷的預(yù)見與控制程度更高。故確有必要將信用評分算法致害的舉證責(zé)任分配給平臺，采用舉證責(zé)任倒置規(guī)則，由平臺承擔(dān)信用評分算法不會引起損害的證明責(zé)任。

　　然而，信用評分算法致害的證明規(guī)則亟待突破?！懂a(chǎn)品質(zhì)量法》未對信用評分算法的產(chǎn)品標(biāo)準(zhǔn)做出規(guī)定，相關(guān)國家標(biāo)準(zhǔn)與行業(yè)標(biāo)準(zhǔn)亦未出臺。而相關(guān)標(biāo)準(zhǔn)的出臺始終面臨因來自平臺的技術(shù)專家必須參與論證過程，而受制于行業(yè)利益訴求的風(fēng)險(xiǎn)。故此，根據(jù)信用評分算法運(yùn)行的不同進(jìn)程，平臺就信用評分算法致害的證明規(guī)則可進(jìn)一步分為兩個(gè)層次。第一個(gè)層次是在信用評分算法未正式上市前，平臺舉證已符合信用評分算法檢測機(jī)制的要求，即可完成證明責(zé)任。第二個(gè)層次是在信用評分算法正式上市后，平臺舉證已符合信用評分算法規(guī)制的各項(xiàng)規(guī)定時(shí)，即可推定信用評分算法運(yùn)行不構(gòu)成產(chǎn)品致害行為。

　　四、結(jié)論

　　信用評分算法的治理是高度技術(shù)化的工作，需要形成與其運(yùn)行機(jī)理、行為特征、本質(zhì)屬性、價(jià)值功能相匹配的安排。隨著人類技術(shù)能力的不斷提升，人工智能與大數(shù)據(jù)技術(shù)深入開發(fā)必然帶來更多的技術(shù)應(yīng)用空間與技術(shù)規(guī)制問題。因此，信用評分算法的治理方案設(shè)計(jì)需要考慮各種已知的與潛在的風(fēng)險(xiǎn)因素，并隨著數(shù)字經(jīng)濟(jì)生產(chǎn)方式的發(fā)展而適時(shí)調(diào)整。

　　本文提出的治理方案，建立在算法規(guī)制結(jié)合產(chǎn)品責(zé)任的信用治理邏輯基礎(chǔ)上，將可緩解當(dāng)前治理實(shí)踐中的利益與風(fēng)險(xiǎn)失衡。雖因涉及多重主體而存在一定的實(shí)施困難，但具有更為清晰的治理框架、更加豐富的治理層次與預(yù)期有效的治理效果。該治理方案建立在“監(jiān)管主體-平臺-個(gè)人”結(jié)構(gòu)上，由三項(xiàng)主要的法律關(guān)系構(gòu)成：①在平臺與個(gè)人的數(shù)字信用治理關(guān)系中，通過改造后的產(chǎn)品責(zé)任制度權(quán)衡主體利益，由平臺作為產(chǎn)品責(zé)任承擔(dān)主體；②在個(gè)人與監(jiān)管主體的數(shù)字信用救濟(jì)關(guān)系中，保障個(gè)人在信用評分算法運(yùn)行全過程獲得充分的救濟(jì)，在最關(guān)鍵的信用評分異議與修復(fù)環(huán)節(jié)形成平臺救濟(jì)、平臺監(jiān)管部門救濟(jì)、司法救濟(jì)三重保障機(jī)制；③在監(jiān)管主體與平臺的數(shù)字信用監(jiān)管關(guān)系中，充分發(fā)揮中國人民銀行、個(gè)人信息保護(hù)管理部門的行政職能。從風(fēng)險(xiǎn)評估與管理角度出發(fā)，還應(yīng)將自律組織、公共組織、獲得特別經(jīng)營許可資質(zhì)的私人組織等社會主體納入該治理方案，形成數(shù)字信用共治機(jī)制，更加精確地防范信用評分算法運(yùn)用帶來的風(fēng)險(xiǎn)。

　?。ū疚脑d于《電子政務(wù)》2022年6月8日網(wǎng)絡(luò)首發(fā)版，作者：楊帆，系上海師范大學(xué)哲學(xué)與法政學(xué)院講師，法學(xué)博士）