歐洲人工智能監(jiān)管沙盒帶來(lái)哪些啟示？

來(lái)源：人民郵電報(bào) 時(shí)間：2024-04-12 10:27:43 作者：

　　監(jiān)管沙盒是一種針對(duì)技術(shù)創(chuàng)新的柔性監(jiān)管制度，既有利于企業(yè)技術(shù)創(chuàng)新實(shí)踐應(yīng)用，也有利于更早地發(fā)現(xiàn)前沿技術(shù)引發(fā)的合規(guī)風(fēng)險(xiǎn)。2024年3月正式獲批通過(guò)的歐盟《人工智能法案》引入這一制度，通過(guò)在開(kāi)發(fā)和上市前階段建立受控環(huán)境來(lái)促進(jìn)人工智能創(chuàng)新。目前歐洲已有多個(gè)國(guó)家在積極推進(jìn)人工智能監(jiān)管沙盒試點(diǎn)。

　　監(jiān)管沙盒的理念和作用

　　2015年，英國(guó)金融行為監(jiān)管局（FCA）在《監(jiān)管沙盒》報(bào)告中提出了監(jiān)管沙盒的概念，并于2016年正式啟動(dòng)。按照FCA的定義，監(jiān)管沙盒是一個(gè)“安全空間”，企業(yè)可以在其中測(cè)試創(chuàng)新性的產(chǎn)品、服務(wù)、商業(yè)模式和交付機(jī)制，不會(huì)因從事相關(guān)活動(dòng)而立即招致通常的監(jiān)管后果。

　　監(jiān)管沙盒作為傳統(tǒng)監(jiān)管方式的有益補(bǔ)充，是一種針對(duì)技術(shù)創(chuàng)新的柔性監(jiān)管制度，實(shí)際上是為企業(yè)提供一個(gè)測(cè)試平臺(tái)和測(cè)試周期，在不違反原則性準(zhǔn)入標(biāo)準(zhǔn)和監(jiān)管底線的基礎(chǔ)上，鼓勵(lì)企業(yè)在不完全掌握產(chǎn)品風(fēng)險(xiǎn)時(shí)，自愿開(kāi)展進(jìn)一步測(cè)試，最大限度地防范產(chǎn)品應(yīng)用風(fēng)險(xiǎn)。同時(shí)，提升監(jiān)管應(yīng)對(duì)風(fēng)險(xiǎn)的實(shí)時(shí)性、靈活性，防止監(jiān)管過(guò)嚴(yán)對(duì)科技創(chuàng)新的抑制，較好地平衡技術(shù)創(chuàng)新和安全風(fēng)險(xiǎn)，積極倡導(dǎo)最佳安全實(shí)踐。

　　監(jiān)管沙盒既有利于企業(yè)技術(shù)創(chuàng)新實(shí)踐應(yīng)用，也有利于更早地發(fā)現(xiàn)前沿技術(shù)引發(fā)的合規(guī)風(fēng)險(xiǎn)。該制度起源于英國(guó)，近年來(lái)已有多個(gè)國(guó)家和地區(qū)在多個(gè)領(lǐng)域積極推進(jìn)實(shí)施，目前我國(guó)已在金融科技和汽車(chē)安全等領(lǐng)域試行該制度，北京市也于近期開(kāi)展AI監(jiān)管沙盒試點(diǎn)。

　　歐盟《人工智能法案》中的監(jiān)管沙盒

　　歐盟《人工智能法案》（以下簡(jiǎn)稱《法案》）第六章“支持創(chuàng)新的措施”，明確了建立AI監(jiān)管沙盒的相關(guān)要求。

　　“AI監(jiān)管沙盒”是指由主管機(jī)關(guān)建立的受控框架，該框架為AI系統(tǒng)的提供者或潛在提供者提供了在監(jiān)管監(jiān)督下依據(jù)沙盒計(jì)劃在有限時(shí)間內(nèi)開(kāi)發(fā)、訓(xùn)練、驗(yàn)證和測(cè)試（適當(dāng)情況時(shí)在真實(shí)世界條件下）創(chuàng)新性AI系統(tǒng)的可能性?！吧澈杏?jì)劃”是指參與的提供者與主管機(jī)關(guān)之間商定的文件，其中描述了在沙盒內(nèi)開(kāi)展活動(dòng)的目標(biāo)、條件、時(shí)間框架、方法和要求。

　　建立AI監(jiān)管沙盒應(yīng)旨在促進(jìn)實(shí)現(xiàn)以下目標(biāo)：提高法律確定性，以實(shí)現(xiàn)對(duì)本法案或相關(guān)情況下其他適用的歐盟和成員國(guó)法律的合規(guī)；通過(guò)與參與AI監(jiān)管沙盒的機(jī)構(gòu)合作，支持分享最佳實(shí)踐；促進(jìn)創(chuàng)新和提升競(jìng)爭(zhēng)力，推動(dòng)AI生態(tài)系統(tǒng)的發(fā)展；促進(jìn)基于實(shí)證的監(jiān)管學(xué)習(xí)；促進(jìn)和加快AI系統(tǒng)進(jìn)入歐盟市場(chǎng)，特別是由包括初創(chuàng)企業(yè)在內(nèi)的中小企業(yè)提供的AI系統(tǒng)。

歐盟人工智能監(jiān)管沙盒還具備若干突出特點(diǎn)（見(jiàn)表）。

　　歐洲人工智能監(jiān)管沙盒進(jìn)展

　　目前，歐盟成員國(guó)的西班牙、法國(guó)，非歐盟成員國(guó)的挪威、英國(guó)、瑞士，已在籌劃或開(kāi)展AI監(jiān)管沙盒的試點(diǎn)。

　　2023年11月，歐盟輪值主席國(guó)西班牙發(fā)布皇家法令，批準(zhǔn)建立第一個(gè)歐盟AI監(jiān)管沙盒，使得私營(yíng)和公共部門(mén)組織能夠在《法案》生效前根據(jù)《法案》要求測(cè)試其AI系統(tǒng)。該監(jiān)管沙盒得到了歐盟委員會(huì)的支持，預(yù)計(jì)有助于后續(xù)合規(guī)性監(jiān)管和新技術(shù)指南的制定。

　　法國(guó)數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)CNIL（國(guó)家信息自由委員會(huì)）從2021年開(kāi)始，每年圍繞一個(gè)主題征集創(chuàng)新項(xiàng)目并以“沙盒”方式提供法律和技術(shù)支持。前三期的主題分別是健康數(shù)據(jù)、數(shù)字教育工具、改善公共服務(wù)的AI，前兩期主題也都有AI項(xiàng)目入選。不過(guò)CNIL特別強(qiáng)調(diào)，這些“沙盒”并非監(jiān)管沙盒。

　　2023年5月，挪威數(shù)據(jù)保護(hù)局（DPA）發(fā)布了公共交通公司Ruter的AI監(jiān)管沙盒項(xiàng)目最終報(bào)告。Ruter計(jì)劃在其運(yùn)營(yíng)的應(yīng)用中上線推薦出行方式的AI算法，為此需在監(jiān)管沙盒中評(píng)估這一功能的風(fēng)險(xiǎn)，特別是個(gè)人數(shù)據(jù)保護(hù)的風(fēng)險(xiǎn)。報(bào)告細(xì)致地評(píng)估了算法在研發(fā)和使用階段產(chǎn)生的風(fēng)險(xiǎn)。

　　2022年，瑞士蘇黎世州選擇5個(gè)項(xiàng)目進(jìn)行AI創(chuàng)新沙盒試點(diǎn)，旨在通過(guò)允許公共行政部門(mén)和參與組織在監(jiān)管問(wèn)題上密切合作并啟用新數(shù)據(jù)源來(lái)促進(jìn)負(fù)責(zé)任的創(chuàng)新。首批5家企業(yè)分別從事自動(dòng)駕駛系統(tǒng)、無(wú)人機(jī)基礎(chǔ)設(shè)施維護(hù)、作業(yè)自動(dòng)批改、機(jī)器翻譯和城市智能停車(chē)等領(lǐng)域的研發(fā)。試點(diǎn)計(jì)劃持續(xù)至2024年4月，第二次項(xiàng)目征集于2024年3—5月進(jìn)行。

　　2023年3月，英國(guó)財(cái)政大臣杰里米·亨特證實(shí)，政府將支持前首席科學(xué)顧問(wèn)帕特里克·瓦蘭斯爵士在其“支持?jǐn)?shù)字技術(shù)創(chuàng)新監(jiān)管”審查中提出的建立AI沙盒的建議，開(kāi)發(fā)監(jiān)管沙盒并在不同監(jiān)管機(jī)構(gòu)之間運(yùn)行。2023年10月，英國(guó)藥品與保健品管理局宣布正在推進(jìn)監(jiān)管沙盒AIAirlock研發(fā)，為AI開(kāi)發(fā)人員提供一個(gè)受監(jiān)管機(jī)構(gòu)監(jiān)控的虛擬區(qū)域，預(yù)計(jì)于2024年4月推出。

　　歐洲經(jīng)驗(yàn)帶來(lái)的啟示與建議

　　監(jiān)管沙盒有利于促進(jìn)監(jiān)管與發(fā)展的動(dòng)態(tài)平衡。監(jiān)管沙盒制度為入盒企業(yè)提供進(jìn)行開(kāi)發(fā)、訓(xùn)練、驗(yàn)證和測(cè)試的試驗(yàn)性受控環(huán)境，一方面可以加快AI產(chǎn)品和服務(wù)的上市速度，另一方面可以為監(jiān)管規(guī)則的制定提供動(dòng)態(tài)檢驗(yàn)機(jī)制。因此，我國(guó)應(yīng)積極探索AI沙盒監(jiān)管制度，在準(zhǔn)入機(jī)制、風(fēng)險(xiǎn)管理、合規(guī)責(zé)任等方面向相關(guān)主體提供相應(yīng)便利、激勵(lì)或者責(zé)任減免，為人工智能產(chǎn)業(yè)發(fā)展提供寬松環(huán)境；借鑒我國(guó)在金融科技監(jiān)管沙盒和汽車(chē)安全監(jiān)管沙盒等領(lǐng)域的創(chuàng)新實(shí)踐，開(kāi)展包容審慎的監(jiān)管試點(diǎn)。

　　多元協(xié)同、統(tǒng)一性、標(biāo)準(zhǔn)化是推進(jìn)AI沙盒監(jiān)管的三個(gè)關(guān)鍵。一是因?yàn)锳I產(chǎn)品和服務(wù)非常復(fù)雜且牽涉廣泛，監(jiān)管沙盒應(yīng)與其他監(jiān)管機(jī)制相結(jié)合，需實(shí)現(xiàn)多領(lǐng)域、多利益相關(guān)方的合作，包括國(guó)際合作與協(xié)調(diào)。二是需要在AI監(jiān)管沙盒的建立、開(kāi)發(fā)、實(shí)施、運(yùn)行和監(jiān)督等方面確立統(tǒng)一的規(guī)范制度。三是一方面監(jiān)管沙盒的運(yùn)作要以完善的AI標(biāo)準(zhǔn)體系為基礎(chǔ)，另一方面要形成透明公開(kāi)的入盒標(biāo)準(zhǔn)、合格標(biāo)準(zhǔn)以及標(biāo)準(zhǔn)化的測(cè)試流程。

　　監(jiān)管沙盒并非萬(wàn)能靈藥。一是監(jiān)管沙盒僅適用于AI系統(tǒng)開(kāi)發(fā)與上市前的有限時(shí)間段。盡管AI系統(tǒng)提供者在AI系統(tǒng)出盒后仍需履行相關(guān)法律規(guī)定的合規(guī)義務(wù)，但監(jiān)管沙盒由于其試驗(yàn)性質(zhì)及“有限空間、有限技術(shù)和有限測(cè)試時(shí)間”的特征，可能并不能滿足AI系統(tǒng)部署后面臨的場(chǎng)景復(fù)雜性與多樣性。二是加入沙盒不代表責(zé)任的完全豁免，企業(yè)需自證善意合規(guī)。監(jiān)管沙盒機(jī)制雖然為促進(jìn)創(chuàng)新提供了立法背書(shū)，但對(duì)沙盒參與者可能面臨的法律責(zé)任只能提供有限的保護(hù)機(jī)制，在實(shí)踐中AI系統(tǒng)提供者可能仍會(huì)面臨自證行為合規(guī)帶來(lái)的大量時(shí)間與經(jīng)濟(jì)成本。

責(zé)任編輯：張薇