人工智能法示范法 1.0（專家建議稿）
來源：中國社會(huì)科學(xué)院法學(xué)研究所 時(shí)間：2023-08-17 14:36:15 作者：
人工智能飛速發(fā)展，在為新一輪技術(shù)革命提供支撐的同時(shí)，也給社會(huì)帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。
自2017年以來，美國、歐盟、中國、加拿大、日本、新加坡等國家或地區(qū)陸續(xù)發(fā)布AI發(fā)展和治理的法律法規(guī)準(zhǔn)則，立法探索也歷經(jīng)從宏觀性準(zhǔn)則和戰(zhàn)略到條款逐漸細(xì)化的過程。
2022年，ChatGPT橫空出世，生成式人工智能的驚艷表現(xiàn)和其背后暗藏的新型風(fēng)向都被推至聚光燈下。美國、歐盟等紛紛出臺相關(guān)人工智能治理文件，以應(yīng)對這一新生事物的機(jī)遇和挑戰(zhàn)。各國如何通過從法律的角度回應(yīng)人工智能發(fā)展過程中提出的一系列新問題？我國又將如何通過立法構(gòu)建具有中國特色的人工智能治理路徑？
近日，由中國社會(huì)科學(xué)院法學(xué)研究所主辦，中國社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室、南財(cái)合規(guī)科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會(huì)在北京舉行。會(huì)上，中國社會(huì)科學(xué)院國情調(diào)研重大項(xiàng)目《我國人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研》課題組（以下簡稱“課題組”）主持人、中國社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝正式發(fā)布《人工智能法（示范法）》（以下簡稱《示范法》）。
《示范法》涵蓋總則、工智能支持與促進(jìn)、人工智能管理制度、人工智能研發(fā)者和提供者義務(wù)、人工智能綜合治理機(jī)制、法律責(zé)任和附則七大章節(jié)?？傮w來看，《示范法》堅(jiān)持發(fā)展與安全并行的中國式治理思路，提出了負(fù)面清單管理等治理制度，并對人工智能產(chǎn)業(yè)鏈條各主體責(zé)任義務(wù)分配等核心問題進(jìn)行了回應(yīng)。
起草說明
一、起草背景
今年以來，以ChatGPT等產(chǎn)品為代表的生成式人工智能技術(shù)迅猛發(fā)展，為人工智能產(chǎn)業(yè)注入一針強(qiáng)心劑，引發(fā)新一輪人工智能革命。但同時(shí)，新技術(shù)新應(yīng)用也會(huì)帶來網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)等方面的風(fēng)險(xiǎn)。人工智能治理需要抓住技術(shù)發(fā)展機(jī)遇，科學(xué)合理推進(jìn)，以在未來新一輪科技革命和國際科技競爭中取得主動(dòng)權(quán)。目前，全球各主要經(jīng)濟(jì)體均在進(jìn)行實(shí)踐探索，嘗試構(gòu)建人工智能治理規(guī)則體系、話語體系。歐盟《人工智能法案》已進(jìn)入最終談判階段，該法案采用風(fēng)險(xiǎn)等級分類方式對人工智能進(jìn)行監(jiān)管，針對其中高風(fēng)險(xiǎn)類別規(guī)定了詳細(xì)的全流程風(fēng)險(xiǎn)管理措施，并引入了監(jiān)管沙盒等治理手段。美國雖尚未有成體系立法，但于2022年10月發(fā)布了《人工智能權(quán)利法案藍(lán)圖》，提出了安全有效的系統(tǒng)、算法歧視保護(hù)、數(shù)據(jù)隱私、通知和解釋、人工替代方案與后備等五項(xiàng)人工智能治理原則。在這一文件的基礎(chǔ)上，美國聯(lián)邦政府各部門、各州正在推進(jìn)政策制定或立法工作。
中國在2023年4月份就《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見，并于7月正式發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，率先就生成式人工智能監(jiān)管這一議題給出中國方案。此外，人工智能法也已被列入國務(wù)院2023年立法工作計(jì)劃。未來，中國如何通過立法在擁抱技術(shù)發(fā)展的同時(shí)有效規(guī)制風(fēng)險(xiǎn)，貢獻(xiàn)出具有中國特色的人工智能治理路徑，將受到國內(nèi)外各界的密切關(guān)注。
2023年上半年以來，在持續(xù)、長期追蹤研究人工智能發(fā)展、監(jiān)管的基礎(chǔ)上，中國社會(huì)科學(xué)院國情調(diào)研重大項(xiàng)目《我國人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研》課題組主持人、中國社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任周輝組織多方專家團(tuán)隊(duì)，經(jīng)多次調(diào)研、討論、修改，起草形成《人工智能法（示范法）》（以下簡稱《示范法》）?！妒痉斗ā妨⒆銜r(shí)代前沿，把握人工智能發(fā)展規(guī)律和全球治理趨勢，在為國家關(guān)立法提供參考的同時(shí)，也期待通過1.0、2.0、及至N.0的迭代討論，不斷適應(yīng)人工智能發(fā)展安全態(tài)勢，更好推動(dòng)凝聚依法發(fā)展和治理人工智能的共識。
二、起草思路與主要結(jié)構(gòu)
《示范法》分為六章，包括人工智能基本原則，促進(jìn)發(fā)展舉措、風(fēng)險(xiǎn)管理制度、主體責(zé)任分配、治理機(jī)制設(shè)計(jì)、法律責(zé)任。《示范法》堅(jiān)持中國式治理思路，既鼓勵(lì)技術(shù)發(fā)展，又堅(jiān)守安全底線，是具有綜合性、統(tǒng)轄性的立法設(shè)計(jì)。
第一章“總則”，闡明人工智能發(fā)展的基本原則，包括治理原則、人類自主原則、安全原則、透明可解釋、公平原則等。在總則確立的原則基礎(chǔ)上，下述各章將圍繞總則展開，并與相關(guān)條文呼應(yīng)。
第二章“人工智能發(fā)展”，抓住促進(jìn)發(fā)展這一“牛鼻子”，從基礎(chǔ)設(shè)施、人才培養(yǎng)、技術(shù)創(chuàng)新、體制機(jī)制支持等維度提出相應(yīng)制度規(guī)范，結(jié)合產(chǎn)業(yè)發(fā)展實(shí)際，采取有力措施鼓勵(lì)人工智能創(chuàng)新。本章還強(qiáng)調(diào)以國家機(jī)關(guān)的先行先試促進(jìn)人工智能的推廣應(yīng)用。
第三章“人工智能管理制度”，沿用近年來實(shí)踐證明較為可行的風(fēng)險(xiǎn)分類分級管理方式，對人工智能技術(shù)研發(fā)和提供活動(dòng)作出規(guī)定。起草組認(rèn)為，鑒于人工智能技術(shù)迭代迅速、未來發(fā)展?jié)摿^大，應(yīng)在監(jiān)管中適度予以放寬，不應(yīng)規(guī)定過重義務(wù)、設(shè)定過多限制。因此，起草組采用負(fù)面清單管理制度對人工智能進(jìn)行風(fēng)險(xiǎn)管理：負(fù)面清單內(nèi)的研發(fā)、提供活動(dòng)采取許可機(jī)制，實(shí)行事前監(jiān)管；負(fù)面清單外的研發(fā)、提供活動(dòng)則采取備案機(jī)制，實(shí)行事后監(jiān)管。這一設(shè)計(jì)旨在減輕人工智能研發(fā)、提供等活動(dòng)的審查、許可等環(huán)節(jié)成本，既有效防范關(guān)鍵風(fēng)險(xiǎn)，又容許創(chuàng)新發(fā)展。
第四章“人工智能研發(fā)者、提供者義務(wù)”，明確人工智能研發(fā)者、提供者應(yīng)承擔(dān)相應(yīng)合規(guī)義務(wù)，如保障公平性和可解釋性、進(jìn)行科技倫理審查和安全審查等，并且應(yīng)將安全義務(wù)貫穿于人工智能活動(dòng)整個(gè)生命周期，將人工智能治理的基本原則轉(zhuǎn)化為企業(yè)可落地、監(jiān)管可監(jiān)督的義務(wù)類型。同時(shí)，基于人工智能產(chǎn)業(yè)鏈中主體的復(fù)雜性，本章第二、第三節(jié)對人工智能研發(fā)者、提供者進(jìn)行了區(qū)分，依據(jù)其不同活動(dòng)特點(diǎn)分配主體義務(wù)。最后，結(jié)合本法前述條款設(shè)定的負(fù)面清單管理制度，本章針對負(fù)面清單內(nèi)的人工智能研發(fā)、提供活動(dòng)進(jìn)一步規(guī)定了相應(yīng)的義務(wù)類型，保障義務(wù)與風(fēng)險(xiǎn)一致，堅(jiān)守安全底線。
第五章“綜合治理機(jī)制”。本章銜接總則規(guī)定，明確國家人工智能主管機(jī)關(guān)職責(zé)，如統(tǒng)籌人工智能發(fā)展和管理，制定人工智能監(jiān)管規(guī)則、指引，組織制定人工智能倫理、安全、管理等方面標(biāo)準(zhǔn)，組織人工智能技術(shù)監(jiān)測、評估、審計(jì)工作等。此外，本章還提出創(chuàng)新監(jiān)管、協(xié)同監(jiān)管等機(jī)制，提高監(jiān)管效率和治理效能，加強(qiáng)多元主體溝通協(xié)作。
第六章“法律責(zé)任”，根據(jù)人工智能的風(fēng)險(xiǎn)活動(dòng)，設(shè)計(jì)相應(yīng)的法律責(zé)任。同時(shí)，本章兼顧發(fā)展導(dǎo)向，明確盡職免責(zé)等制度，以為人工智能創(chuàng)新活動(dòng)提供寬松政策環(huán)境。
三、示范法創(chuàng)新點(diǎn)
示范法起草團(tuán)隊(duì)成員長期研究人工智能發(fā)展與治理，根據(jù)人工智能的最新動(dòng)態(tài)著手起草工作，起草過程歷經(jīng)數(shù)月，充分結(jié)合產(chǎn)業(yè)發(fā)展動(dòng)態(tài)以及國內(nèi)外人工智能發(fā)展最新進(jìn)展。總體來看，起草說明具有如下創(chuàng)新點(diǎn)：
?。ㄒ唬┟鞔_人工智能主管機(jī)關(guān)
在示范法設(shè)計(jì)階段，就人工智能治理機(jī)制，起草組提出兩種思路：一是設(shè)置主管機(jī)關(guān)統(tǒng)籌人工智能發(fā)展與管理，二是根據(jù)此前各個(gè)部門職責(zé)，分行業(yè)、分領(lǐng)域?qū)嵤┲卫怼Ｗ罱K，起草組認(rèn)為應(yīng)以更高維度來對待人工智能治理問題，避免產(chǎn)生類似互聯(lián)網(wǎng)平臺治理等問題上“九龍治水”的困境，故創(chuàng)設(shè)性提出設(shè)置國家人工智能主管機(jī)關(guān)和地方人工智能主管機(jī)關(guān)，統(tǒng)籌負(fù)責(zé)全國范圍內(nèi)人工智能發(fā)展與管理工作。
?。ǘ﹦澝靼踩拙€
隨著商用化序幕拉開，人工智能帶來的“副作用”——虛假新聞、電信網(wǎng)絡(luò)詐騙、個(gè)人信息泄露等逐漸顯現(xiàn)。安全是發(fā)展的基礎(chǔ)，堅(jiān)守人工智能安全底線有利于構(gòu)建良好的行業(yè)氛圍、增進(jìn)社會(huì)公眾對人工智能的認(rèn)識與信任，也能更好在人工智能研發(fā)應(yīng)用過程中保護(hù)個(gè)人權(quán)利、公共利益和國家安全。
聚焦人工智能產(chǎn)業(yè)鏈治理難題。人工智能產(chǎn)業(yè)鏈包括訓(xùn)練數(shù)據(jù)處理、數(shù)據(jù)標(biāo)注、模型開發(fā)、算力基礎(chǔ)建設(shè)和落地服務(wù)場景等多個(gè)環(huán)節(jié)，包含了大量不同類型的行為主體，具有高度協(xié)作的特點(diǎn)。人工智能研發(fā)、提供和使用行為所造成的風(fēng)險(xiǎn)不僅影響行為者自身，還會(huì)沿產(chǎn)業(yè)鏈向其他合作方傳導(dǎo)，造成風(fēng)險(xiǎn)擴(kuò)散。尤其是，人工智能基礎(chǔ)模型在應(yīng)用體系中扮演重要角色，一旦出現(xiàn)相關(guān)風(fēng)險(xiǎn)，可能沿服務(wù)提供鏈條影響下游所有各類垂直細(xì)分場景的服務(wù)提供和使用。因此，起草團(tuán)隊(duì)抓住產(chǎn)業(yè)鏈關(guān)鍵環(huán)節(jié)，明確規(guī)定了基礎(chǔ)模型研發(fā)者應(yīng)遵循的義務(wù)，要求其制定使用規(guī)則、公平公正提供基礎(chǔ)模型、協(xié)助其他研發(fā)者、提供者履行相關(guān)義務(wù)、對嚴(yán)重違反示范法規(guī)定的其他主體采取措施等。同時(shí)，示范法還要求研發(fā)者和提供者之間應(yīng)當(dāng)密切配合，避免互相推諉責(zé)任的情形。
基于人工智能帶來的風(fēng)險(xiǎn)在當(dāng)前法律體系中增設(shè)義務(wù)。目前國內(nèi)在個(gè)人信息保護(hù)、數(shù)據(jù)安全、網(wǎng)絡(luò)安全、互聯(lián)網(wǎng)信息服務(wù)、知識產(chǎn)權(quán)、競爭法等方面已有清晰、成熟的法律制度體系，示范法則聚焦人工智能應(yīng)用過程可能造成的潛在風(fēng)險(xiǎn)，保障人工智能產(chǎn)品與服務(wù)的公開、透明、公平與可解釋，并依法進(jìn)行科技倫理審查。鑒于人工智能模型算法的運(yùn)行機(jī)制并不完全明晰，會(huì)產(chǎn)生“開悟”“涌現(xiàn)”現(xiàn)象，可能導(dǎo)致違背預(yù)期的結(jié)果。起草團(tuán)隊(duì)還要求相關(guān)主體在履行一般安全義務(wù)的同時(shí)，需保障人工智能的運(yùn)行結(jié)果符合預(yù)期，保證其服務(wù)的穩(wěn)定，確保人類對人工智能的監(jiān)督和控制，促進(jìn)技術(shù)向善。此外，示范法采取負(fù)面清單管理機(jī)制，明確將符合一定條件的人工智能研發(fā)、提供活動(dòng)納入清單，對清單內(nèi)活動(dòng)進(jìn)行事前監(jiān)管，并規(guī)定了相應(yīng)程序，賦予實(shí)施負(fù)面清單內(nèi)行為的主體以特別義務(wù)。
（三）促進(jìn)發(fā)展有實(shí)招
示范法堅(jiān)持發(fā)展方向，采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對人工智能服務(wù)實(shí)行包容審慎態(tài)度。相較于側(cè)重于懲罰性、管制類的立法，示范法更偏向于促進(jìn)發(fā)展，在制度設(shè)計(jì)上留出更多容錯(cuò)空間。
在第二章人工智能發(fā)展中，圍繞目前人工智能發(fā)展的關(guān)鍵環(huán)節(jié)：算力技術(shù)設(shè)施，算法和基礎(chǔ)模型創(chuàng)新、數(shù)據(jù)要素供給以及商業(yè)應(yīng)用創(chuàng)新，進(jìn)行了制度設(shè)計(jì)。
示范法采用前文所述負(fù)面清單監(jiān)管思路，也出于審慎監(jiān)管、包容發(fā)展的考量。在籌備階段，起草團(tuán)隊(duì)考慮借鑒歐盟風(fēng)險(xiǎn)分級管理思路設(shè)計(jì)我國監(jiān)管機(jī)制，但歐盟模式對企業(yè)合規(guī)壓力仍然較大，宜更進(jìn)一步聚焦重點(diǎn)。因此，示范法最終采取負(fù)面清單管理機(jī)制，在明確對清單內(nèi)活動(dòng)采取事前監(jiān)管機(jī)制之外，允許負(fù)面清單外活動(dòng)保留更大自主性，采取事前備案、事后執(zhí)法方式，減輕企業(yè)負(fù)擔(dān)。這一制度設(shè)計(jì)同樣要求及時(shí)制定和更新負(fù)面清單，示范法對此進(jìn)行了主管機(jī)關(guān)職責(zé)、清單更新期限等要求，以督促相關(guān)部門積極履職。
此外，考慮到創(chuàng)新發(fā)展過程中應(yīng)有必要的容錯(cuò)機(jī)制，示范法對行為主體責(zé)任承擔(dān)也設(shè)計(jì)了相應(yīng)的豁免條款。例如：“人工智能研發(fā)者、提供者承諾限期整改合規(guī)，且能夠有效避免人工智能研發(fā)、提供或使用活動(dòng)造成危害的，可以不暫停相關(guān)活動(dòng)。國家人工智能主管機(jī)關(guān)認(rèn)為可能造成危害的，可以責(zé)令暫停相關(guān)活動(dòng)。”在相應(yīng)條款設(shè)計(jì)上最大限度上給予人工智能研發(fā)企業(yè)充分的發(fā)展空間和試錯(cuò)機(jī)會(huì)。示范法還授權(quán)國家人工智能主管機(jī)關(guān)制定依法不予行政處罰清單，對符合標(biāo)準(zhǔn)的輕微違法行為采取會(huì)商、約談等手段督促整改，避免給技術(shù)創(chuàng)新造成過度影響。
?。ㄋ模┛茖W(xué)設(shè)計(jì)主體架構(gòu)
示范法結(jié)合人工智能發(fā)展?fàn)顩r、技術(shù)特點(diǎn)設(shè)計(jì)了不同主體責(zé)任。主體責(zé)任分配是法律設(shè)計(jì)的核心關(guān)鍵環(huán)節(jié)，人工智能行業(yè)生態(tài)正在快速發(fā)展形成中，規(guī)模龐大，主體呈現(xiàn)多樣化，產(chǎn)業(yè)鏈迅速擴(kuò)大。主體的界分已不再是傳統(tǒng)互聯(lián)網(wǎng)平臺治理時(shí)期的以平臺為主特點(diǎn)，需要考慮當(dāng)前的技術(shù)特點(diǎn)，并應(yīng)放眼長遠(yuǎn)，看到未來通用人工智能的方向。
經(jīng)反復(fù)深入研究，起草團(tuán)隊(duì)跳出具體應(yīng)用場景，根據(jù)人工智能技術(shù)鏈條將主體定為“研發(fā)者-提供者-使用者”三層結(jié)構(gòu)，依據(jù)不同的研發(fā)、提供和使用行為規(guī)定相應(yīng)責(zé)任義務(wù)。即使在不同場景下，同一主體身份可能存在交叉重合，也無需另行制定規(guī)范，僅需基于其實(shí)際開展的活動(dòng)匹配相應(yīng)義務(wù)。這一結(jié)構(gòu)設(shè)計(jì)避免了過細(xì)的主體責(zé)任分配損害應(yīng)用層面商業(yè)模式發(fā)展，直接穿透底層技術(shù)邏輯、服務(wù)提供路徑，并同時(shí)保證了風(fēng)險(xiǎn)防范、安全保障義務(wù)能夠得到順利履行。
四、未來展望
人工智能法將是一部面向前沿技術(shù)、面向數(shù)字經(jīng)濟(jì)、面向未來的重要立法，作為1.0版本的示范法提供了階段性的結(jié)論和制度建議，但其理念、原則和具體制度設(shè)計(jì)不僅將隨著法律和信息技術(shù)等領(lǐng)域的理論研究而更新，也會(huì)隨著實(shí)踐發(fā)展而不斷迭代。起草團(tuán)隊(duì)期待就示范法及本法未盡之處與各界同仁深入交流探討，以期得出更成熟、更全面、更有效率的治理方案。
《人工智能法示范法1.0（專家建議稿）》全文：
人工智能法示范法1.0
（專家建議稿）
中國社會(huì)科學(xué)院國情調(diào)研重大項(xiàng)目
《我國人工智能倫理審查和監(jiān)管制度建設(shè)狀況調(diào)研》課題組
第一章 總則
第一條（立法依據(jù)） 為了規(guī)范人工智能的研發(fā)、提供和使用活動(dòng)，維護(hù)國家主權(quán)、發(fā)展和安全利益，促進(jìn)人工智能安全發(fā)展，保護(hù)個(gè)人、組織的合法權(quán)益，根據(jù)憲法，制定本法。
第二條（適用范圍） 在中華人民共和國境內(nèi)從事人工智能的研發(fā)、提供和使用活動(dòng)及其監(jiān)管，適用本法。
在中華人民共和國境外從事人工智能的研發(fā)、提供和使用活動(dòng)，影響或可能影響中華人民共和國國家安全、公共利益或者個(gè)人、組織合法權(quán)益的，適用本法。
第三條（治理原則） 國家統(tǒng)籌發(fā)展和安全，堅(jiān)持促進(jìn)創(chuàng)新和依法治理相結(jié)合，實(shí)施包容審慎監(jiān)管。
第四條（以人為本原則） 從事人工智能研發(fā)、提供和使用活動(dòng)應(yīng)當(dāng)以人為本、智能向善，確保人類能夠始終監(jiān)督和控制人工智能，始終以促進(jìn)人類福祉為最終目標(biāo)。
第五條（安全原則） 從事人工智能研發(fā)、提供和使用活動(dòng)，應(yīng)當(dāng)采取必要措施保障所研發(fā)、提供和使用的人工智能及其相關(guān)網(wǎng)絡(luò)數(shù)據(jù)的安全。
第六條（公開透明可解釋原則） 從事人工智能研發(fā)、提供和使用活動(dòng)應(yīng)當(dāng)遵循公開、透明、可解釋原則，采取必要措施對所研發(fā)和使用的人工智能的目的、原理和效果予以說明。
第七條（可問責(zé)原則） 從事人工智能研發(fā)、提供和使用活動(dòng)，應(yīng)當(dāng)分別對其研發(fā)、提供和使用活動(dòng)負(fù)責(zé)。
第八條（公平平等原則） 從事人工智能研發(fā)、提供和使用活動(dòng)應(yīng)當(dāng)遵循公平原則，不得對個(gè)人、組織實(shí)行不合理的差別待遇。
從事人工智能研發(fā)、提供和使用活動(dòng)應(yīng)當(dāng)充分考慮未成年人、老年人、殘障人士等特殊群體的需求。
第九條（綠色原則） 國家鼓勵(lì)人工智能研發(fā)、提供和使用活動(dòng)應(yīng)用節(jié)能技術(shù)，高效利用資源，保護(hù)生態(tài)環(huán)境。
第十條（促進(jìn)發(fā)展創(chuàng)新原則） 國家支持人工智能基礎(chǔ)設(shè)施建設(shè)，推動(dòng)公共算力、公共數(shù)據(jù)和其他相關(guān)公共資源開放共享，鼓勵(lì)個(gè)人、組織依法開放共享算力、數(shù)據(jù)和其他相關(guān)資源。
國家鼓勵(lì)人工智能研發(fā)和應(yīng)用，依法保護(hù)人工智能領(lǐng)域知識產(chǎn)權(quán)，創(chuàng)新探索適應(yīng)人工智能發(fā)展的知識產(chǎn)權(quán)制度。
第十一條（國際合作） 國家積極開展人工智能領(lǐng)域的跨國家、跨領(lǐng)域、跨文化交流與合作，積極參與人工智能相關(guān)國際規(guī)則和標(biāo)準(zhǔn)的制定和實(shí)施，推動(dòng)與其他國家、地區(qū)、國際組織之間的人工智能相關(guān)規(guī)則、標(biāo)準(zhǔn)的互認(rèn)，推進(jìn)形成具有廣泛共識的國際人工智能治理框架和標(biāo)準(zhǔn)規(guī)范。
第十二條（履職部門） 國家人工智能辦公室是人工智能發(fā)展和管理的主管機(jī)關(guān)。其他有關(guān)政府部門和軍隊(duì)有關(guān)部門按照職責(zé)分工，密切配合，加強(qiáng)協(xié)調(diào)，依法做好有關(guān)工作。
省、自治區(qū)、直轄市，省、自治區(qū)的人民政府所在地的市，經(jīng)濟(jì)特區(qū)所在地的市和國務(wù)院已經(jīng)批準(zhǔn)的較大的市人工智能主管機(jī)關(guān)和其他相關(guān)部門，按照國家有關(guān)規(guī)定，在本轄區(qū)范圍內(nèi)負(fù)責(zé)人工智能發(fā)展和管理工作。
第十三條（協(xié)同共治） 國家建立和完善政府管理、企業(yè)履責(zé)、行業(yè)自治、社會(huì)監(jiān)督、用戶自律的人工智能治理機(jī)制，促進(jìn)多元主體協(xié)同共治。
第十四條（合法正當(dāng)） 從事人工智能研發(fā)、提供和使用活動(dòng)應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德，遵守以下規(guī)定：
（一）堅(jiān)持社會(huì)主義核心價(jià)值觀，不得生成煽動(dòng)顛覆國家政權(quán)、推翻社會(huì)主義制度，危害國家安全和利益、損害國家形象，煽動(dòng)分裂國家、破壞國家統(tǒng)一和社會(huì)穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容；
?。ǘ┳鹬刂R產(chǎn)權(quán)、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實(shí)施壟斷和不正當(dāng)競爭行為；
?。ㄈ┮婪ūＷo(hù)消費(fèi)者、勞動(dòng)者權(quán)益，尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。
第二章 人工智能支持與促進(jìn)
第十五條（人工智能發(fā)展規(guī)劃） 國家實(shí)施新一代人工智能發(fā)展規(guī)劃，堅(jiān)持人工智能研發(fā)攻關(guān)、產(chǎn)品應(yīng)用和產(chǎn)業(yè)培育共同推進(jìn)，全面支撐科技、經(jīng)濟(jì)、社會(huì)發(fā)展和國家安全。
省級以上人民政府應(yīng)當(dāng)將人工智能發(fā)展納入本級國民經(jīng)濟(jì)和社會(huì)發(fā)展規(guī)劃，并根據(jù)需要制定人工智能發(fā)展規(guī)劃。
第十六條（算力基礎(chǔ)設(shè)施建設(shè)） 全面部署實(shí)施全國一體化大數(shù)據(jù)中心體系建設(shè)，優(yōu)化數(shù)據(jù)中心基礎(chǔ)設(shè)施建設(shè)布局，培育壯大數(shù)據(jù)中心集群。
國家出臺人工智能公共算力資源供給辦法，推動(dòng)公共算力資源平臺建設(shè)與利用，加強(qiáng)算力科學(xué)調(diào)度，為人工智能技術(shù)與產(chǎn)業(yè)發(fā)展提供公共算力支持。
鼓勵(lì)和支持高等院校、科研機(jī)構(gòu)、企業(yè)和其他組織建設(shè)人工智能算力基礎(chǔ)設(shè)施、開源開發(fā)平臺和開源社區(qū)，開展算力資源市場化交易，引導(dǎo)各行業(yè)合理有序使用算力資源，提升算力基礎(chǔ)設(shè)施利用效能。
第十七條（算法和基礎(chǔ)模型創(chuàng)新） 國家支持人工智能算法創(chuàng)新，依法加強(qiáng)基礎(chǔ)模型保護(hù)，促進(jìn)基礎(chǔ)模型創(chuàng)新開發(fā)、應(yīng)用推廣。
第十八條（數(shù)據(jù)要素供給） 國家支持建設(shè)人工智能領(lǐng)域基礎(chǔ)數(shù)據(jù)庫和專題數(shù)據(jù)庫，促進(jìn)數(shù)據(jù)資源高效匯聚和共享利用，擴(kuò)大面向人工智能應(yīng)用的公共數(shù)據(jù)供給范圍。
鼓勵(lì)引導(dǎo)相關(guān)主體開展大數(shù)據(jù)與人工智能技術(shù)協(xié)同研發(fā)，支持相關(guān)主體將數(shù)據(jù)與行業(yè)知識深度融合，開發(fā)數(shù)據(jù)產(chǎn)品，服務(wù)算法設(shè)計(jì)、模型訓(xùn)練、產(chǎn)品驗(yàn)證、場景應(yīng)用等需求。
第十九條（產(chǎn)業(yè)發(fā)展與應(yīng)用創(chuàng)新） 加快人工智能關(guān)鍵技術(shù)轉(zhuǎn)化應(yīng)用，促進(jìn)技術(shù)集成與商業(yè)模式創(chuàng)新，推動(dòng)重點(diǎn)領(lǐng)域智能產(chǎn)品創(chuàng)新，積極培育人工智能新興業(yè)態(tài)，打造具有國際競爭力的人工智能產(chǎn)業(yè)集群。
推動(dòng)人工智能與各行業(yè)融合創(chuàng)新，在重點(diǎn)行業(yè)和領(lǐng)域開展人工智能應(yīng)用試點(diǎn)示范，推動(dòng)人工智能規(guī)?；瘧?yīng)用，支持人工智能新技術(shù)、新產(chǎn)品、新服務(wù)、新模式的應(yīng)用推廣。
第二十條（專業(yè)人才培養(yǎng)） 國家支持高等院校完善人工智能領(lǐng)域?qū)W科布局，設(shè)立人工智能專業(yè)，推動(dòng)人工智能領(lǐng)域一級學(xué)科建設(shè)。
鼓勵(lì)高等學(xué)校、科研機(jī)構(gòu)和企業(yè)等開展面向人工智能領(lǐng)域重大科學(xué)前沿問題的基礎(chǔ)理論研究和關(guān)鍵共性技術(shù)研發(fā)，承擔(dān)重大科技和產(chǎn)業(yè)創(chuàng)新專項(xiàng)。
國家支持建立有利于促進(jìn)人工智能發(fā)展的項(xiàng)目管理創(chuàng)新機(jī)制、創(chuàng)新人才評定機(jī)制、科技成果轉(zhuǎn)化激勵(lì)機(jī)制等。
第二十一條（財(cái)政資金支持） 國家鼓勵(lì)各地方各部門發(fā)揮投資引導(dǎo)基金扶持作用，聚焦人工智能核心領(lǐng)域與關(guān)鍵環(huán)節(jié)開展專項(xiàng)扶持。
國家鼓勵(lì)社會(huì)資本參與人工智能產(chǎn)業(yè)發(fā)展。
第二十二條（國家機(jī)關(guān)先行先試） 鼓勵(lì)政府機(jī)關(guān)、事業(yè)單位、國有企業(yè)及其他依法具有管理公共事務(wù)職能的組織，在政務(wù)服務(wù)、公共管理等領(lǐng)域開展人工智能技術(shù)應(yīng)用先行先試，優(yōu)先采購和使用安全可靠的人工智能產(chǎn)品和服務(wù)。
第三章 人工智能管理制度
第二十三條（分類管理制度） 國家建立人工智能負(fù)面清單制度，對負(fù)面清單內(nèi)的產(chǎn)品、服務(wù)實(shí)施許可管理，對負(fù)面清單外的產(chǎn)品、服務(wù)實(shí)施備案管理。
國家人工智能主管機(jī)關(guān)根據(jù)人工智能在經(jīng)濟(jì)社會(huì)發(fā)展中的重要程度，以及一旦遭到攻擊、篡改、破壞或者非法獲取、非法利用，對國家安全、公共利益或者個(gè)人、組織合法權(quán)益、經(jīng)濟(jì)秩序造成的危害程度，牽頭制定并定期更新人工智能產(chǎn)品、服務(wù)負(fù)面清單。
第二十四條（負(fù)面清單管理制度） 開展人工智能負(fù)面清單內(nèi)產(chǎn)品、服務(wù)的研發(fā)、提供活動(dòng)前，應(yīng)當(dāng)取得國家人工智能主管機(jī)關(guān)的行政許可。
禁止未經(jīng)許可或超越許可范圍開展負(fù)面清單內(nèi)人工智能研發(fā)、提供活動(dòng)。
第二十五條（負(fù)面清單許可條件） 申請負(fù)面清單內(nèi)人工智能研發(fā)、提供許可，應(yīng)當(dāng)具備下列條件：
（一）在中華人民共和國境內(nèi)依法設(shè)立的法人；
?。ǘ┲饕?fù)責(zé)人是中國公民；
（三）有與風(fēng)險(xiǎn)相適應(yīng)的具備質(zhì)量保障、安全保障、人類監(jiān)督、合規(guī)管理等專業(yè)知識的專職人員；
（四）有健全的人工智能質(zhì)量管理體系、網(wǎng)絡(luò)數(shù)據(jù)安全管理制度、科技倫理審查制度；
?。ㄎ澹┯邪踩煽氐娜斯ぶ悄芗夹g(shù)保障措施；
?。┯信c風(fēng)險(xiǎn)相適應(yīng)的人工智能應(yīng)急處置機(jī)制；
?。ㄆ撸┯信c人工智能研發(fā)、提供相適應(yīng)的場所、設(shè)施和資金；
（八）法律、行政法規(guī)的其他規(guī)定。
第二十六條（負(fù)面清單許可的申請） 人工智能研發(fā)者、提供者申請負(fù)面清單內(nèi)人工智能產(chǎn)品研發(fā)、提供許可，應(yīng)提交以下材料：
?。ㄒ唬┥陥?bào)書；
?。ǘ┓ㄈ速Y格、場所、資金等證明；
?。ㄈ┲饕?fù)責(zé)人為中國公民的證明；
?。ㄋ模┵|(zhì)量保障、安全保障、人類監(jiān)督、合規(guī)管理專職人員的資質(zhì)情況；
（五）人工智能質(zhì)量管理體系、網(wǎng)絡(luò)數(shù)據(jù)安全制度、科技倫理審查制度、風(fēng)險(xiǎn)管理制度及執(zhí)行情況；
（六）符合本法規(guī)定的技術(shù)文件目錄和技術(shù)保障措施日志摘要；
?。ㄆ撸┤斯ぶ悄馨踩u估報(bào)告；
?。ò耍┓煞ㄒ?guī)規(guī)定的其他材料。
第二十七條（負(fù)面清單許可的審批） 國家人工智能主管機(jī)關(guān)受理負(fù)面清單內(nèi)人工智能研發(fā)、提供許可申請后，在10個(gè)工作日內(nèi)進(jìn)行初步審查。
經(jīng)初步審查，發(fā)現(xiàn)人工智能的研發(fā)者和提供者提交的申請材料不符合要求的，國家人工智能主管機(jī)關(guān)可以要求其補(bǔ)充或者更正。人工智能研發(fā)者、提供者無正當(dāng)理由不補(bǔ)充或者更正的，該申請即被視為撤回。
初步審查材料齊全的，國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)自受理申請之日起45日內(nèi)審查完畢，作出許可或者不予許可的決定。予以許可的，向申請人頒發(fā)人工智能研發(fā)、提供許可證；不予許可的，應(yīng)當(dāng)書面通知申請人并說明理由。
45日內(nèi)不能作出決定的，經(jīng)國家人工智能主管機(jī)關(guān)負(fù)責(zé)人批準(zhǔn)，可以延長十日，并應(yīng)當(dāng)將延長期限的理由告知申請人。
第二十八條（負(fù)面清單許可的撤銷） 人工智能研發(fā)者、提供者在研發(fā)、提供活動(dòng)中違反本法規(guī)定，發(fā)生重大安全事件、多次發(fā)生安全事件、多次受到行政處罰的，國家人工智能主管機(jī)關(guān)可以中止許可并責(zé)令限期改正；期限屆滿未改正，或中止許可后再次發(fā)生安全事件或受到行政處罰的，國家人工智能主管機(jī)關(guān)可以撤銷許可。
第二十九條（負(fù)面清單許可的再次申請） 負(fù)面清單內(nèi)人工智能研發(fā)、提供許可證應(yīng)當(dāng)載明使用許可的期限和范圍。
超出許可范圍，或技術(shù)改進(jìn)、使用場景變更、用戶群體變化等導(dǎo)致人工智能的風(fēng)險(xiǎn)發(fā)生變化的，負(fù)面清單內(nèi)人工智能研發(fā)者、提供者應(yīng)當(dāng)再次申請研發(fā)、提供許可。
使用許可期限屆滿前六個(gè)月，負(fù)面清單內(nèi)人工智能研發(fā)者、提供者可以申請更新研發(fā)、提供許可。
負(fù)面清單內(nèi)人工智能研發(fā)者、提供者停止許可內(nèi)人工智能研發(fā)、提供的，應(yīng)當(dāng)在停止之日起三個(gè)月內(nèi)，向國家人工智能主管機(jī)關(guān)申請注銷研發(fā)、提供許可。
第三十條（許可證公開） 負(fù)面清單內(nèi)人工智能研發(fā)者、提供者應(yīng)當(dāng)在所提供的人工智能產(chǎn)品、服務(wù)的顯著位置，注明許可證編號。
第三十一條（投訴、舉報(bào)） 個(gè)人和組織發(fā)現(xiàn)違法從事負(fù)面清單內(nèi)人工智能研發(fā)、提供活動(dòng)的，有權(quán)向國家人工智能主管機(jī)關(guān)投訴、舉報(bào)，國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)及時(shí)核實(shí)、處理。
第三十二條（釋疑機(jī)制） 個(gè)人和組織對負(fù)面清單內(nèi)人工智能研發(fā)、提供活動(dòng)有疑義的，有權(quán)請求國家人工智能主管機(jī)關(guān)予以說明，國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)及時(shí)答復(fù)、處理。
第四章 人工智能研發(fā)者、提供者義務(wù)
第一節(jié) 一般規(guī)定
第三十三條（安全性義務(wù)） 人工智能研發(fā)者、提供者應(yīng)當(dāng)在將人工智能投入使用或投放市場前進(jìn)行安全測試，防范網(wǎng)絡(luò)數(shù)據(jù)人工智能安全風(fēng)險(xiǎn)，并保障人工智能全生命周期的安全、穩(wěn)健運(yùn)行，符合預(yù)期目的。
人工智能研發(fā)者和提供者應(yīng)當(dāng)及時(shí)發(fā)布安全最佳實(shí)踐，引導(dǎo)使用者安全、正確地使用人工智能。
人工智能研發(fā)者、提供者按照本法規(guī)定的記錄、技術(shù)文件等要求，保證可追溯性，在發(fā)生事故時(shí)可以及時(shí)并準(zhǔn)確地追溯、定位問題，保障人工智能的安全性。
鼓勵(lì)相關(guān)組織和個(gè)人向人工智能研發(fā)者、提供者通報(bào)其產(chǎn)品、服務(wù)存在的安全漏洞。
人工智能研發(fā)者、提供者應(yīng)當(dāng)按照相關(guān)規(guī)定履行安全漏洞管理義務(wù)，確保其安全漏洞得到及時(shí)修補(bǔ)和合理發(fā)布，并指導(dǎo)支持使用者采取防范措施。
第三十四條（補(bǔ)救和通知義務(wù)） 人工智能研發(fā)者、提供者應(yīng)當(dāng)加強(qiáng)風(fēng)險(xiǎn)監(jiān)測，發(fā)現(xiàn)安全缺陷、漏洞等風(fēng)險(xiǎn)時(shí)，應(yīng)當(dāng)立即采取補(bǔ)救措施。
發(fā)生安全事件時(shí)，人工智能研發(fā)者應(yīng)當(dāng)立即采取處置措施，并通知人工智能提供者。人工智能提供者應(yīng)當(dāng)立即采取處置措施，按照國家有關(guān)規(guī)定及時(shí)告知使用者并向主管機(jī)關(guān)報(bào)告以下事項(xiàng)：
（一）安全事件的發(fā)生過程、影響范圍；
（二）人工智能提供者已采取的補(bǔ)救措施和使用者可以采取的減輕危害的措施；
?。ㄈ┤斯ぶ悄芴峁┱叩穆?lián)系方式。
人工智能提供者采取措施可以有效避免對使用者造成實(shí)質(zhì)損害的，可以不通知使用者；國家人工智能主管機(jī)關(guān)認(rèn)為可能造成危害的，有權(quán)要求其通知受影響的使用者。
發(fā)生本條第一款、第二款情況的，人工智能提供者應(yīng)當(dāng)及時(shí)通知人工智能研發(fā)者。人工智能研發(fā)者應(yīng)當(dāng)立即進(jìn)行評估。如果評估發(fā)現(xiàn)研發(fā)階段存在問題風(fēng)險(xiǎn)的，應(yīng)當(dāng)立即通知其他人工智能提供者，在問題風(fēng)險(xiǎn)解決前，暫?；蛳录苋斯ぶ悄墚a(chǎn)品、服務(wù)。其他人工智能提供者收到通知的，應(yīng)當(dāng)立即采取處置措施，管控產(chǎn)品、服務(wù)風(fēng)險(xiǎn)。
第三十五條（公開透明性義務(wù)） 人工智能提供者提供與自然人互動(dòng)的人工智能服務(wù)，應(yīng)當(dāng)在使用者使用人工智能前，以簡潔、清晰、易于理解的方式，告知與人工智能產(chǎn)品、服務(wù)進(jìn)行交互的自然人，其正在與人工智能服務(wù)進(jìn)行交互。但是，自然人從使用的場景中可以判斷的除外。
提供深度合成服務(wù)的人工智能提供者還應(yīng)當(dāng)根據(jù)國家有關(guān)規(guī)定，對合成內(nèi)容進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況。
人工智能提供者應(yīng)當(dāng)在使用者使用人工智能前，以適當(dāng)?shù)姆绞礁嬷褂谜咭韵滦畔ⅲ?/p>
?。ㄒ唬┊a(chǎn)品、服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制；
?。ǘ┊a(chǎn)品、服務(wù)的許可或備案公示信息；
?。ㄈ┦褂谜呦碛械臋?quán)利和救濟(jì)渠道；
（四）法律、行政法規(guī)規(guī)定的其他信息。
人工智能提供者應(yīng)當(dāng)綜合考慮產(chǎn)品、服務(wù)的場景、性質(zhì)、受眾和行業(yè)技術(shù)發(fā)展水平等因素，充分保障未成年人、老年人、殘障人士等特殊群體可以理解上述信息。
人工智能研發(fā)者應(yīng)當(dāng)配合提供者履行上述義務(wù)。
第三十六條（可解釋性義務(wù)） 人工智能產(chǎn)品、服務(wù)對個(gè)人權(quán)益有重大影響的，人工智能使用者有權(quán)要求提供者對產(chǎn)品、服務(wù)決策的過程、方式等作出解釋，有權(quán)對不合理的解釋進(jìn)行投訴。提供者應(yīng)當(dāng)綜合考慮風(fēng)險(xiǎn)、場景和行業(yè)技術(shù)發(fā)展水平等因素，對使用者的要求及時(shí)作出反饋。研發(fā)者應(yīng)當(dāng)配合提供者履行本條義務(wù)。
第三十七條（公平性義務(wù)） 人工智能研發(fā)者應(yīng)當(dāng)在訓(xùn)練數(shù)據(jù)處理和標(biāo)注、算法模型設(shè)計(jì)研發(fā)和驗(yàn)證測試過程中，采取必要措施，有效防范有害的偏見和歧視。
人工智能提供者應(yīng)當(dāng)在提供產(chǎn)品、服務(wù)過程中，加強(qiáng)對輸入數(shù)據(jù)、輸出數(shù)據(jù)的管理，有效防范有害的偏見和歧視。
第三十八條（風(fēng)險(xiǎn)管理） 人工智能提供者綜合考慮產(chǎn)品、服務(wù)的場景、性質(zhì)、受眾和行業(yè)技術(shù)發(fā)展水平等因素，建立健全和實(shí)施全生命周期風(fēng)險(xiǎn)管理制度。在產(chǎn)品、服務(wù)投入使用前以及使用過程中，人工智能提供者應(yīng)當(dāng)對人工智能的風(fēng)險(xiǎn)進(jìn)行識別、評估，并采取合理必要措施防控風(fēng)險(xiǎn)。人工智能提供者應(yīng)當(dāng)保留風(fēng)險(xiǎn)識別、評估和管理的記錄，保存期限不少于三年。
人工智能研發(fā)者應(yīng)當(dāng)對設(shè)計(jì)、數(shù)據(jù)收集訓(xùn)練、模型選擇、測試驗(yàn)證等研發(fā)過程，建立并運(yùn)行風(fēng)險(xiǎn)管理制度，并對人工智能的風(fēng)險(xiǎn)進(jìn)行識別并采取合理必要的措施降低風(fēng)險(xiǎn)。人工智能研發(fā)者應(yīng)當(dāng)在保障商業(yè)秘密的前提下，配合提供風(fēng)險(xiǎn)評估和管理記錄，支持人工智能提供者完成人工智能服務(wù)的風(fēng)險(xiǎn)管理義務(wù)。人工智能提供者應(yīng)當(dāng)保留風(fēng)險(xiǎn)評估和管理的記錄，保存期限不少于三年。
第三十九條（安全評估） 人工智能研發(fā)者、提供者應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展安全評估。
第四十條（科技倫理審查） 人工智能研發(fā)者、提供者應(yīng)當(dāng)按照國家有關(guān)規(guī)定開展科技倫理審查。
第四十一條（授權(quán)代表） 本法第二條第二款規(guī)定的中華人民共和國境外的人工智能研發(fā)者、提供者，應(yīng)當(dāng)在中華人民共和國境內(nèi)設(shè)立專門機(jī)構(gòu)或者指定代表，負(fù)責(zé)處理人工智能相關(guān)事務(wù)，并將有關(guān)機(jī)構(gòu)的名稱或者代表的姓名、聯(lián)系方式等報(bào)送國家人工智能主管機(jī)關(guān)。
第二節(jié) 人工智能研發(fā)者義務(wù)
第四十二條（負(fù)面清單內(nèi)人工智能研發(fā)者增強(qiáng)義務(wù)） 負(fù)面清單內(nèi)人工智能研發(fā)者應(yīng)當(dāng)履行以下義務(wù)：
?。ㄒ唬┲贫ú⒈４娣媳痉ㄒ蟮募夹g(shù)文件，并配合提供者履行相關(guān)義務(wù)；
?。ǘ┰谘邪l(fā)過程，制定并運(yùn)行符合本法要求的質(zhì)量管理體系，并配合提供者履行相關(guān)義務(wù)；
?。ㄈ┰谘邪l(fā)過程，進(jìn)行安全評估，配合提供者履行相關(guān)義務(wù)；
（四）法律、行政法規(guī)規(guī)定的其他義務(wù)。
第四十三條（基礎(chǔ)模型研發(fā)者特殊義務(wù)） 基礎(chǔ)模型研發(fā)者應(yīng)遵守以下規(guī)定：
（一）按照國家規(guī)定建立健全安全風(fēng)險(xiǎn)管理制度，及時(shí)有效預(yù)防、監(jiān)測、處置對國家安全、公共利益或者個(gè)人、組織合法權(quán)益、經(jīng)濟(jì)秩序造成的風(fēng)險(xiǎn)；
（二）按照國家規(guī)定建立健全基礎(chǔ)模型的模型管理和數(shù)據(jù)管理制度；
（三）遵循公開、公平、公正的原則，制定基礎(chǔ)模型的使用規(guī)則，明確使用基礎(chǔ)模型的研發(fā)者、提供者應(yīng)當(dāng)履行的義務(wù)，不得濫用市場支配地位；
?。ㄋ模﹨f(xié)助其他研發(fā)者、提供者履行相關(guān)義務(wù)；
?。ㄎ澹?yán)重違反本法規(guī)定的研發(fā)者、提供者，應(yīng)當(dāng)采取停止提供服務(wù)等必要措施；
?。┏闪⒅饕赏獠砍蓡T組成的獨(dú)立機(jī)構(gòu)對基礎(chǔ)模型的研發(fā)情況進(jìn)行監(jiān)督；每年發(fā)布社會(huì)責(zé)任報(bào)告，接受社會(huì)監(jiān)督。
第三節(jié) 人工智能提供者義務(wù)
第四十四條（備案義務(wù)） 不在負(fù)面清單內(nèi)的人工智能提供者，應(yīng)當(dāng)在提供產(chǎn)品、服務(wù)之日起十個(gè)工作日內(nèi)，向主管機(jī)關(guān)備案以下信息：
?。ㄒ唬┤斯ぶ悄芴峁┱叩男彰蛎Q、聯(lián)系方式；
?。ǘ┤斯ぶ悄墚a(chǎn)品、服務(wù)的商標(biāo)或名稱、提供形式、應(yīng)用領(lǐng)域、算法類型、安全自評估報(bào)告；
?。ㄈ┧惴▊浒笖M公示內(nèi)容；
?。ㄋ模┓?、行政法規(guī)規(guī)定的其他信息。
備案信息發(fā)生變更的，應(yīng)當(dāng)在變更之日起十個(gè)工作日內(nèi)辦理變更手續(xù)。
完成備案的人工智能提供者應(yīng)當(dāng)在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置注明其備案編號。
第四十五條（備案流程） 主管機(jī)關(guān)收到備案材料后，材料齊全的，應(yīng)當(dāng)在三十個(gè)工作日內(nèi)予以備案，發(fā)放備案編號并進(jìn)行公示；材料不齊全的，應(yīng)當(dāng)在十個(gè)工作日內(nèi)通知備案人補(bǔ)充材料。
第四十六條（審計(jì)義務(wù)） 人工智能提供者應(yīng)當(dāng)至少每兩年進(jìn)行一次審計(jì)，核驗(yàn)輸入數(shù)據(jù)、算法模型、輸出數(shù)據(jù)等的合規(guī)性，對人工智能產(chǎn)品、服務(wù)活動(dòng)是否遵守法律、行政法規(guī)的情況進(jìn)行審查和評價(jià)。
第四十七條（內(nèi)部管理制度） 人工智能提供者應(yīng)當(dāng)采取下列措施確保人工智能符合法律、行政法規(guī)的規(guī)定：
?。ㄒ唬┲贫▋?nèi)部數(shù)據(jù)安全、風(fēng)險(xiǎn)控制、質(zhì)量管理等制度和相應(yīng)的操作規(guī)程；
（二）保存提供人工智能產(chǎn)品、服務(wù)自動(dòng)生成的日志；
（三）定期對從業(yè)人員進(jìn)行教育和培訓(xùn)；
?。ㄋ模┎扇∠鄳?yīng)的魯棒性、抗攻擊性等合規(guī)技術(shù)措施；
?。ㄎ澹┓?、行政法規(guī)規(guī)定的其他措施。
第四十八條（終止機(jī)制） 人工智能提供者終止提供產(chǎn)品、服務(wù)的，應(yīng)當(dāng)采取以下妥善安排措施：
?。ㄒ唬┨崆叭畟€(gè)工作日公示終止方案、使用者權(quán)利等；
?。ǘ┳越K止之日起三十個(gè)工作日內(nèi)，刪除使用者的個(gè)人信息；根據(jù)國家有關(guān)規(guī)定，對人工智能產(chǎn)品、服務(wù)提供過程中產(chǎn)生的數(shù)據(jù)、訓(xùn)練數(shù)據(jù)、算法模型作出必要處理；
?。ㄈ┓?、行政法規(guī)規(guī)定的其他措施。
第四十九條（許可注銷） 負(fù)面清單內(nèi)人工智能提供者應(yīng)當(dāng)提前三十個(gè)工作日通知主管機(jī)關(guān)，說明有關(guān)情況，并在終止服務(wù)后將許可證交回原許可機(jī)關(guān)。
不在負(fù)面清單內(nèi)人工智能提供者應(yīng)當(dāng)在終止服務(wù)之日起二十個(gè)工作日內(nèi)辦理注銷備案手續(xù)。
第五十條（負(fù)面清單人工智能提供者增強(qiáng)義務(wù)） 負(fù)面清單內(nèi)人工智能提供者，還應(yīng)當(dāng)履行如下義務(wù)：
?。ㄒ唬┌凑毡痉ㄒ筮M(jìn)行安全評估，確保安全、穩(wěn)??；
?。ǘ┲贫ú⒈４娣媳痉ㄒ蟮募夹g(shù)文件，以證明所提供的人工智能符合本法對負(fù)面清單內(nèi)人工智能的要求；
?。ㄈ┙⒉⑦\(yùn)行符合本法要求的全生命周期質(zhì)量管理體系；
?。ㄋ模┰谌斯ぶ悄墚a(chǎn)品、服務(wù)自主運(yùn)行過程中，確保人類可以隨時(shí)采取介入、接管等措施；
?。ㄎ澹┓?、行政法規(guī)規(guī)定的其他義務(wù)。
第五章 人工智能綜合治理機(jī)制
第五十一條（國家人工智能主管機(jī)關(guān)職責(zé)） 國家人工智能主管機(jī)關(guān)依法履行以下人工智能監(jiān)管職責(zé)：
?。ㄒ唬╅_展人工智能倫理、安全教育與宣傳，指導(dǎo)、監(jiān)督人工智能開發(fā)、提供和使用；
（二）制定人工智能監(jiān)管規(guī)則、指引，組織制定人工智能倫理、安全、管理等方面標(biāo)準(zhǔn)；
?。ㄈ┙M織人工智能技術(shù)監(jiān)測、評估、審計(jì)工作，指導(dǎo)專業(yè)機(jī)構(gòu)依法開展活動(dòng)；
?。ㄋ模┙⑷斯ぶ悄茱L(fēng)險(xiǎn)監(jiān)測預(yù)警機(jī)制，組織人工智能領(lǐng)域風(fēng)險(xiǎn)信息的獲取、分析、研判、預(yù)警工作；
（五）建立人工智能安全事件應(yīng)急處置機(jī)制；
?。┙邮?、處理與人工智能技術(shù)及產(chǎn)品開發(fā)、提供和使用有關(guān)的投訴、舉報(bào)；
?。ㄆ撸┱{(diào)查、處理違法人工智能開發(fā)、提供和使用活動(dòng)；
?。ò耍┓伞⑿姓ㄒ?guī)規(guī)定的其他職責(zé)。
第五十二條（安全審查制度） 從事人工智能研發(fā)、提供活動(dòng)，影響或可能影響國家安全的，應(yīng)當(dāng)按照國家有關(guān)規(guī)定通過安全審查。
依法作出的安全審查決定為最終決定。
第五十三條（前置程序期限） 人工智能研發(fā)者、提供者、使用者依照本法及國家有關(guān)規(guī)定，就人工智能新技術(shù)新應(yīng)用申報(bào)安全審查、備案或申請行政許可的，國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)明確工作期限，并在期限內(nèi)及時(shí)處理、作出答復(fù)。
第五十四條（約談） 國家人工智能主管機(jī)關(guān)和地方各級人工智能主管機(jī)關(guān)在履行職責(zé)中，發(fā)現(xiàn)人工智能研發(fā)、提供活動(dòng)存在較大風(fēng)險(xiǎn)或者發(fā)生安全事件的，可以按照規(guī)定的權(quán)限和程序?qū)υ撊斯ぶ悄苎邪l(fā)者、提供者進(jìn)行約談，要求其采取下列措施：
?。ㄒ唬┌凑找筮M(jìn)行整改，消除隱患；
?。ǘζ溲邪l(fā)、提供活動(dòng)作出適當(dāng)?shù)慕忉?，說明人工智能服務(wù)的開發(fā)、管理和運(yùn)行的責(zé)任，為保障公平性、安全性和穩(wěn)定性采取的措施，以及對利益相關(guān)方的影響等；
?。ㄈ┪袑I(yè)機(jī)構(gòu)對其人工智能研發(fā)、提供活動(dòng)進(jìn)行合規(guī)審計(jì)。
人工智能研發(fā)者、提供者承諾限期整改合規(guī)，且能夠有效避免人工智能研發(fā)、提供或使用活動(dòng)造成危害的，可以不暫停相關(guān)活動(dòng)。國家人工智能主管機(jī)關(guān)認(rèn)為可能造成危害的，可以責(zé)令暫停相關(guān)活動(dòng)。
第五十五條（創(chuàng)新監(jiān)管） 國家人工智能主管機(jī)關(guān)就人工智能產(chǎn)業(yè)研發(fā)、提供和使用活動(dòng)中的輕微違法行為等制定依法不予行政處罰清單，通過批評教育、指導(dǎo)約談、組織會(huì)商研討等措施促進(jìn)公民、法人和其他組織依法合規(guī)開展人工智能產(chǎn)業(yè)研發(fā)、提供和使用活動(dòng)。
第五十六條（監(jiān)管沙盒） 國家人工智能主管機(jī)關(guān)建立人工智能監(jiān)管試驗(yàn)機(jī)制，就以下事項(xiàng)出臺具體規(guī)定、指引：
（一）參與監(jiān)管試驗(yàn)的條件；
?。ǘ┍O(jiān)管試驗(yàn)的運(yùn)行機(jī)制；
?。ㄈ┤斯ぶ悄苎邪l(fā)者、提供者的義務(wù)、責(zé)任減免機(jī)制。
第五十七條（執(zhí)法機(jī)制） 國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)加強(qiáng)專門隊(duì)伍和專業(yè)技術(shù)建設(shè)，提升人工智能監(jiān)管執(zhí)法工作效率。
國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)依法確定本系統(tǒng)行政執(zhí)法程序，建立行政執(zhí)法監(jiān)督制度。
第五十八條（技術(shù)治理） 國家支持企業(yè)、科研機(jī)構(gòu)等研究開發(fā)有關(guān)人工智能監(jiān)測預(yù)警、安全評估、應(yīng)急處置等技術(shù)，鼓勵(lì)在人工智能領(lǐng)域應(yīng)用監(jiān)管科技、合規(guī)科技。
第五十九條（境外反制） 境外的組織、個(gè)人從事侵害中華人民共和國公民的合法權(quán)益，或者危害中華人民共和國國家安全、公共利益的人工智能研發(fā)、提供或使用活動(dòng)的，國家人工智能主管機(jī)關(guān)可以將其列入負(fù)面清單，予以公告，并依法采取限制或禁止其在中華人民共和國境內(nèi)研發(fā)、提供或使用人工智能等措施。
第六十條（對等措施） 任何國家或者地區(qū)在與人工智能有關(guān)的研發(fā)、投資、貿(mào)易等方面對中華人民共和國采取歧視性的禁止、限制或者其他類似措施的，中華人民共和國可以根據(jù)實(shí)際情況對該國家或者地區(qū)對等采取措施。
第六章 法律責(zé)任
第六十一條（行政處罰一般條款） 違反本法第三十四條至第五十一條研發(fā)、提供人工智能的，由國家人工智能主管機(jī)關(guān)責(zé)令改正，給予警告，沒收違法所得，責(zé)令暫?；蛘呓K止提供產(chǎn)品、服務(wù)；拒不改正的，并處一百萬元以下罰款；對直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處一萬元以上十萬元以下罰款。
有前款規(guī)定的違法行為，情節(jié)嚴(yán)重的，由國家人工智能主管機(jī)關(guān)責(zé)令改正，沒收違法所得，并處五千萬元以下或者上一年度營業(yè)額百分之四以下罰款，并可以責(zé)令暫停相關(guān)業(yè)務(wù)或者停業(yè)整頓、通報(bào)有關(guān)主管機(jī)關(guān)吊銷相關(guān)業(yè)務(wù)許可或者吊銷營業(yè)執(zhí)照；對直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員處十萬元以上一百萬元以下罰款。
第六十二條（行政罰款的裁量方式） 本法規(guī)定的罰款可以作為責(zé)令整改等措施的補(bǔ)充或替代，國家人工智能主管部門決定行政罰款金額時(shí)，遵循合法原則、過罰相當(dāng)原則、公平公正原則、處罰和教育相結(jié)合原則、綜合裁量原則，應(yīng)當(dāng)充分考慮以下因素：
?。ㄒ唬┻`法行為及后果的性質(zhì)、嚴(yán)重性和持續(xù)時(shí)間、受影響的范圍和損害程度；
（二）違法行為是故意還是過失；
（三）對違法行為是否采取了補(bǔ)救措施并減輕可造成的損失；
?。ㄋ模┦欠褚勒毡痉ㄒ?guī)定通知國家人工智能主管部門；
?。ㄎ澹┦欠褚勒毡痉ㄒ?guī)定采取了合理有效的組織和技術(shù)措施管理人工智能的風(fēng)險(xiǎn)；
?。┦欠褡袷亓巳斯ぶ悄芎桶踩认嚓P(guān)標(biāo)準(zhǔn)或獲得了相關(guān)認(rèn)證；
?。ㄆ撸┐饲暗倪`法行為；
?。ò耍┢渌煞ㄒ?guī)規(guī)定的加重或減輕處罰的因素。
第六十三條（違反許可行為） 違反本規(guī)定第三十二條規(guī)定，未經(jīng)許可或超越許可范圍研發(fā)、提供人工智能的，由國家人工智能主管部門依據(jù)職責(zé)責(zé)令停止相關(guān)活動(dòng)，處上一年度營業(yè)額百分之四以下罰款。
第六十四條（違反備案行為） 人工智能提供者通過隱瞞有關(guān)情況、提供虛假材料等不正當(dāng)手段取得備案的，由國家人工智能主管部門予以撤銷備案，給予警告、通報(bào)批評；情節(jié)嚴(yán)重的，責(zé)令暫停信息更新，并處一萬元以上十萬元以下罰款。
人工智能提供者終止服務(wù)未按照本法第四十二條要求辦理注銷備案手續(xù)，或者發(fā)生嚴(yán)重違法情形受到責(zé)令關(guān)閉網(wǎng)站、吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營業(yè)執(zhí)照等行政處罰的，由國家人工智能主管部門予以注銷備案。
第六十五條（信用懲戒） 有本法規(guī)定的違法行為的，依照有關(guān)法律、行政法規(guī)的規(guī)定記入信用檔案，并予以公示。
第六十六條（民事侵權(quán)責(zé)任） 研發(fā)、提供的人工智能侵害個(gè)人權(quán)益造成損害，研發(fā)者、提供者未履行本法規(guī)定的義務(wù)，應(yīng)當(dāng)承擔(dān)損害賠償?shù)惹謾?quán)責(zé)任，但研發(fā)者和提供者能證明自己沒有過錯(cuò)的除外。
前款規(guī)定的損害賠償責(zé)任按照使用者或受影響的個(gè)人、組織因此受到的損失或者研發(fā)者、提供者因此獲得的利益確定；使用者或受影響的個(gè)人、組織因此受到的損失和提供者因此獲得的利益難以確定的，根據(jù)實(shí)際情況確定賠償數(shù)額。
第六十七條（公益訴訟） 違反本法規(guī)定提供人工智能，侵害眾多個(gè)人的權(quán)益的，人民檢察院、法律規(guī)定的消費(fèi)者組織和由國家人工智能主管部門確定的組織可以依法向人民法院提起訴訟。
第六十八條（治安管理處罰和刑事責(zé)任的銜接） 違反本法規(guī)定，構(gòu)成違反治安管理行為的，依法給予治安處罰；構(gòu)成犯罪的，依法追究刑事責(zé)任。
第六十九條（合規(guī)不起訴） 人工智能研發(fā)者、提供者違反本法規(guī)定，承擔(dān)行政責(zé)任的，行為主體合規(guī)建設(shè)經(jīng)評估符合有效性標(biāo)準(zhǔn)的，則列入輕微違法行為依法免予處罰。
違反本法規(guī)定，構(gòu)成犯罪的，納入企業(yè)合規(guī)改革試點(diǎn)工作，涉案企業(yè)合規(guī)建設(shè)經(jīng)評估符合有效性標(biāo)準(zhǔn)的，人民檢察院可以參考評估結(jié)論依法作出不批準(zhǔn)逮捕、變更強(qiáng)制措施、不起訴的決定，提出從寬處罰的量刑建議，或者向有關(guān)主管機(jī)關(guān)提出從寬處罰、處分的檢察意見。
第七十條（國家機(jī)關(guān)不履職的責(zé)任） 國家機(jī)關(guān)不履行本法規(guī)定的義務(wù)的，由其上級機(jī)關(guān)或者國家人工智能主管部門責(zé)令改正；對直接負(fù)責(zé)的主管人員和其他直接責(zé)任人員依法給予處分。
國家機(jī)關(guān)工作人員玩忽職守、濫用職權(quán)、徇私舞弊，尚不構(gòu)成犯罪的，依法給予處分。
依法不構(gòu)成行政執(zhí)法過錯(cuò)的情形，不追究有關(guān)工作人員的行政執(zhí)法責(zé)任。
第七章 附則
第七十一條（定義） 本法下列用語的含義：
?。ㄒ唬?人工智能，是指以一定自主程度運(yùn)行，服務(wù)于特定的目標(biāo)，能夠通過預(yù)測、推薦或決策等方式影響物理或虛擬環(huán)境的自動(dòng)化系統(tǒng)，包括數(shù)據(jù)、特征、模型、服務(wù)提供接口和所嵌入的終端設(shè)備等；
?。ǘ?人工智能研發(fā)者，是指僅從事算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)標(biāo)注、特征提取、模型訓(xùn)練和優(yōu)化、測試部署等人工智能研究和開發(fā)活動(dòng)的個(gè)人、組織；
?。ㄈ?人工智能提供者，是指出于商業(yè)目的提供人工智能或者為其提供相關(guān)技術(shù)支持的個(gè)人、組織，或者無論是否出于商業(yè)目的，面向公眾提供人工智能或者為其提供相關(guān)技術(shù)支持的個(gè)人、組織；
?。ㄋ模?人工智能使用者，是指依照人工智能的性能和用途對其加以利用的個(gè)人、組織。
第七十二條（施行日期） 本法自 年 月 日起施行。
第七十三條（負(fù)面清單公開制度） 國家人工智能主管機(jī)關(guān)應(yīng)當(dāng)不晚于本法實(shí)施之日前六個(gè)月公開人工智能負(fù)面清單，并在定期更新后及時(shí)公開。
責(zé)任編輯：張薇