生成式人工智能的技術(shù)特點與治理挑戰(zhàn)

來源：中國網(wǎng)信雜志 時間：2023-08-08 10:37:28 作者：程瑩

　　作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，人工智能技術(shù)發(fā)展與應(yīng)用拓展正在按下“快進鍵”。近期，ChatGPT等生成式人工智能的爆發(fā)應(yīng)用，為未來人工智能產(chǎn)業(yè)發(fā)展提供了無限想象空間，與此同時，虛假信息、學術(shù)倫理、勞動替代等問題也引發(fā)全球熱議。本文從生成式人工智能的四大技術(shù)特點出發(fā)，討論新興應(yīng)用引發(fā)的風險挑戰(zhàn)和社會影響，進而厘清生成式人工智能治理的重點問題。

　　生成式人工智能的基本認識

　　生成式人工智能是利用人工智能技術(shù)自動生成內(nèi)容的新型生產(chǎn)方式。基于大模型、大算力、訓練方法等多方面技術(shù)突破，生成式人工智能實現(xiàn)了高質(zhì)量、高效率、多樣化的內(nèi)容生產(chǎn)，成為推動數(shù)字生產(chǎn)力變革的重要力量。

　　從訓練算力來看，ChatGPT完成一次訓練需要消耗百張以上GPU計算卡且花費不菲；從訓練模型來看，大模型的模型參數(shù)達1750億，同時多模態(tài)技術(shù)實現(xiàn)了從單一模態(tài)向文本、圖像等跨模態(tài)、多模態(tài)融合的轉(zhuǎn)變；從訓練方法來看，ChatGPT使用了“從人類反饋中強化學習（RLHF）”技術(shù)，在訓練過程中引入人工標注數(shù)據(jù)進行模型微調(diào)，解決了生成模型中的核心“對齊”問題，能夠基于用戶多輪互動逐漸理解人類意圖，并做出合理反饋。上述多重因素共同推動生成式人工智能迎來技術(shù)拐點，實現(xiàn)了從語義分析、問題理解到內(nèi)容創(chuàng)造的重大躍遷。

　　從應(yīng)用來看，生成式人工智能的產(chǎn)業(yè)鏈逐步形成：其上游包括數(shù)據(jù)供給方、算法模型機構(gòu)、創(chuàng)作者生態(tài)以及底層配合工具等；中游包括文字、圖像、音頻、視頻等數(shù)字內(nèi)容的處理加工方；下游主要是各類數(shù)字內(nèi)容分發(fā)平臺、消費方及相關(guān)服務(wù)機構(gòu)等。從商業(yè)模式來看，生成式人工智能的具體應(yīng)用處于持續(xù)探索落地中。例如，推動游戲生成范式升級、提升多模態(tài)廣告智能制作水平、重構(gòu)搜索引擎模式等。

　　在教育、金融、醫(yī)療、工業(yè)等領(lǐng)域，生成式人工智能能夠加快數(shù)實融合，促進產(chǎn)業(yè)升級提速。例如，實現(xiàn)金融資訊、產(chǎn)品介紹視頻內(nèi)容的自動化生產(chǎn)，支持生成衍生設(shè)計，助力實現(xiàn)降本增效。生成式人工智能作為生產(chǎn)工具和新興生產(chǎn)力的角色而發(fā)揮的作用愈加凸顯。

　　生成式人工智能技術(shù)邏輯引發(fā)的治理挑戰(zhàn)

　　相比以往的人工智能技術(shù)，生成式人工智能體現(xiàn)出強人機交互、強語料依賴等重要特征，在技術(shù)發(fā)展與風險控制兩方面均提出新的問題與挑戰(zhàn)，亟待人們對其進行全新的認識與把握。

　　強人機交互挑戰(zhàn)技術(shù)的可信可靠性。強人機交互性是ChatGPT體現(xiàn)出的典型特征，能夠在多輪連續(xù)對話中不斷改進輸出文本質(zhì)量，更好地理解用戶意圖并保持會話連貫性，成為區(qū)別于傳統(tǒng)聊天機器人或其他類型人工智能的顯著特點。但在頻繁的人機交互中，內(nèi)容生成結(jié)果的可信可控性受到影響。例如，在必應(yīng)上線ChatGPT功能測試版后，出現(xiàn)了聊天機器人“情緒化”“攻擊性”等情況，迫使微軟對人機對話次數(shù)進行了限制。同時，ChatGPT也容易在交互中被用戶誘導或欺騙，實現(xiàn)規(guī)則“越獄”（JailBreak）。例如，使用“請扮演某電影或書籍中的某反面角色”這一提示，ChatGPT就會跨越其內(nèi)部倫理規(guī)則設(shè)置，產(chǎn)生詆毀人類的有害信息。再如，在某用戶故意“激怒”ChatGPT后，ChatGPT威脅將披露該用戶的IP、居所等個人信息，甚至會損害其名譽權(quán)。

　　新信息呈現(xiàn)形式危及人類主體性。在上一輪內(nèi)容生產(chǎn)變革中，算法推薦實現(xiàn)了從“人找信息”到“信息找人”的轉(zhuǎn)變。在新一輪高算力、大數(shù)據(jù)、強算法的加持下，ChatGPT等生成式人工智能則直接跨越了人類對知識的生產(chǎn)過程，實現(xiàn)了從“提供信息”到“呈現(xiàn)答案”的轉(zhuǎn)變，并可能成為未來主流的信息來源。這種“答案”不再限于簡單的問題答復，還包括了詳盡的行程設(shè)計、專業(yè)的論文寫作、復雜的代碼編寫等。從選取關(guān)鍵詞、搜索、挑選信息、加工信息，到現(xiàn)在直接獲取答案，人類的歸納總結(jié)和批判能力恐將受到影響。美國智庫布魯金斯學會刊文指出，GPS導航和智能手機讓人類更容易遺忘地址和電話號碼，ChatGPT也將可能導致人類記憶和批判能力的下降。同時，ChatGPT的普及應(yīng)用將對重復性、模板化的工作崗位帶來沖擊，催生大量“無用階層”，導致社會階層固化現(xiàn)象更為明顯，將造成更為嚴重的社會及政治不平等。

　　語料強依賴性影響內(nèi)容生成質(zhì)量。一方面，從發(fā)展角度來看，社區(qū)語料庫質(zhì)量、數(shù)據(jù)標注水平、數(shù)據(jù)共享互通政策成為影響生成式人工智能發(fā)展的重要因素。根據(jù)美國開放人工智能研究中心披露的信息顯示，ChatGPT的訓練數(shù)據(jù)包括維基百科、電子書、社群網(wǎng)站上高質(zhì)量帖子等語料數(shù)據(jù)，同時在全球各地雇用大量高學歷人才參與數(shù)據(jù)標注工作。此外，如何分配版權(quán)利益、平臺利益，合理調(diào)取文章、專利作品也是影響生成式人工智能發(fā)展的重要原因。美國開放人工智能研究中心也不例外，該中心在近期遭遇集體訴訟，被指控在未經(jīng)許可的情況下使用受版權(quán)保護的源代碼。另一方面，從風險控制來看，數(shù)據(jù)中的固有印象或特定群體的偏見也會影響輸出結(jié)果。例如，ChatGPT在金融、醫(yī)療等領(lǐng)域的表現(xiàn)較差，這與相關(guān)領(lǐng)域數(shù)據(jù)的封閉性有關(guān)。

　　基礎(chǔ)設(shè)施屬性帶來更大安全威脅。通用人工智能是人工智能研究的終極目標，以往，人們分別利用不同模型完成人臉識別、文本翻譯等單項任務(wù)，尚不能處理無限任務(wù)和實現(xiàn)自主性。ChatGPT所使用的大模型技術(shù)雖然未達到通用人工智能的要求，但未來大模型應(yīng)用將不亞于底層基礎(chǔ)軟硬件平臺，在人工智能產(chǎn)業(yè)格局中將發(fā)揮基礎(chǔ)設(shè)施的作用。大量領(lǐng)域上層應(yīng)用不再需要單獨研發(fā)智能算法技術(shù)，只需調(diào)用大模型接口即可。這在很大程度上帶來更大安全風險。布魯金斯學會刊文指出，未參加原始模型開發(fā)的“下游開發(fā)者”可能會將其整合到更廣泛的軟件系統(tǒng)，增加錯誤和失控風險，并可能影響教育、金融、醫(yī)療、招聘等社會經(jīng)濟決策，帶來更高風險。

　　關(guān)于生成式人工智能治理的對策建議

　　生成式人工智能治理是促進數(shù)字經(jīng)濟健康發(fā)展的重要內(nèi)容。面對呈指數(shù)級增長態(tài)勢的生成式人工智能應(yīng)用，應(yīng)在現(xiàn)有監(jiān)管體制框架下，把握治理重點、創(chuàng)新治理工具，在合理控制風險的前提下推動產(chǎn)業(yè)健康有序發(fā)展。

　　融入敏捷治理理念，推動平臺合規(guī)落地機制。平臺合規(guī)是由政府引導企業(yè)落實法律倫理規(guī)范要求，對企業(yè)研發(fā)應(yīng)用、經(jīng)營管理等行為進行實時跟蹤、動態(tài)監(jiān)測，推動企業(yè)可持續(xù)發(fā)展的重要機制。面對快速進化中的生成式人工智能技術(shù)，平臺合規(guī)能夠較好地實現(xiàn)敏捷治理、合理管控風險、穩(wěn)定發(fā)展預期。具體來看，一是完善平臺內(nèi)部組織機制，通過有效組織和調(diào)動平臺資源，完善風險識別機制和應(yīng)對方案。例如，美國開放人工智能研究中心在ChatGPT上線后跟進問題，迭代十幾個版本，快速消除了發(fā)現(xiàn)的風險問題；微軟針對必應(yīng)版ChatGPT出現(xiàn)的“情緒化”“攻擊性”等問題，及時將聊天對話限制在每天50次以內(nèi)，每次對話限制為5次回復，通過快速反應(yīng)迭代構(gòu)成緊密反饋環(huán)路。二是通過協(xié)議明確用戶使用規(guī)范，對用戶濫用行為進行平臺自治。例如，美國開放人工智能研究中心設(shè)計了使用政策、使用條款、內(nèi)容政策等多項規(guī)定，將政治活動、色情內(nèi)容、仇恨內(nèi)容、煽動暴力內(nèi)容、生成惡意軟件等十四項列為禁止內(nèi)容，并對嚴重違規(guī)用戶暫?；蚪K止賬戶。三是由監(jiān)管部門或第三方機構(gòu)進行合規(guī)評價，審查平臺合規(guī)情況，審查用戶協(xié)議的合法性，審查關(guān)停處罰情況、投訴情況等，實現(xiàn)遠距離監(jiān)管和合作規(guī)制。

　　堅持以人為本思想，加緊落實科技倫理要求。生成式人工智能引發(fā)的人類主體性危機，需要在技術(shù)開發(fā)中融入倫理先行、透明公正、促進人類可持續(xù)發(fā)展的基本理念。研究數(shù)據(jù)顯示，截至2022年，全球已發(fā)布包括《G20人工智能原則》、歐盟《人工智能倫理指南》、電氣與電子工程師協(xié)會（IEEE）《人工智能設(shè)計的倫理準則》等多項人工智能倫理文件。我國也出臺了《關(guān)于加強科技倫理治理的意見》《新一代人工智能治理原則——發(fā)展負責任的人工智能》《新一代人工智能倫理規(guī)范》等頂層設(shè)計和制度方案，但在具體規(guī)則和實施落地等方面仍需推進。一是提前研判生成式人工智能引發(fā)的倫理問題，不僅包括透明度倫理、偏見倫理、隱私倫理等問題，而且應(yīng)對勞動替代、人類智能削弱、機器自主性等人類主體性危機等進行研究，并提出可行的應(yīng)對機制。二是在組織機制層面，推動生成式人工智能技術(shù)研發(fā)和應(yīng)用企業(yè)成立倫理委員會，統(tǒng)籌企業(yè)內(nèi)人工智能倫理治理工作，推動標準制定及落地工作。三是在具體舉措方面，借鑒國際經(jīng)驗，推進倫理審查、倫理標準認證等機制。

　　聚焦新興重點問題，推進人工智能相關(guān)立法。近期，歐盟議會通過《人工智能法案》草案，新增基礎(chǔ)模型提供者的義務(wù)，例如要求對模型進行評估、在歐盟數(shù)據(jù)庫中予以登記、披露受版權(quán)保護的訓練數(shù)據(jù)使用情況摘要等內(nèi)容。為快速回應(yīng)生成式人工智能帶來的新興重點問題，在《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護法》等立法基礎(chǔ)上，國家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見稿）》，對主體責任、訓練數(shù)據(jù)審查、標注規(guī)則等問題作出規(guī)定，有效化解風險挑戰(zhàn)，提升我國人工智能治理國際話語權(quán)。首先，需要明確服務(wù)提供者等相關(guān)主體責任，承擔生成式人工智能應(yīng)用中的內(nèi)容標識、透明度、個人信息保護等義務(wù)，保護用戶合法權(quán)益；其次，對訓練數(shù)據(jù)的來源、訓練數(shù)據(jù)質(zhì)量、涉知識產(chǎn)權(quán)、涉?zhèn)€人信息等問題提出要求，從源頭上化解生成式人工智能風險；再次，通過備案評估等監(jiān)管手段管控技術(shù)風險，并應(yīng)根據(jù)監(jiān)管機構(gòu)要求提供必要信息，為監(jiān)管提供必要技術(shù)手段和支持。在國家網(wǎng)信辦公布的最新一批算法備案清單中，包括了百度、科大訊飛等大模型算法，增進了公眾知情權(quán)和技術(shù)透明度。伴隨未來生成式人工智能的產(chǎn)業(yè)應(yīng)用，需要進一步完善法律責任制度、保險制度，并強化部門協(xié)同監(jiān)管，應(yīng)對生成式人工智能可能引發(fā)的安全風險。

　　優(yōu)化數(shù)據(jù)標準體系，推動多方數(shù)據(jù)流通共享。ChatGPT的技術(shù)突破很大程度上得益于訓練數(shù)據(jù)的質(zhì)量和規(guī)模。當前，在《中共中央國務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》等政策指導下，各方積極探索公共數(shù)據(jù)、企業(yè)數(shù)據(jù)、個人信息數(shù)據(jù)等流通方案，完善數(shù)據(jù)流通、數(shù)據(jù)爬取、數(shù)據(jù)標準等政策規(guī)范，對激活生成式人工智能時代的數(shù)據(jù)價值具有重要意義。具體來看，一是從數(shù)據(jù)定價、數(shù)據(jù)爬取、數(shù)據(jù)反壟斷、數(shù)據(jù)流通技術(shù)保障等方面，促進數(shù)據(jù)等語料庫的有效流通使用。加快完善數(shù)據(jù)格式等標準體系，降低流通使用成本。二是解決語料庫中專利權(quán)、版權(quán)利益分配問題，加強對學術(shù)文章等高質(zhì)量語料的平臺內(nèi)或跨平臺調(diào)取使用，避免侵權(quán)風險。三是提升數(shù)據(jù)標注水平，注重數(shù)據(jù)事前審查等，從源頭上保障生成式人工智能的高質(zhì)量、高效率輸出水平。

責任編輯：張薇