發(fā)展負(fù)責(zé)任的生成式人工智能研究報(bào)告及共識文件（2023）

來源：世界互聯(lián)網(wǎng)大會時(shí)間：2023-11-10 13:21:32 作者：

　　近日，在烏鎮(zhèn)召開的人工智能賦能產(chǎn)業(yè)發(fā)展論壇上，來自企業(yè)、研究機(jī)構(gòu)、國際組織等各方的代表，共同發(fā)布了《發(fā)展負(fù)責(zé)任的生成式人工智能研究報(bào)告及共識文件》。

　　回顧人工智能60余年的發(fā)展歷程，技術(shù)突破不僅會創(chuàng)造發(fā)展機(jī)遇，也會帶來相應(yīng)的挑戰(zhàn)。統(tǒng)籌人工智能發(fā)展和治理逐漸成為全球共識，自2016年以來，全球多個(gè)國際組織、國家、地區(qū)及產(chǎn)業(yè)界，積極探索人工智能發(fā)展與治理路徑，已經(jīng)形成了系列共識原則、治理要求、實(shí)踐范式等?？紤]到人工智能尚處在快速發(fā)展的過程中，相關(guān)工作仍需要持續(xù)推進(jìn)。

　　信息技術(shù)革命在進(jìn)入人工智能階段之后，以生成式人工智能為代表的技術(shù)，又取得了長足的進(jìn)步和發(fā)展。如《研究報(bào)告及共識文件》中所明確指出的那樣：

　　其一，在“模型、數(shù)據(jù)、算力”等三大要素持續(xù)迭代和高速演進(jìn)的推動下，人工智能不斷在工程維度的發(fā)展和應(yīng)用中，實(shí)現(xiàn)快速突破。就全球范圍的發(fā)展情況來看，Transformer為主的基礎(chǔ)模型依托相關(guān)研究主體的長期持續(xù)投入，通過ChatGPT、Stabel Diffusion、BLIP-2等，在大語言模型、視覺生成模型、多模態(tài)模型等細(xì)分領(lǐng)域，持續(xù)實(shí)現(xiàn)模型能力的躍升。這種躍升的主要體現(xiàn)，是參數(shù)規(guī)模進(jìn)入1000億量級，處理復(fù)雜自然語言能力因此呈現(xiàn)顯著發(fā)展；在數(shù)據(jù)領(lǐng)域，多場景的大模型預(yù)訓(xùn)練數(shù)據(jù)集不斷涌現(xiàn)，研究機(jī)構(gòu)形成了通過發(fā)布微調(diào)數(shù)據(jù)集方式，提升預(yù)訓(xùn)練用數(shù)據(jù)集的效能；合成數(shù)據(jù)解決訓(xùn)練數(shù)據(jù)資源可持續(xù)性的探索也取得了較為顯著的成效；算力芯片和架構(gòu)的持續(xù)迭代，在訓(xùn)練效能、云邊端算力效能優(yōu)化等方面，對生成式人工智能的發(fā)展提供了有效的支撐。

　　其二，應(yīng)用前景催生了開源開放驅(qū)動生成式人工智能生態(tài)的迅速發(fā)展，整體趨向繁榮發(fā)展。從應(yīng)用場景看，開源生態(tài)與開放驅(qū)動成為當(dāng)下推動人工智能生態(tài)發(fā)展的主基調(diào)，模型迭代優(yōu)化、研發(fā)門檻降低、縮短初創(chuàng)成本等，成為各方廣泛認(rèn)知的主要優(yōu)勢。與此相應(yīng)的，在ChatGPT的刺激下，生成式人工智能的開發(fā)者社區(qū)迅速涌現(xiàn)，成為支撐和推動相關(guān)技術(shù)與應(yīng)用發(fā)展的主渠道。Hugging Face、華為云AI Gallery、阿里巴巴、FlagOpen飛智、百度的飛槳星河等社區(qū)憑借各自比較優(yōu)勢，在其中發(fā)揮了至關(guān)重要的作用。

　　其三，生成式人工智能的階段性高速發(fā)展再度激發(fā)了人們對于發(fā)展通用式人工智能的勇敢想象與積極探索。如《研究報(bào)告及共識文件》指出的那樣，由于生成式人工智能的這一輪突破，尤其是其中與多模態(tài)方向發(fā)展相一致的發(fā)展，催生了人們新的想象與探索：人們預(yù)期，伴隨著多模態(tài)生成模型技術(shù)的突破，能夠更好地理解和處理復(fù)雜的現(xiàn)實(shí)場景，或許將帶來更多的想象空間，比如可以探索將多模態(tài)生成模型與機(jī)器人技術(shù)結(jié)合等方式，繼而以某種形式盡可能趨近模仿人類感知復(fù)雜世界能力的呈現(xiàn)。

　　很自然的，生成式人工智能帶來的機(jī)遇和挑戰(zhàn)，同步存在：

　　從積極的角度看，生成式人工智能可能帶來的經(jīng)濟(jì)增長前景，日趨明朗。根據(jù)麥肯錫2023年6月的樂觀預(yù)測，生成式人工智能每年可能為全球經(jīng)濟(jì)增加2.6萬億至4.4萬億美元的價(jià)值。根據(jù)高盛研究，在滿足增長條件的情況下，生成式人工智能的突破將在10年內(nèi)推動全球GDP增長7%。對生成式人工智能以及通用式人工智能未來發(fā)展前景的合理展望，有助于人們確信人類的生產(chǎn)活動和滿足特定要求的服務(wù)行業(yè)，未來均可能面臨顯著的增長前景，有理由保持樂觀預(yù)期。

　　從生成式人工智能的可能應(yīng)用場景來看，現(xiàn)代社會的基礎(chǔ)服務(wù)體系可能獲得有效賦能，預(yù)期城市運(yùn)營管理、災(zāi)害救助與事故分析、實(shí)時(shí)預(yù)警與風(fēng)險(xiǎn)管理、定制化個(gè)性化的新型教育體系、新型就業(yè)崗位與就業(yè)機(jī)會、以及迫切需要得到實(shí)質(zhì)性賦能的醫(yī)療和養(yǎng)老行業(yè)，均可能從人工智能的負(fù)責(zé)任發(fā)展中獲得實(shí)質(zhì)性的收益。此外公益事業(yè)中的無障礙數(shù)字環(huán)境建設(shè)、全球文化成果保護(hù)和傳播，以及全球環(huán)境治理和可持續(xù)發(fā)展，也有希望從生成式人工智能的噴薄發(fā)展中得到全新的賦能與助力。作為高質(zhì)量的“聰明”助手，生成式人工智能在助力科學(xué)研究中所具有的廣闊前景，也同時(shí)日趨清晰地呈現(xiàn)。

　　客觀而謹(jǐn)慎地看，生成式人工智能帶來的風(fēng)險(xiǎn)挑戰(zhàn)也是顯而易見的，預(yù)先訓(xùn)練大模型時(shí)投喂的數(shù)據(jù)不可避免地存在缺陷，價(jià)值偏見、隱私泄露、數(shù)據(jù)污染等，如《研究報(bào)告及共識文件》所指出的那樣，是已經(jīng)被廣泛察覺到的主要風(fēng)險(xiǎn)；算法模型的“幻覺”，虛假信息干擾，指向模型的網(wǎng)絡(luò)攻擊等，均揭示了人工智能發(fā)展帶來的新型安全隱患和風(fēng)險(xiǎn)；此外，高速技術(shù)迭代帶來的科技倫理失范以及人類社會發(fā)展失衡等問題，也日趨明顯地成為各方必須共同關(guān)注，并探究治理方案的關(guān)鍵所在；在更廣義的政治經(jīng)濟(jì)學(xué)分析框架中，生成式人工智能對數(shù)字勞動和能源損耗等領(lǐng)域的重大影響，也已經(jīng)到了必須早日提上議事日程的時(shí)候，其后帶來的發(fā)展，值得我們各方高度關(guān)注。

　　具體內(nèi)容如下：