生成式人工智能撬動(dòng)科研范式重塑變革

來源：中國科學(xué)技術(shù)發(fā)展戰(zhàn)略研究院 時(shí)間：2023-07-26 10:40:50 作者：張九慶

　　當(dāng)下，通過顛覆性的人工智能來驅(qū)動(dòng)科學(xué)研究（AIforScience），已成為人工智能與科學(xué)技術(shù)融合發(fā)展的新前沿。2023年3月，科技部、國家自然科學(xué)基金委已經(jīng)聯(lián)合啟動(dòng)我國AIforScience專項(xiàng)部署工作，以統(tǒng)籌指導(dǎo)、系統(tǒng)布局我國在此領(lǐng)域的創(chuàng)新工作。2023年5月，《自然》雜志刊發(fā)了百度公司利用人工智能設(shè)計(jì)出的mRNA序列優(yōu)化算法，此算法能為研制穩(wěn)定性更強(qiáng)、成藥性更好的新冠病毒疫苗提供新的工具。

　　雖然面向重大科學(xué)問題的人工智能技術(shù)和工具還需要更多時(shí)日才能走向成熟，但是以智能聊天技術(shù)ChatGPT為代表的生成式人工智能（依托大型語言數(shù)據(jù)庫，基于算法、模型、規(guī)則來生成各種文本、圖片、聲音、視頻、代碼等內(nèi)容）已經(jīng)日趨完善，正廣泛應(yīng)用于科研活動(dòng)中，將對(duì)科研人員的科研行為產(chǎn)生一系列影響。

　　一方面，生成式人工智能將成為科研人員無時(shí)不在的數(shù)字秘書和科研助手。生成式人工智能具有極強(qiáng)的整合信息和生成文本的能力，通過快速搜索、查詢和分析已有文獻(xiàn)數(shù)據(jù)庫，它能幫助科研人員完成實(shí)驗(yàn)方案設(shè)計(jì)、論文初稿撰寫、演示文稿和圖表生成、編寫代碼、統(tǒng)計(jì)分析等一系列工作，從而使得科研人員加速完成科研任務(wù)，快速發(fā)表科研論文，騰出更多的時(shí)間和精力開展新的研究工作?？梢灶A(yù)測(cè)的是，隨著生成式人工智能技術(shù)的進(jìn)一步成熟，會(huì)有越來越多的應(yīng)用工具被開發(fā)和推廣，科研論文的產(chǎn)出將呈現(xiàn)快速增長(zhǎng)的趨勢(shì)。

　　另一方面，這一增長(zhǎng)趨勢(shì)也會(huì)給科研活動(dòng)帶來巨大的挑戰(zhàn)。科學(xué)家承認(rèn)一篇科學(xué)論文價(jià)值的基礎(chǔ)在于它必須遵守原創(chuàng)性、客觀性、準(zhǔn)確性和透明性等科學(xué)研究的準(zhǔn)則。一些科學(xué)家和出版機(jī)構(gòu)已發(fā)表聲明，拒絕發(fā)表使用生成式人工智能撰寫的科學(xué)論文，原因就在于這類論文在多方面?zhèn)涫苜|(zhì)疑。例如，使用ChatGPT輔助寫作的科研人員其實(shí)并不清楚ChatGPT訓(xùn)練的大型數(shù)據(jù)庫的數(shù)據(jù)來源、數(shù)據(jù)庫信息源的真?zhèn)巍⒄撐淖髡邩?gòu)成、算法規(guī)則和機(jī)制，這種情況下如何對(duì)論文進(jìn)行科學(xué)的檢驗(yàn)、證偽變得更加重要。同時(shí)，科學(xué)論文的傳統(tǒng)把關(guān)方式——同行評(píng)議和出版機(jī)構(gòu)也面臨著全新的挑戰(zhàn)，因?yàn)楸M管有研發(fā)者正在開發(fā)檢測(cè)工具來判定一篇論文是來自機(jī)器還是人工，但目前學(xué)界尚沒有足夠的精力和能力來對(duì)科學(xué)論文是否由生成式人工智能工具完成進(jìn)行驗(yàn)證。

　　還有一些更為模糊和寬泛的灰色地帶也值得我們提前關(guān)注和討論，給出預(yù)警和明示。例如，生成式人工智能的過度使用是否會(huì)降低新入行的科研人員閱讀和分析科研文獻(xiàn)的能力，熱點(diǎn)高頻詞的頻繁使用是否會(huì)使得科研論文更加平庸或者放大偏見，科研人員在多大程度上使用生成式人工智能工具可以被認(rèn)定為科研不端行為或者科研失信行為等。

　　總之，人工智能將深刻改變我們的科研范式，生成式人工智能工具貫穿科研活動(dòng)全過程，既能加速科研創(chuàng)新活動(dòng)，也能威脅到科研誠信。如何建立新的科研倫理規(guī)范，促進(jìn)生產(chǎn)式人工智能的可持續(xù)發(fā)展和合理應(yīng)用，亟須科技創(chuàng)新政策學(xué)者、管理學(xué)者深入研究并提出應(yīng)對(duì)之策。

責(zé)任編輯：張薇