字節(jié)跳動(dòng)首次公布大模型進(jìn)展

來(lái)源：數(shù)據(jù)觀綜合 時(shí)間：2023-06-29 16:09:19 作者：

　　6月28日下午，字節(jié)跳動(dòng)公布了大模型業(yè)務(wù)最新進(jìn)展。字節(jié)跳動(dòng)旗下的火山引擎召開(kāi)發(fā)布會(huì)，首次正式公布在大模型領(lǐng)域的研發(fā)布局和合作進(jìn)展，并發(fā)布大模型服務(wù)平臺(tái)“火山方舟”，提供模型訓(xùn)練、推理、評(píng)測(cè)、精調(diào)等全方位功能與服務(wù)。

　　據(jù)介紹，“火山方舟”內(nèi)集成了百川智能、出門(mén)問(wèn)問(wèn)、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研院所的大模型，目前正啟動(dòng)邀測(cè)。

　　推動(dòng)大模型形成生產(chǎn)力

　　此前，百度、阿里、騰訊、商湯、360 等國(guó)內(nèi)大廠已經(jīng)相繼宣布入局，大部分的做法都是發(fā)布一個(gè)通用大模型或者數(shù)個(gè)行業(yè)大模型底座，行業(yè)客戶(hù)可以基于這些基礎(chǔ)模型和自身?yè)碛械男袠I(yè)數(shù)據(jù)精調(diào)，打造一個(gè)服務(wù)自身業(yè)務(wù)的 AI 應(yīng)用。

　　值得注意的是，但字節(jié)跳動(dòng)的切入方式與其他大廠有明顯的不同，其公布的是大模型B端業(yè)務(wù)，而C端自研大模型仍在保密中。

　　“火山方舟”由字節(jié)跳動(dòng)旗下火山引擎搭建，提供了一個(gè)大模型服務(wù)平臺(tái)，供開(kāi)發(fā)者和企業(yè)使用。其運(yùn)營(yíng)模式是，在一個(gè)平臺(tái)內(nèi)提供多個(gè)模型，企業(yè)可同步試用多個(gè)大模型，選用更適合自身業(yè)務(wù)需要的模型組合。

　　對(duì)模型提供方，通過(guò) “火山方舟”能夠以更低的成本觸達(dá)海量客戶(hù)，更小的代價(jià)在ToB市場(chǎng)實(shí)現(xiàn)規(guī)?；粐?yán)謹(jǐn)?shù)陌踩バ艡C(jī)制，兼顧靈活性與安全性；源源不斷的算力，形成最具競(jìng)爭(zhēng)力的性?xún)r(jià)比。對(duì)模型使用者來(lái)說(shuō)，通過(guò) “火山方舟”可以便捷地接觸到眾多高質(zhì)量的基座模型，一站式對(duì)接多家模型提供商，為不同場(chǎng)景選擇最合適的模型。

　　具體來(lái)看，“火山方舟”基于大模型應(yīng)用的工作習(xí)慣，打造了多個(gè)核心部分?！澳Ｐ蛷V場(chǎng)”會(huì)有不同的模型供應(yīng)商提供不同版本和尺寸的模型，用戶(hù)可以直接與模型交互，調(diào)用推理API，接入生產(chǎn)環(huán)境；“模型評(píng)估”是“火山方舟”重點(diǎn)打造的環(huán)節(jié)入口，用戶(hù)可以基于業(yè)務(wù)需求設(shè)計(jì)一套可量化的評(píng)估指標(biāo)，在模型評(píng)估后挑選最合適的模型；“模型精調(diào)” 可以幫助客戶(hù)利用自有數(shù)據(jù)進(jìn)行持續(xù)訓(xùn)練，建設(shè)和積累自己的精調(diào)數(shù)據(jù)集，降低推理成本。

　　目前，抖音集團(tuán)內(nèi)部已有十多個(gè)業(yè)務(wù)團(tuán)隊(duì)試用“火山方舟”，在代碼糾錯(cuò)等研發(fā)提效場(chǎng)景，文本分類(lèi)、總結(jié)摘要等知識(shí)管理場(chǎng)景，以及數(shù)據(jù)標(biāo)注、歸因分析等方面探索，利用大模型能力促進(jìn)降本增效。這些內(nèi)部實(shí)踐在快速打磨“火山方舟”，推動(dòng)平臺(tái)能力的進(jìn)一步完善。

　　此外，為促進(jìn)模型提供方和模型使用方的互信，“火山方舟”上線了基于安全沙箱的大模型安全互信計(jì)算方案，利用計(jì)算隔離、存儲(chǔ)隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式，實(shí)現(xiàn)了模型的機(jī)密性、完整性和可用性保證，適用于對(duì)訓(xùn)練和推理延時(shí)要求較低的客戶(hù)。

　　群雄逐鹿大模型

　　自ChatGPT去年末在全球掀起巨大轟動(dòng)以來(lái)，大模型無(wú)疑已成為全球最熱鬧的賽道之一。

　　根據(jù)中國(guó)科學(xué)技術(shù)信息研究所發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》指出，近年來(lái)在自然語(yǔ)言處理、機(jī)器視覺(jué)和多模態(tài)等領(lǐng)域，國(guó)內(nèi)已經(jīng)涌現(xiàn)出多個(gè)具有行業(yè)影響力的預(yù)訓(xùn)練大模型，10億級(jí)參數(shù)規(guī)模以上大模型數(shù)量已達(dá)79個(gè)。

　　由于行業(yè)內(nèi)初創(chuàng)企業(yè)基本還處在起步階段，而頭部廠商大都在過(guò)往幾年里或多或少對(duì)大模型研發(fā)有所涉獵，在算力、人才、資金等層面都取得了一定的先發(fā)優(yōu)勢(shì)。這意味著當(dāng)前百舸爭(zhēng)流的熱鬧局面，實(shí)質(zhì)上還是幾大頭部廠商的對(duì)壘。

　　從大模型的布局體系來(lái)看，科技大廠在算力層、平臺(tái)層、模型層、應(yīng)用層進(jìn)行了四位一體的全面布局。百度、阿里、華為三家均從芯片到應(yīng)用進(jìn)行自主研發(fā)的全面布局，如百度的“昆侖芯+飛槳平臺(tái)+文心大模型+行業(yè)應(yīng)用”、阿里的“含光800芯片+M6-OFA底座+通義大模型+行業(yè)應(yīng)用”、華為的“昇騰芯片+MindSpore框架+盤(pán)古大模型+行業(yè)應(yīng)用”。垂直行業(yè)科技企業(yè)和科研院校，主要以研發(fā)大模型算法及細(xì)分領(lǐng)域應(yīng)用為主，自有算力相對(duì)薄弱，很少涉及芯片領(lǐng)域自主研發(fā)。

　　從大模型參數(shù)量看，科技大廠的參數(shù)量遠(yuǎn)大于科研院所?？萍即髲S的大模型參數(shù)量較大：阿里通義千問(wèn)大模型參數(shù)在10萬(wàn)億級(jí)以上、騰訊混元大模型和華為盤(pán)古大模型參數(shù)量均在萬(wàn)億級(jí)以上、百度文心一言大模型參數(shù)量在2千億級(jí)以上、京東言犀大模型的參數(shù)量為千億級(jí)；垂直行業(yè)科技企業(yè)已經(jīng)上線的參數(shù)量普遍在千億級(jí)以上；而科研院校大模型的參數(shù)量在千億級(jí)及以下。

　　從大模型應(yīng)用方向看，大部分企業(yè)前期以?xún)?nèi)部應(yīng)用為主，后續(xù)主要向B端企業(yè)拓展服務(wù)，預(yù)計(jì)少數(shù)企業(yè)將在C端市場(chǎng)形成規(guī)模。目前，百度文心大模型、華為盤(pán)古大模型、中國(guó)科學(xué)院紫東太初大模型均在B端垂類(lèi)市場(chǎng)積累了標(biāo)桿應(yīng)用案例，騰訊混元大模型、阿里通義大模型則更多聚焦公司自身業(yè)務(wù)。而在C端市場(chǎng)應(yīng)用方面，百度文心一言、阿里通義千問(wèn)、騰訊混元助手三類(lèi)大模型最有可能向此方向拓展，但目前只有百度文心一言大模型正在進(jìn)行友好客戶(hù)測(cè)試，阿里通義千問(wèn)大模型則計(jì)劃在今年9月份進(jìn)行公測(cè)，騰訊混元助手大模型則處于計(jì)劃開(kāi)發(fā)狀態(tài)。

　　從大模型業(yè)界評(píng)估看，國(guó)內(nèi)大模型與GPT-4有較大差距，但科技大廠具備追趕實(shí)力。目前國(guó)內(nèi)大模型處于百花齊放的狀態(tài)，但業(yè)界普遍認(rèn)為，第一梯隊(duì)當(dāng)屬百度、阿里巴巴、騰訊、華為四家。綜合實(shí)力方面，四家企業(yè)在大模型研發(fā)投入、技術(shù)能力和人才團(tuán)隊(duì)實(shí)力較強(qiáng)；商用推進(jìn)方面，四家企業(yè)均依托現(xiàn)有業(yè)務(wù)領(lǐng)域更容易形成大模型應(yīng)用規(guī)模效應(yīng)。

　　AI大模型競(jìng)爭(zhēng)，國(guó)內(nèi)廠商哪家強(qiáng)？

　　伴隨生成式AI等基于大模型發(fā)展的各類(lèi)應(yīng)用爆發(fā)，大模型帶來(lái)的價(jià)值進(jìn)一步升級(jí)到人類(lèi)生產(chǎn)力工具的顛覆式革新，逐漸拉開(kāi)了通用人工智能的發(fā)展序幕。近日，弗若斯特沙利文發(fā)布的《AI大模型市場(chǎng)研究報(bào)告（2023）》對(duì)中國(guó)市場(chǎng)提供大模型產(chǎn)品服務(wù)的廠商進(jìn)行了分析和評(píng)估。

　　報(bào)告指出，AI大模型的高速發(fā)展離不開(kāi)底層技術(shù)支持和應(yīng)用場(chǎng)景迭代。大模型作為AGI時(shí)代的曙光，相關(guān)廠商也將迎來(lái)廣闊的發(fā)展空間。報(bào)告從發(fā)展現(xiàn)狀、驅(qū)動(dòng)因素等推演了AI大模型廠商競(jìng)爭(zhēng)與發(fā)展的幾大關(guān)鍵點(diǎn)。其中，在競(jìng)爭(zhēng)格局漸趨明晰的過(guò)程中，相關(guān)廠商需跨越技術(shù)、人才、資金等壁壘，在產(chǎn)品技術(shù)能力、戰(zhàn)略愿景能力、生態(tài)開(kāi)放能力三大維度上展開(kāi)角逐。通過(guò)遴選，報(bào)告選擇了5家大模型廠商，分別為商湯、百度、阿里巴巴、華為、騰訊，評(píng)價(jià)模型包含15個(gè)一級(jí)指標(biāo)、56個(gè)二級(jí)指標(biāo)，對(duì)廠商大模型的各個(gè)能力進(jìn)行評(píng)估。

　　報(bào)告認(rèn)為，中國(guó)大模型廠商的成功因素主要包括：全棧大模型訓(xùn)練與研發(fā)能力、業(yè)務(wù)場(chǎng)景落地經(jīng)驗(yàn)、AI安全治理舉措以及生態(tài)開(kāi)放性四個(gè)方面，其中全棧大模型訓(xùn)練與研發(fā)能力還包括數(shù)據(jù)管理經(jīng)驗(yàn)、AI基礎(chǔ)設(shè)施建設(shè)與運(yùn)營(yíng)以及大模型系統(tǒng)和算法設(shè)計(jì)三個(gè)部分。這些成功因素分別體現(xiàn)著大模型廠商的產(chǎn)品技術(shù)能力、戰(zhàn)略愿景能力、生態(tài)開(kāi)放能力三個(gè)維度。

　　報(bào)告指出，在通往AGI時(shí)代的旅程上，大模型和人類(lèi)反饋的強(qiáng)化學(xué)習(xí)（RLHF）的結(jié)合，不僅重構(gòu)了AI開(kāi)發(fā)范式，未來(lái)軟件80%的價(jià)值將由AI大模型提供，剩余20%會(huì)由提示工程和傳統(tǒng)業(yè)務(wù)開(kāi)發(fā)組成，開(kāi)發(fā)者的生產(chǎn)力將得到極大釋放；與此同時(shí)，AI的發(fā)展也將由之前單向發(fā)展的數(shù)據(jù)飛輪升級(jí)到不斷迭代進(jìn)化的智慧飛輪，更高效地解決海量的開(kāi)放式任務(wù)。

責(zé)任編輯：張薇