與GPT-4對打！谷歌推出新模型PaLM2
來源：數(shù)據(jù)觀 時(shí)間：2023-05-11 16:36:24 作者：
5月10日周三舉行的谷歌年度開發(fā)者大會(huì)GoogleI/O2023上，谷歌亮出了人工智能（AI）領(lǐng)域開發(fā)的最新成果。
谷歌CEOSundarPichai開場就指出，過去一年，AI成為熱議話題，有了生成式AI，我們將邁出下一步。他說，要讓AI對人人都有幫助，通過AI增加知識(shí)，提升學(xué)習(xí)能力、創(chuàng)造力、生產(chǎn)力，讓他人能創(chuàng)新，負(fù)責(zé)任地創(chuàng)造和配置。
01
與GPT-4對打的PaLM2
在本屆I/O開發(fā)者大會(huì)上，谷歌發(fā)布了其最新大語言模型（LLM）PaLM2。PaLM2是？種基于Transformer的模型，使？類似于UL2的混合？標(biāo)進(jìn)？訓(xùn)練。
谷歌于2022年4月首次宣布推出PaLM模型。PaLM的應(yīng)用在這一年取得了很大的進(jìn)展，今年3月，該公司推出了一款適用于PaLM的API以及一系列人工智能企業(yè)工具，幫助企業(yè)“通過簡單的自然語言提示生成文本、圖像、代碼、視頻、音頻等”。這次大會(huì)上，Pichai宣布推出PaLM2預(yù)覽版本，改進(jìn)了數(shù)學(xué)、代碼、推理、多語言翻譯和自然語言生成能力。
- 多語言能力
谷歌聲稱，PaLM2是一種最先進(jìn)的語言模型，具有改進(jìn)的多語言、推理和編碼功能。PaLM2在所有數(shù)據(jù)集上都優(yōu)于PaLM，并取得了與GPT-4競爭的結(jié)果。
之前的大型預(yù)訓(xùn)練語言模型通常使用以英語文本為主的數(shù)據(jù)集，谷歌設(shè)計(jì)了一個(gè)更多語言和多樣化的預(yù)訓(xùn)練混合模型，擴(kuò)展到數(shù)百種語言和領(lǐng)域（例如編程語言、數(shù)學(xué)和并行多語言文檔）。更大的模型可以處理更多不同的非英語數(shù)據(jù)集，而不會(huì)導(dǎo)致英語語言理解性能的下降，并應(yīng)用重復(fù)數(shù)據(jù)刪除來減少記憶。
PaLM2在多語言文本方面接受了更多的訓(xùn)練，涵蓋100多種語言，顯著提高了其在多種語言中理解、生成和翻譯細(xì)微差別文本（包括成語、詩歌和謎語）的能力。根據(jù)基準(zhǔn)測試，對于具有思維鏈prompt或自洽性的MATH、GSM8K和MGSM基準(zhǔn)評估，PaLM2的部分結(jié)果超越了GPT-4。
PaLM2還通過了“精通”級別的高級語言能力考試。其中，PaLM2的日語水平達(dá)到了A級，而PaLM是F級。PaLM2的法語水平達(dá)到了C1級。
PaLM2和PaLM在最新的專業(yè)語？能？考試中的表現(xiàn)
不僅如此，PaLM2還了解重要的語言細(xì)微差別。在一篇描述PaLM2功能的研究論文中，谷歌工程師聲稱該系統(tǒng)的語言熟練程度“足以教授該語言”，并指出這是由于其訓(xùn)練數(shù)據(jù)中非英語文本更為普遍。
PaLM2的廣泛數(shù)據(jù)集包括科學(xué)論文和包含數(shù)學(xué)表達(dá)式的網(wǎng)頁，因此它還展示了邏輯、常識(shí)推理和數(shù)學(xué)方面的改進(jìn)能力。
圖片PaLM2推理能力示例
- 支持20種編程語言
PaLM2還改進(jìn)了對編寫和調(diào)試代碼的支持。該模型使用20種編程語言進(jìn)行了訓(xùn)練，包括JavaScript和Python等流行語言，還包括Prolog、Verilog和Fortran等語言。PaLM2構(gòu)成了Codey的基礎(chǔ)，Codey是谷歌用于編碼和調(diào)試的專業(yè)模型，它也作為其代碼完成和生成服務(wù)的一部分推出。
代碼語？模型是當(dāng)今最具經(jīng)濟(jì)意義和被？泛部署的LLM之？。為了在開發(fā)？員？作流程中進(jìn)？低延遲、？吞吐量部署，谷歌通過在擴(kuò)展的、代碼密集型、多語？的數(shù)據(jù)混合上繼續(xù)訓(xùn)練PaLM2-S模型，構(gòu)建了？個(gè)？型的、特定于編碼的PaLM2模型，谷歌將？成的模型稱為PaLM2-S*。
PaLM2-S*在大量公開可用的源代碼數(shù)據(jù)集上進(jìn)行了預(yù)訓(xùn)練。它擅長Python和JavaScript等流行的編程語言，但也可以生成Prolog、Fortran和Verilog等語言的專用代碼。
PaLM2-S在除了兩種語言之外的所有語言上都優(yōu)于PaLM，同時(shí)在像Julia和Haskell這樣的低資源語言上幾乎沒有下降。例如，PaLM2-S在Haskell上比更大的PaLM-Coder-540B提高了6.3倍，在Julia上提高了4.7倍。值得注意的是，Java、JavaScript和TypeScript的性能實(shí)際上比原始語言Python更高。
PaLM2可以跨編程和自然語言生成代碼和自然語言。大會(huì)上，Pichai還展示了在修改代碼Bug后，PaLM2給出的韓語評論。
（點(diǎn)擊鏈接看視頻：https://mp.weixin.qq.com/s/kdXn9knFaZ9QpySIXYgJ9A）
谷歌內(nèi)部已經(jīng)有超過70個(gè)產(chǎn)品團(tuán)隊(duì)正在使用PaLM2構(gòu)建產(chǎn)品，包括分別針對安全知識(shí)和醫(yī)療知識(shí)微調(diào)而成的Sec-PaLM和Med-PaLM2。
其中，Sec-PaLM是專注于安全用例的版本，使用AI幫助分析和解釋具有潛在惡意腳本的行為，并檢測哪些腳本對個(gè)人或組織構(gòu)成威脅。Med-PaLM2是基于健康數(shù)據(jù)訓(xùn)練的版本，可以輕松通過美國醫(yī)學(xué)執(zhí)照考試，達(dá)到“專家”水平。
02
Bard的進(jìn)化
在谷歌內(nèi)部，PaLM2已經(jīng)被用于支持25種功能和產(chǎn)品，包括該公司的實(shí)驗(yàn)性聊天機(jī)器人Bard。Bard在圖像功能、編碼功能和應(yīng)用程序集成等方面都做了大幅更新。
Bard將更加直觀地響應(yīng)用戶問題。比如對于“新奧爾良有哪些必看景點(diǎn)？”之類的問題，除了文本之外，用戶還將看到豐富的圖片視覺效果。用戶還可以在自己的要求中附加圖像和文本：
（點(diǎn)擊鏈接看視頻：https://mp.weixin.qq.com/s/kdXn9knFaZ9QpySIXYgJ9A）
編程方面，谷歌也將開發(fā)人員的反饋整合到了一些關(guān)鍵的編碼升級中，包括：
- 來源引用：從下周起，代碼引用將更加精確。如果Bard引入了一段代碼或引用了其他內(nèi)容，只需單擊注釋，Bard就會(huì)在相應(yīng)內(nèi)容下劃線并鏈接到源代碼。
- 深色主題：這是開發(fā)人員要求的另一項(xiàng)功能，谷歌希望以此讓開發(fā)人員更輕松地與Bard互動(dòng)。
- “導(dǎo)出”按鈕：谷歌即將與合作伙伴Replit一起推出導(dǎo)出和運(yùn)行代碼的功能，首先會(huì)從Python開始。
另外，由于人們經(jīng)常要求Bard搶先起草電子郵件和文檔，谷歌大會(huì)上推出了兩個(gè)導(dǎo)出操作，用戶可以輕松將Bard的回復(fù)直接轉(zhuǎn)移到Gmail和Docs中。
繼微軟5月4日宣布公司旗下基于ChatGPT-4的BingChat功能面向所有用戶開放后，谷歌在本次大會(huì)上也宣布，Bard將向180多個(gè)國家和地區(qū)開放，其他更多國家和地區(qū)也將陸續(xù)開放。Bard現(xiàn)在有日語和韓語版本，谷歌表示很快就會(huì)支持40種語言。
03
生成式AI加入谷歌搜索
發(fā)布會(huì)上，谷歌推出了一款A(yù)I驅(qū)動(dòng)的搜索引擎，其總體目標(biāo)是“讓搜索更智能，讓搜索更簡單”。
這款搜索引擎現(xiàn)可接收用戶輸入的提示詞，整個(gè)使用過程更趨近人們在現(xiàn)實(shí)生活中的問詢過程。而在我們熟悉的搜索結(jié)果列表之上，將出現(xiàn)由AI針對用戶問題生成的概括性回答。
谷歌高管CathyEdwards在大會(huì)上指出，不同于以往直接搜索“哪個(gè)國家公園最好玩”的用法，現(xiàn)在用戶可以像跟朋友聊天那樣詢問Google引擎哪處公園更適合帶小孩和遛狗。例如，用戶向搜索引擎提問，“對于帶3歲以下小孩和寵物狗出行的家庭來說，布萊斯峽谷公園和拱門國家公園哪個(gè)更適合？”
Edwards強(qiáng)調(diào)，“雖然問題本身沒有變化，但以往的搜索引擎可能沒法直接消化完整的查詢。用戶會(huì)把它拆分成多個(gè)更小的部分、篩選信息，然后再自行拼湊起來——現(xiàn)在，搜索功能本身將為您搞定這些麻煩?！?/p>
Edwards將谷歌生成的摘要稱為“AI驅(qū)動(dòng)的快照，能幫助您快速了解關(guān)于某個(gè)主題的概況?！闭袑瑏碓存溄?，用戶可以選擇不同的查看格式來進(jìn)一步剖析摘要背后的來源。AI生成的摘要還提供可點(diǎn)擊的建議問題以鼓勵(lì)交互，整個(gè)體驗(yàn)跟AI聊天機(jī)器人頗為相似。
AI驅(qū)動(dòng)的定制化結(jié)果，也有望重塑消費(fèi)者的線上購物體驗(yàn)。例如，谷歌在演示中詢問了關(guān)于適合日常出行的自行車款式，結(jié)果不僅包含指向自行車商品的鏈接、價(jià)格和評論，還提供關(guān)于適合特定用途的自行車建議，以及理想車型應(yīng)當(dāng)具備的幾大特點(diǎn)。Edwards提醒觀眾，在AI生成的摘要下方仍然保留了傳統(tǒng)的搜索結(jié)果列表，繼續(xù)將用戶引導(dǎo)至已發(fā)布的原始內(nèi)容處。她認(rèn)為正是這種可溯源性，幫助維持著“網(wǎng)絡(luò)的蓬勃發(fā)展”。
搜索生成體驗(yàn)未來將登陸美國用戶的Chrome桌面，還有Android和iOS系統(tǒng)上的GoogleApp，且僅提供英文版本。谷歌表示將在未來幾周開放測試邀請。
04
Gmail、谷歌地圖和相冊的AI功能
Pichai介紹，AI已經(jīng)結(jié)合到谷歌的一些產(chǎn)品中，谷歌還將融入新的產(chǎn)品。其中一種是，Gmail將利用生成式AI推出實(shí)現(xiàn)“幫我寫”（HelpMeWrite）的功能，幫助用戶寫郵件。
Pichai展示了一個(gè)例子，通過寫一封信，獲得航空公司的全額退款。谷歌有些設(shè)置能讓生成的文本更長或更短，并且可以用之前的消息作為上下文，幫助AI編寫內(nèi)容。他說：“只要輸入你想要的提示詞，點(diǎn)擊創(chuàng)建，就會(huì)出現(xiàn)一個(gè)完整的草稿。”
谷歌地圖將提供名為“沉浸式視圖”（ImmersiveView）的AI工具。該工具將獲取空氣質(zhì)量和天氣的信息，為谷歌地圖用戶選出一條路線，并將路線可視化。
Pichai展示了一條位于曼哈頓的自行車騎行路線。用戶可以看到，走這條路線，沿著西區(qū)高速公路騎車會(huì)有什么情景，其中有AI支持的交通、天氣和路線本身的渲染圖。從演示中可以看到具備了flyover功能，可以幫助將出行信息疊加到用戶界面。
Pichai說，沉浸式視圖將在未來幾個(gè)月內(nèi)推廣到十幾個(gè)大城市。
谷歌相冊將推出名為“神奇編輯”（MagicEditor）的功能，用生成式AI幫助用戶重新構(gòu)建照片，可以選擇編輯照片的任何一部分，無論是畫面的主角、天空還是背景，都可以編輯，可以抓取可以移除。
比如用戶主要想拍的是瀑布，可以把瀑布邊的人挪開些，拍照時(shí)人忘了取下背帶，可以把拍到的背帶抹去，可以把拍出的天空調(diào)得更明亮。
神奇編輯功能將于今年晚些時(shí)候在谷歌相冊上線。
05
Workspace的DuetAIAI搜索功能Converse
谷歌稱，谷歌的協(xié)作與生產(chǎn)力工具Workspace將很快能讓用戶借助AI生成完整的文檔，并填寫電子表格。這種AI服務(wù)名為DuetAI，將在今年晚些時(shí)候面向訂閱者推出。
DuetAI可以讓用戶在文檔、表格和幻燈片中融入AI服務(wù)。比如用戶可以要求AI幫助撰寫簡歷、整理企業(yè)圖表或者為幻燈片生成圖像，可以幫用戶寫文章和銷售宣傳材料，將它們放在谷歌文檔中給所有人共享。谷歌幻燈片可以在App內(nèi)生成AI圖像。
谷歌為搜索服務(wù)推出了名為Converse的生成式AI功能。過去，用戶想知道一個(gè)問題的回答，會(huì)在谷歌得到多個(gè)搜索結(jié)果，得自己綜合這些結(jié)果。Converse可以為用戶合成式的搜索結(jié)果。具體來說，它能提供一種“快照”，其中包括一些搜索結(jié)果文本或圖片的生成式AI內(nèi)容塊，在它的下方是相關(guān)的鏈接。
谷歌稱，Converse的搜索結(jié)果里會(huì)融入廣告。和Workspace的一些AI功能一樣，Converse將提供一種“對話模式”，用戶可以在其中“提出”后續(xù)問題。
雖然谷歌沒有透露具體何時(shí)上線Converse、哪些地區(qū)的用戶可用，但這種功能屬于搜索生成體驗(yàn)（SGE）的部分成果。谷歌稱，Labs的用戶可以在未來幾周內(nèi)使用，可以通過點(diǎn)擊谷歌App或桌面版Chrome中的Labs圖標(biāo)訪問。
06
谷歌云推出DuetAI服務(wù)和A3超級計(jì)算機(jī)虛擬機(jī)
谷歌云也有自己的DuetAI服務(wù)。
谷歌云的CEOThomasKurian稱，所有谷歌的云服務(wù)合作伙伴都可以付費(fèi)使用谷歌的AI模型，以及算力。
今年夏季，連鎖漢堡餐廳Wendy’s將運(yùn)用谷歌的技術(shù)，在俄亥俄州的一家門店接受用戶訂單，避免用戶排長隊(duì)。谷歌強(qiáng)調(diào)，經(jīng)過其調(diào)整的大語言模型可以理解Wendy’s的產(chǎn)品名，比如簡稱JBC的產(chǎn)品是一種培根芝士漢堡。
谷歌推出了一個(gè)名為Tailwind的項(xiàng)目。它可以記錄開發(fā)者的筆記，并可以在云端網(wǎng)盤中整理不同的筆記。它還能建一個(gè)學(xué)習(xí)指南，提取筆記中的關(guān)鍵概念。用戶可以要求Tailwind整理信息，或根據(jù)所做的筆記向它提問。它也顯示引用內(nèi)容。
谷歌云還宣布，推出A3超級計(jì)算機(jī)虛擬機(jī)，旨在為語言模型提供優(yōu)異的訓(xùn)練性能。這些虛擬機(jī)將搭載英偉達(dá)H100GPU、第四代英特爾Xeon可擴(kuò)展處理器，與谷歌專門的數(shù)據(jù)中心結(jié)合，可提供高達(dá)26exaFlops的算力，將有助于減少訓(xùn)練更大模型的時(shí)間和成本。
07
升級安卓系統(tǒng)查找設(shè)備功能安卓手機(jī)可用生成式AI定制壁紙
谷歌將在今年夏季為安卓系統(tǒng)用戶升級查找、鎖定或清空設(shè)備的功能“找我的設(shè)備”（FindMyDevice）。這種新功能將利用安卓設(shè)備的網(wǎng)絡(luò)，同多種生態(tài)系統(tǒng)的設(shè)備合作，幫助用戶尋找設(shè)備，和蘋果的FindMy功能依賴其他蘋果設(shè)備定位遺失設(shè)備類似。
本月初，谷歌和蘋果宣布，將聯(lián)手為用戶提供受到非必要跟蹤的警報(bào)，作為重視隱私和安全的部分工作。谷歌將在今年夏天晚些時(shí)候上線這一服務(wù)，讓用戶知道，是否被未知的追蹤方式跟蹤。
此外，安卓手機(jī)將很快能依靠谷歌的生成式AI技術(shù)，根據(jù)用戶的提示詞，生成可定制的壁紙。該功能將在今年秋季上線。
08
谷歌發(fā)布新手機(jī)Pixel7a、首款可折疊手機(jī)PixelFold平板電腦Pixel
在硬件方面，谷歌發(fā)布了新一代安卓手機(jī)Pixel7a，售價(jià)499美元，搭載谷歌自研的TensorG2芯片，運(yùn)行內(nèi)存8GB，比Pixel7和Pixel7Pro更平價(jià)。
谷歌還發(fā)布了首款可折疊手機(jī)PixelFold，售價(jià)1799美元，也搭載TensorG2芯片，全部展開時(shí)手機(jī)顯示屏為7.6英寸大小，本周三開始接受預(yù)訂，下月發(fā)貨。
谷歌宣布從本周三起，新版平板電腦Pixel接受預(yù)訂，同樣配置TensorG2芯片，起售價(jià)499美元，有128GB和256GB兩種內(nèi)存的版本可選。
責(zé)任編輯：張薇