字節(jié)跳動被 OpenAI 封禁？回應(yīng)來了
來源：數(shù)據(jù)觀綜合 時間：2023-12-18 15:32:06 作者：
遭OpenAI禁用？字節(jié)跳動回應(yīng)使用情況。
OpenAI 封禁字節(jié)跳動賬戶
當(dāng)?shù)貢r間12月15日，外媒The Verge曝出字節(jié)跳動正在秘密研發(fā)一個被稱為“種子計劃”（Project Seed）的AI大模型項目。據(jù)稱該項目在訓(xùn)練和評估模型等多個研發(fā)階段調(diào)用了OpenAI的應(yīng)用程序接口（API），并使用ChatGPT輸出的數(shù)據(jù)進(jìn)行模型訓(xùn)練。
在API調(diào)用和對輸出內(nèi)容的使用方面，OpenAI的使用協(xié)議明確規(guī)定了：禁止使用輸出開發(fā)競爭模型。
在2023年11月14日更新的使用條款中還規(guī)定了：
不得嘗試或協(xié)助任何人進(jìn)行逆向工程、反編譯或發(fā)現(xiàn)OpenAI服務(wù)的源代碼或底層組件，包括我們的模型、算法或系統(tǒng)（除非適用法律禁止此限制）。
不得自動或以編程方式提取數(shù)據(jù)或輸出（定義如下）。
不得表示輸出是人類生成的，但事實并非如此。
OpenAI的使用條款中對于違規(guī)用戶的處理辦法是：在提前通知的情況下，隨時終止服務(wù)。
OpenAI服務(wù)條款中禁止的事項
而目前，隸屬于字節(jié)跳動公司名下的部分GPT使用權(quán)限均已被OpenAI封禁。
報道稱，在 AI 領(lǐng)域，字節(jié)跳動的這一做法通常被視為一種“失禮”行為，也直接違反了 OpenAI 的服務(wù)條款。OpenAI 的服務(wù)條款規(guī)定，該公司所輸出的模型不能被用于“開發(fā)任何與我們的產(chǎn)品和服務(wù)競爭的 AI 模型”。字節(jié)跳動通過微軟購買了 OpenAI 的訪問權(quán)限，但是微軟也制定了與 OpenAI 同樣的政策。
外媒獲得的字節(jié)跳動內(nèi)部文件證實，字節(jié)跳動在幾乎每個開發(fā)階段都依賴 OpenAI 的應(yīng)用程序接口（API）來開發(fā)其代號為“種子計劃”（Project Seed）的基礎(chǔ)大語言模型，包括訓(xùn)練和評估模型。
參與“種子計劃”的員工都深知這一行為的不良影響。根據(jù)字節(jié)跳動員工在內(nèi)部通訊平臺飛書海外版 Lark 的聊天記錄，他們討論了如何通過“數(shù)據(jù)脫敏”來粉飾證據(jù)。外媒稱，字節(jié)跳動員工大量使用 OpenAI 的技術(shù)，以至于“種子計劃”的員工經(jīng)常達(dá)到 OpenAI API 的最大訪問上限。
內(nèi)部文件顯示，字節(jié)跳動更多的是在“種子計劃”的早期階段使用 OpenAI 的技術(shù)。幾個月前，該公司命令該團(tuán)隊在“模型開發(fā)的任何階段”停止使用 GPT 生成的文本。大約在這個時候，該公司獲得了批準(zhǔn)發(fā)布了自家 AI 大模型“豆包”，從而讓“種子計劃”上線。但是，字節(jié)跳動繼續(xù)以違反 OpenAI 和微軟服務(wù)條款的方式使用 API，包括評估豆包背后模型的性能。一位對字節(jié)跳動內(nèi)部情況有第一手了解的人指出，“他們說他們想確保一切都是合法的，但他們實際上只是不想被抓住把柄”。
三方發(fā)布回應(yīng)
隨后，OpenAI 發(fā)言人 Niko Felix 證實已暫時封禁了字節(jié)跳動的賬戶，并將進(jìn)一步展開調(diào)查。Niko Felix 表示，" 所有 API 客戶必須遵守我們的使用政策，以確保我們的技術(shù)被用于好的一面。雖然字節(jié)跳動很少使用我們的 API，但我們在進(jìn)一步調(diào)查期間已暫停了他們的帳戶。如果我們發(fā)現(xiàn)他們的使用不符合公司政策，我們將要求他們做出必要的改變或終止他們的賬戶 "。
微軟發(fā)言人 Frank Shaw 也在一份聲明中表示，"Azure OpenAI 服務(wù)等 AI 解決方案屬于我們有限訪問框架的一部分，這意味著所有客戶都必須申請并獲得微軟的批準(zhǔn)才能訪問。我們還制定了標(biāo)準(zhǔn)、并提供資源，幫助客戶負(fù)責(zé)任地使用這些技術(shù)，并遵守我們的服務(wù)條款。我們還制定了發(fā)現(xiàn)濫用行為的流程，并在企業(yè)違反我們的行為準(zhǔn)則時停止他們的訪問 "。
字節(jié)跳動發(fā)言人 Jodi Seth 則回應(yīng)稱，"GPT 生成的數(shù)據(jù)在‘種子計劃’的早期開發(fā)中用于注釋模型，并且在今年年中左右已從字節(jié)跳動的訓(xùn)練數(shù)據(jù)中刪除。字節(jié)跳動得到了微軟的授權(quán)，可以使用 GPT API。我們在非中國市場利用 GPT 支持我們的產(chǎn)品；但在中國市場，則是使用我們自研的模型來支持豆包 "。
12月17日，針對外媒曝字節(jié)跳動使用OpenAI服務(wù)賬號被封一事，字節(jié)跳動官方做出使用情況及澄清回應(yīng)。字節(jié)跳動相關(guān)負(fù)責(zé)人回應(yīng)稱，公司在使用OpenAI相關(guān)服務(wù)時，強(qiáng)調(diào)要遵守其使用條款。目前正與OpenAI聯(lián)系溝通，以澄清外部報道可能引發(fā)的誤解。
字節(jié)跳動表示，今年4月，字節(jié)大模型團(tuán)隊已經(jīng)提出了明確的內(nèi)部要求，不得將GPT模型生成的數(shù)據(jù)添加到字節(jié)大模型的訓(xùn)練數(shù)據(jù)集，并培訓(xùn)工程師團(tuán)隊在使用GPT時遵守服務(wù)條款。9月，公司內(nèi)部又進(jìn)行了一輪檢查，采取措施進(jìn)一步保證對GPT的API 調(diào)用符合規(guī)范要求。
字節(jié)跳動在回應(yīng)中表示，未來幾天里，公司將會再次全面檢查，以確保嚴(yán)格遵守相關(guān)服務(wù)的使用條款。
以下為字節(jié)跳動澄清全文：
字節(jié)跳動關(guān)于OpenAI服務(wù)使用情況的澄清
近日，有外媒報道稱，字節(jié)跳動在使用OpenAI技術(shù)開發(fā)自己的大語言模型，違反了OpenAI服務(wù)條款。對此，字節(jié)跳動相關(guān)負(fù)責(zé)人回應(yīng)稱，公司在使用OpenAI相關(guān)服務(wù)時，強(qiáng)調(diào)要遵守其使用條款。我們也正與OpenAI聯(lián)系溝通，以澄清外部報道可能引發(fā)的誤解。
以下是公司使用OpenAI服務(wù)相關(guān)情況的介紹：
1、今年年初，當(dāng)技術(shù)團(tuán)隊剛開始進(jìn)行大模型的初期探索時，有部分工程師將GPT的API服務(wù)應(yīng)用于較小模型的實驗性項目研究中。該模型僅為測試，沒有計劃上線，也從未對外使用。在4月公司引入GPT API 調(diào)用規(guī)范檢查后，這種做法已經(jīng)停止。
2、早在今年4月，字節(jié)大模型團(tuán)隊已經(jīng)提出了明確的內(nèi)部要求，不得將GPT模型生成的數(shù)據(jù)添加到字節(jié)大模型的訓(xùn)練數(shù)據(jù)集，并培訓(xùn)工程師團(tuán)隊在使用GPT時遵守服務(wù)條款。
3、9月，公司內(nèi)部又進(jìn)行了一輪檢查，采取措施進(jìn)一步保證對GPT的API 調(diào)用符合規(guī)范要求。例如分批次抽樣檢測模型輸出結(jié)果與GPT的相似度，避免數(shù)據(jù)標(biāo)注人員私自使用GPT。
4、未來幾天里，我們會再次全面檢查，以確保嚴(yán)格遵守相關(guān)服務(wù)的使用條款。
字節(jié)跳動的大模型之路
字節(jié)跳動在人工智能領(lǐng)域布局已久。2016年，字節(jié)就成立了人工智能實驗室AI Lab，聚焦于自然語言處理、機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘等方面的研究。不過，國內(nèi)“大模型之戰(zhàn)”掀起后，字節(jié)一直沒有公布任何底層大模型的進(jìn)展。
2023年，字節(jié)跳動在AI領(lǐng)域的投入雖然低調(diào)，但卻不遺余力。一方面，字節(jié)跳動積極開展大模型B端業(yè)務(wù)。6月28日，字節(jié)跳動旗下火山引擎發(fā)布大模型服務(wù)平臺“火山方舟”，面向企業(yè)提供模型精調(diào)、評測、推理等全方位的平臺服務(wù)（MaaS，即Model-as-a-Service），目前集成了百川智能、出門問問、復(fù)旦大學(xué)MOSS、IDEA研究院、瀾舟科技、MiniMax、智譜AI等多家AI科技公司及科研團(tuán)隊的大模型。為了賦能更多的AI公司，9月19日，火山引擎數(shù)智平臺VeDI還推出“AI助手”，通過接入人工智能大模型，幫助企業(yè)提升數(shù)據(jù)處理和查詢分析的效率。
另一方面，字節(jié)跳動低調(diào)推進(jìn)大模型C端業(yè)務(wù)，自研通用大模型“云雀”。云雀大模型的定位是一個自然語言內(nèi)容生成和內(nèi)容理解的AI大模型，該模型基于字節(jié)機(jī)器學(xué)習(xí)平臺開發(fā)，它可以通過自然語言處理技術(shù)與用戶進(jìn)行對話，回答用戶的問題，提供相關(guān)的信息和建議。
8月17日，字節(jié)跳動公測基于云雀大模型開發(fā)的AI對話產(chǎn)品“豆包”，有網(wǎng)頁端、iOS和安卓客戶端，提供聊天機(jī)器人、寫作助手以及英語學(xué)習(xí)助手等功能，可以回答各種問題并進(jìn)行對話，幫助人們獲取信息。
除了“豆包”，字節(jié)跳動研究團(tuán)隊還公布過一個多模態(tài)大模型的學(xué)術(shù)研究項目BuboGPT，該模型能夠處理包括文本、圖像和音頻在內(nèi)的多模態(tài)輸入，即不僅可以理解圖像、音頻和文本，并將這些理解與文本輸入和輸出相結(jié)合，還可以定位和描述圖像中的物體以及聲音的來源。
11月27日，即字節(jié)跳動確認(rèn)收縮游戲業(yè)務(wù)當(dāng)天，據(jù)媒體報道，字節(jié)跳動成立了一個新的AI部門Flow，技術(shù)負(fù)責(zé)人為字節(jié)跳動技術(shù)副總裁洪定坤，業(yè)務(wù)帶頭人為字節(jié)跳動大模型團(tuán)隊的負(fù)責(zé)人朱文佳。Flow 的相關(guān)招聘信息顯示，F(xiàn)low 是字節(jié)跳動旗下 AI 創(chuàng)新業(yè)務(wù)團(tuán)隊，目前已在國內(nèi)和海外分別上線了豆包和 Cici 兩款產(chǎn)品，還有多個 AI 相關(guān)創(chuàng)新產(chǎn)品在孵化中。業(yè)內(nèi)普遍認(rèn)為，這也許是字節(jié)跳動在收縮游戲業(yè)務(wù)的同時，加碼AI應(yīng)用開發(fā)的信號。
責(zé)任編輯：張薇