太平洋科技要聞

曝OpenAI神秘模型「草莓」秋季推出，ChatGPT或迎來今年最重大升級

appso 整合編輯：太平洋科技發(fā)布于：2024-08-28 16:41

OpenAI 傳說中的「Strawberry（草莓）」模型終于要來了。

據(jù)外媒 The Information 報道，隨著 OpenAI 不斷籌集更多資金，其研究人員正在嘗試推出一款新的 AI 產(chǎn)品，預(yù)計這款產(chǎn)品在解決復(fù)雜問題的能力上將超越現(xiàn)有的 AI。

據(jù)兩名參與該項目的知情人士透露，研究人員計劃在今年秋季推出這款內(nèi)部代號為「草莓」的新 AI（此前稱為 Q*，發(fā)音為 Q Star），它可能會作為 ChatGPT 的一部分功能推出。

「草莓」可以解決此前從未見過的數(shù)學(xué)問題，這是目前的聊天機器人無法做到的，并且還經(jīng)過訓(xùn)練能夠解決與編程相關(guān)的問題。

但這款 AI 的功能并不僅限于技術(shù)問題的解答，如果給「草莓」模型更多的「思考」時間，它還能回答客戶關(guān)于更主觀話題的問題，例如產(chǎn)品營銷策略。

據(jù)悉，為了展示「草莓」在語言任務(wù)方面的強大能力，OpenAI 員工還曾展示過它如何解出《紐約時報》「Connections」這一復(fù)雜文字謎題。

報道稱，這項技術(shù)對未來 AI 產(chǎn)品，特別是旨在解決多步驟任務(wù)的智能體，具有重要意義。其中 OpenAI 及其競爭對手目前正在希望通過這些智能體來開辟更多的收入機會。

目前 OpenAI 的業(yè)務(wù)正在迅猛增長。

盡管其每月支出可能比這一數(shù)字還要高，但 OpenAI 向企業(yè)銷售的大語言模型和 ChatGPT 訂閱服務(wù)的月收入已較去年增長了近三倍，達到了 2.83 億美元。

目前，OpenAI 的估值已經(jīng)達到 860 億美元。然而報道指出，OpenAI 的未來在一定程度上取決于其正在開發(fā)代號為 Orion 的新旗艦大語言模型。

據(jù)悉，這個模型旨在改進其去年早些時候推出的現(xiàn)有旗艦大語言模型 GPT-4。到目前為止，其他競爭對手已經(jīng)推出了在性能上與 GPT-4 相當(dāng)?shù)拇笳Z言模型。

不過，報道也指出，尚不確定 OpenAI 是否能在今年推出「草莓」聊天機器人版本，這個版本是原始「草莓」模型的簡化版，稱為蒸餾版。它旨在在保持高性能的同時，操作更為簡便且成本更低。

知情人士表示，OpenAI 還在利用「草莓」的更大版本生成用于訓(xùn)練 Orion 的數(shù)據(jù)。這種 AI 生成的數(shù)據(jù)被稱為「合成數(shù)據(jù)」。

這意味著「草莓」可能幫助 OpenAI 緩解從互聯(lián)網(wǎng)獲取高質(zhì)量訓(xùn)練數(shù)據(jù)的挑戰(zhàn)。

此外，這位知情人士還表示，「草莓」可能有助于即將推出的 OpenAI 智能體減少幻覺。

Minion AI 的 CEO 兼 GitHub Copilot 前首席架構(gòu)師 Alex Graveley 表示，使用「草莓」生成更高質(zhì)量的訓(xùn)練數(shù)據(jù)可能有助于 OpenAI 減少其模型產(chǎn)生的 AI 幻覺。

Graveley 進一步解釋道：「想象一下『沒有幻覺的模型』，你問它一個邏輯難題，它第一次就答對了。」之所以能夠做到這一點，是因為「訓(xùn)練數(shù)據(jù)中的模糊性更少，因此它的猜測更少�！�

本月早些時候，OpenAI CEO Sam Altman 在 X 平臺上發(fā)布了一張草莓的圖片，但沒有作出詳細(xì)說明，引發(fā)了全網(wǎng)大猜測。

而知情人士表示，今年夏天，OpenAI 還向美國國家安全官員展示了「草莓」模型。

「我們認(rèn)為這次模型所需的數(shù)據(jù)已經(jīng)足夠，」 Altman 在五月份的一次活動中說，這很可能是指 Orion�！肝覀冞M行了各種實驗，包括生成合成數(shù)據(jù)。」

目前，他還在努力為公司籌集更多資金并尋找減少虧損的方法。據(jù)知情人士透露，自 2019 年以來，OpenAI 已從微軟籌集了約 130 億美元，作為與這家軟件巨頭合作的一部分，合同將持續(xù)到 2030 年。

這位知情人士還表示，合作條款可能會發(fā)生變化，包括 OpenAI 如何支付租用云服務(wù)器以開發(fā)其 AI 的費用，畢竟云服務(wù)器是 OpenAI 最大的成本來源。

截至發(fā)稿前，OpenAI 的發(fā)言人對此報道未予置評。

路透社此前也曾報道了草莓的名稱及其推理能力。業(yè)界普遍認(rèn)為，一個能夠解決復(fù)雜數(shù)學(xué)問題的 AI 可能是一個具有潛在利潤的應(yīng)用領(lǐng)域，因為現(xiàn)有的 AI 在航空航天和結(jié)構(gòu)工程等數(shù)學(xué)密集型領(lǐng)域表現(xiàn)不佳。

不少 AI 研究人員也發(fā)現(xiàn)對話式 AI，如 ChatGPT 及其同類產(chǎn)品容易給出錯誤答案，包括前一段時間爆火 9.11 和 9.8 比大小的難題也難倒了不少聊天機器人。

此外，數(shù)學(xué)推理的改進還可能幫助 AI 模型在推理對話查詢方面表現(xiàn)更佳，例如處理客戶服務(wù)請求。

據(jù)悉，Google 和一些 AI 初創(chuàng)公司也在努力開發(fā)推理技術(shù)。上個月，Google DeepMind 表示，其 AI 將擊敗國際數(shù)學(xué)奧林匹克競賽中的大多數(shù)人類參與者。

OpenAI 勁敵 Anthropic 此前表示，得益于其推理能力的提升，其最新的大語言模型能夠編寫比之前的大語言模型更復(fù)雜的軟件代碼，并回答有關(guān)圖表和圖形的問題。

為了提高模型的推理能力，一些 AI 初創(chuàng)公司一直在使用一種「討巧」的方式，即將問題分解為更小的步驟，而代價就是這些解決方法速度慢且成本高。

外媒指出，無論草莓是否作為產(chǎn)品發(fā)布，人們對 Orion 的期望都很高，因為 OpenAI 希望繼續(xù)領(lǐng)先于競爭對手，并保持其顯著的收入增長。

有意思的是，草莓的誕生還與前 OpenAI 首席科學(xué)家 Ilya Sutskeve 扯上了關(guān)系。

據(jù)悉，幾年前，正是由時任 OpenAI 首席科學(xué)家的 Ilya Sutskever 啟動了對「草莓」模型的研究。只不過 Ilya 最近宣布從 OpenAI 離職，并創(chuàng)辦了新公司「安全超級智能」（Safe SuperIntelligence，SSI）。

在他離開之前，OpenAI 的研究人員 Jakub Pachocki 和 Szymon Sidor 基于 Sutskever 的工作開發(fā)了一種新的數(shù)學(xué)求解模型 Q*，這引發(fā)了一些關(guān)注 AI 安全的研究人員的擔(dān)憂。

在 Q* 的開發(fā)過程中，OpenAI 的研究人員還開發(fā)了一種被稱為「測試時計算」（test-time computation）的概念變體，旨在提升大語言模型的解題能力。

該方法使模型有機會花更多時間考慮用戶命令或問題的所有部分。當(dāng)時，Sutskever 還發(fā)表了一篇與這項工作相關(guān)的博客文章。

接下來，OpenAI 將繼續(xù)全力推動「草莓」的發(fā)布，以保持其在 AI 領(lǐng)域的領(lǐng)先地位，并應(yīng)對來自其他公司的激烈競爭。