本文來(lái)自智東西（zhidx.com），來(lái)源 | Supervised，編譯 | 吳浪娜。
智東西9月29日消息，據(jù)Supervised今天報(bào)道，雖然OpenAI的最新模型o1在性能上有了顯著提升，但它也給該公司帶來(lái)了一個(gè)潛在的新挑戰(zhàn)：產(chǎn)品組合繁雜。
OpenAI的最新產(chǎn)品o1和o1-mini，實(shí)際上讓用戶(hù)和客戶(hù)在性能和成本之間做出了權(quán)衡：你可以選擇等待更長(zhǎng)時(shí)間，并暫時(shí)支付更多費(fèi)用，但輸出結(jié)果應(yīng)該會(huì)好得多。它不是那種可以插入呼叫中心的應(yīng)用程序接口（API），但它確實(shí)為這家已經(jīng)覆蓋了一系列細(xì)分市場(chǎng)（除了沒(méi)有“一個(gè)幾乎無(wú)所不能的產(chǎn)品”）的公司填補(bǔ)了一種新的細(xì)分市場(chǎng)。
o1的應(yīng)用場(chǎng)景基本上是“你需要稍微思考一下”的問(wèn)題。美國(guó)云服務(wù)管理平臺(tái)Box CEO亞倫·列維（Aaron Levie）給出了一個(gè)極好的企業(yè)應(yīng)用場(chǎng)景，即需要找到合同中一個(gè)非常具體的參數(shù)——例如，合同的最終簽署日期，也就是合同實(shí)際生效的日期。這是一個(gè)真正“需要稍微思考一下”的問(wèn)題，在一個(gè)原本簡(jiǎn)單的問(wèn)題上增加了一層復(fù)雜性，人們可能在不同的日子簽署了合同。
這對(duì)于OpenAI來(lái)說(shuō)也是一種相對(duì)較新的應(yīng)用場(chǎng)景。在過(guò)去，OpenAI可能需要調(diào)用一系列很長(zhǎng)的API，并請(qǐng)求模型以提示調(diào)整或檢索增強(qiáng)生成（RAG）的形式完成所需任務(wù)。相反，整個(gè)過(guò)程可能會(huì)被壓縮成一兩次調(diào)用，從而簡(jiǎn)化某些架構(gòu)。OpenAI已經(jīng)經(jīng)歷了一種“SaaS化”的過(guò)程，在這一過(guò)程中，OpenAI逐漸成熟，成為一家真正的企業(yè)。
隨著OpenAI逐漸發(fā)展成為一個(gè)真正的企業(yè)，其產(chǎn)品組合（或稱(chēng)為模型組合）日益復(fù)雜，OpenAI正面臨著公司產(chǎn)品組合繁雜的挑戰(zhàn)。產(chǎn)品組合越龐大，管理難度就越大，處于這一階段的公司面臨的最大挑戰(zhàn)就是如何避免產(chǎn)品組合變得繁雜，難以向用戶(hù)傳達(dá)價(jià)值。而且隨著模型質(zhì)量的不斷提高，任何微小的分心都可能導(dǎo)致OpenAI被其他前沿模型公司超越。
Supervised總結(jié)了OpenAI現(xiàn)在非常龐大的API組合，共有9個(gè)產(chǎn)品:
1、GPT-4o：一個(gè)多模態(tài)、昂貴（雖然也沒(méi)能幸免于降價(jià)影響）的模型，應(yīng)該是通用型的好產(chǎn)品。
2、GPT-4o mini：GPT-4o的削弱版本，旨在作為其主力模型GPT-3.5 Turbo的繼任者，以滿(mǎn)足大量更簡(jiǎn)單的應(yīng)用場(chǎng)景。
上述模型的微調(diào)版本，可滿(mǎn)足企業(yè)的特定需求，盡管它們通過(guò)API提供，這可能會(huì)讓一些更注重安全性的公司望而卻步。
3、o1：一個(gè)以速度和價(jià)格為代價(jià)換取質(zhì)量的模型，允許它有更多時(shí)間對(duì)答案進(jìn)行“推理”?；旧暇褪切枰?ldquo;停下來(lái)想一想”的問(wèn)題。
4、o1-mini：就像4o mini一樣，是o1的削弱版本，設(shè)計(jì)用于……同樣的“停下來(lái)想一想”的問(wèn)題，但我們可以假設(shè)它確實(shí)能解決一系列問(wèn)題。
5、Whisper：可以說(shuō)是市場(chǎng)上最好的語(yǔ)音轉(zhuǎn)文本模型，可以肯定的是，它是為生成OpenAI所需的訓(xùn)練數(shù)據(jù)而構(gòu)建的。
6、文本嵌入：算不上最好的嵌入產(chǎn)品，但其優(yōu)勢(shì)通常在于它與其他OpenAI產(chǎn)品一起提供，從而減少了采購(gòu)的麻煩。
7、文本轉(zhuǎn)語(yǔ)音：假設(shè)延遲正常，你可以將其應(yīng)用到類(lèi)似呼叫中心里的API。它有普通和高清兩個(gè)版本的API。
8、高級(jí)語(yǔ)音助手：一個(gè)技術(shù)奇跡般的產(chǎn)品，它可以讓你在ChatGPT內(nèi)進(jìn)行主動(dòng)對(duì)話(huà)，盡管其應(yīng)用場(chǎng)景仍然不太明確。
9、ChatGPT：OpenAI將上述所有內(nèi)容“產(chǎn)品化”，集合到一個(gè)前端企業(yè)友好型的包裝中。
在此期間，Meta開(kāi)始顯示出更多的混亂，它在幾乎每一個(gè)類(lèi)別中都發(fā)布了更新的模型。不過(guò)Meta這些模型是開(kāi)源的，并為一系列非常不同的產(chǎn)品提供支持，盡管它們存在于同一個(gè)“桶”中。通過(guò)o1，OpenAI本質(zhì)上是在再次嘗試創(chuàng)建新的類(lèi)別，但同時(shí)也冒著產(chǎn)品組合繁雜的風(fēng)險(xiǎn)。
下面對(duì)比了OpenAI和其競(jìng)爭(zhēng)對(duì)手的產(chǎn)品定價(jià)：
▲OpenAl的產(chǎn)品在價(jià)格和用途上存在差異（圖源：X）
這些費(fèi)用可能遠(yuǎn)未達(dá)到o1發(fā)布一段時(shí)間后的水平。OpenAI已經(jīng)開(kāi)始逐步增加速率限制，最近o1-preview從每周30個(gè)增加到50個(gè)，o1-mini從每周50個(gè)增加到每天50個(gè)。
▲OpenAI在社交平臺(tái)X上分享道，將逐步增加o1-preview和o1-mini的速率限制（圖源：Supervised）
雖然OpenAI的吸引力一直在于便利、價(jià)格和性能之間的某個(gè)最佳平衡點(diǎn)，但其繁雜的產(chǎn)品組合無(wú)疑既是挑戰(zhàn)也是機(jī)遇。該文章作者馬修·林利（Matthew Lynley）嚴(yán)重懷疑價(jià)格不會(huì)一直這么高，因?yàn)槠湎乱粋€(gè)GPT模型遲早會(huì)準(zhǔn)備好。但就目前而言，它至少在試圖籌集巨額資金的時(shí)候，開(kāi)發(fā)者擁有了一些價(jià)格較高的產(chǎn)品當(dāng)作談判籌碼。
然而，這里的挑戰(zhàn)與任何成熟企業(yè)隨時(shí)間推移開(kāi)始面臨的挑戰(zhàn)相同：產(chǎn)品繁雜。雖然OpenAI在技術(shù)上以API和ChatGPT的形式擁有“兩個(gè)”產(chǎn)品，但這些產(chǎn)品都有大量的分支，服務(wù)于非常廣泛的應(yīng)用場(chǎng)景。這些API也遠(yuǎn)遠(yuǎn)超出了聊天補(bǔ)全和文本生成的范圍，包括了各種各樣的模態(tài)。而它的語(yǔ)音產(chǎn)品看似是ChatGPT“驚艷”的部分，其實(shí)可能是其產(chǎn)品組合中最尷尬的部分。
產(chǎn)品繁雜在創(chuàng)業(yè)領(lǐng)域是一個(gè)公認(rèn)的問(wèn)題，如果你還能稱(chēng)OpenAI為一家初創(chuàng)公司的話(huà)。隨著初創(chuàng)公司的成熟，其用戶(hù)和客戶(hù)群的不斷擴(kuò)大，它必須有方向性地發(fā)展，更少的產(chǎn)品滿(mǎn)足更多客戶(hù)的需求，而不是為每個(gè)人構(gòu)建一切。或者更簡(jiǎn)潔地說(shuō)，做幾件事，但都要做好。
提供如此廣泛的應(yīng)用場(chǎng)景，讓OpenAI能夠?qū)⒂脩?hù)引導(dǎo)到某種穩(wěn)定狀態(tài)，在這種狀態(tài)下，它不一定賺錢(qián)，但至少不會(huì)虧本。在API方面，傳統(tǒng)的做法是將用戶(hù)推向其主力模型（特別是微調(diào)版本），但對(duì)于ChatGPT而言，這一點(diǎn)就不太清楚了。
雖然新模型在ChatGPT中是有速率限制的，但這也是OpenAI除了API之外極其重要的業(yè)務(wù)部分。據(jù)The Information報(bào)道，OpenAI COO布拉德·萊特卡普（Brad Lightcap）告訴員工，OpenAI擁有超過(guò)1000萬(wàn)名ChatGPT的付費(fèi)訂閱用戶(hù)，另外還有100萬(wàn)名企業(yè)訂閱用戶(hù)。（彭博社此前曾報(bào)道，OpenAI有100萬(wàn)名ChatGPT的企業(yè)訂閱用戶(hù)。）
當(dāng)然，我們可以做很多粗略的計(jì)算，但都會(huì)得出相同的結(jié)論：除了API之外，ChatGPT的企業(yè)業(yè)務(wù)現(xiàn)在和將來(lái)都會(huì)是OpenAI業(yè)務(wù)的重要組成部分。
但ChatGPT帶來(lái)的收入并不會(huì)像API那樣，直接隨著o1的使用而增長(zhǎng)。無(wú)論是通過(guò)API還是ChatGPT內(nèi)部運(yùn)行o1，實(shí)際運(yùn)行它的成本可能會(huì)隨著預(yù)訓(xùn)練計(jì)算資源轉(zhuǎn)向推理而發(fā)生變化。
幸運(yùn)的是，OpenAI在這一領(lǐng)域已經(jīng)有了很多進(jìn)展。業(yè)內(nèi)人士目前額外關(guān)注的一種方法是蒙特卡洛樹(shù)搜索（Monte Carlo Tree Search），它可以減少生成高質(zhì)量結(jié)果所需的計(jì)算量。蒸餾（distillation）是另一種“縮小”大模型的方法，隨著人們的興趣轉(zhuǎn)向管理高性能模型的推理成本，蒸餾法也獲得了很大的發(fā)展。（蒸餾是一種機(jī)器學(xué)習(xí)模型壓縮方法，它用于將大型模型的知識(shí)遷移到較小的模型中。）
“這就是甜點(diǎn)，將傳統(tǒng)預(yù)測(cè)性機(jī)器學(xué)習(xí)的策略與現(xiàn)代技術(shù)相結(jié)合。”模型開(kāi)發(fā)商和平臺(tái)h2o的聯(lián)合創(chuàng)始人兼CEO斯里·安巴蒂（Sri Ambati）告訴馬修，“樹(shù)狀搜索是一個(gè)絕對(duì)的天才技巧，它是一種非常容易實(shí)現(xiàn)的目標(biāo)，與大語(yǔ)言模型的卓越性相結(jié)合。”
在與專(zhuān)家和知情人士交談的交談中，最常提到的另一點(diǎn)是諾姆·布朗（Noam Brown）在OpenAI的工作。布朗被廣泛認(rèn)為是博弈論領(lǐng)域的頂尖專(zhuān)家，許多人都想知道他的工作將如何應(yīng)用到OpenAI的產(chǎn)品中。布朗還是一篇論文的共同作者，該論文部分研究了蒙特卡洛樹(shù)搜索在開(kāi)發(fā)類(lèi)人代理中的應(yīng)用。
結(jié)語(yǔ)：OpenAI面臨成本挑戰(zhàn)，降價(jià)保競(jìng)爭(zhēng)力
OpenAI的API面臨的挑戰(zhàn)是，根據(jù)最近與大多數(shù)企業(yè)和平臺(tái)的情況，在為場(chǎng)景構(gòu)建AI應(yīng)用時(shí)，成本是第一或第二重要的考慮因素。但OpenAI已經(jīng)表現(xiàn)出逐漸降低價(jià)格以保持競(jìng)爭(zhēng)力的意愿。
此外，ChatGPT的企業(yè)業(yè)務(wù)似乎是OpenAI業(yè)務(wù)的主要驅(qū)動(dòng)力，這也很說(shuō)明問(wèn)題，因?yàn)樗羞@些開(kāi)發(fā)基本上都是為該企業(yè)套件服務(wù)的。對(duì)于那些在管理和成本方面有更高要求的公司來(lái)說(shuō)，使用現(xiàn)成的廉價(jià)產(chǎn)品在公司內(nèi)部開(kāi)發(fā)定制產(chǎn)品的做法越來(lái)越有吸引力。
有一種憤世嫉俗的觀點(diǎn)認(rèn)為，OpenAI試圖說(shuō)：“嘿，看，我們還在創(chuàng)造非常先進(jìn)的東西，別忽視我們的融資號(hào)召。”
然而，這種觀點(diǎn)的另一面是，根據(jù)CNBC的報(bào)道，OpenAI似乎已經(jīng)獲得了一輪超額認(rèn)購(gòu)的巨額融資，已經(jīng)成長(zhǎng)為一家更適合企業(yè)產(chǎn)品的公司?，F(xiàn)在，OpenAI只需要確保其在銷(xiāo)售電話(huà)中不會(huì)用龐大的產(chǎn)品組合迷惑企業(yè)。
來(lái)源：Supervised
