本文來自極客網(wǎng)。
據(jù)報(bào)道，英國(guó)電信數(shù)字部門日前推出了名為“GenAI Gateway”（生成式AI網(wǎng)關(guān)）的管理平臺(tái)，該平臺(tái)可以采用Anthropic、Meta、Cohere和亞馬遜等公司提供的一系列大型語言模型（LLM）。
英國(guó)電信可以將這個(gè)平臺(tái)應(yīng)用在任何用例中，完成了大量復(fù)雜且繁重的任務(wù)，為該平臺(tái)的順利運(yùn)行奠定了堅(jiān)實(shí)的基礎(chǔ)。值得注意的是，AWS在這一過程中發(fā)揮了至關(guān)重要的作用，表面其可能是主要技術(shù)提供者。
據(jù)悉，該平臺(tái)是使用Amazon Bedrock(這一套GenAI應(yīng)用開發(fā)服務(wù))和Amazon Sagemaker(一種托管機(jī)器學(xué)習(xí)服務(wù))開發(fā)的，使企業(yè)能夠針對(duì)任何數(shù)量的用例訓(xùn)練和定制機(jī)器學(xué)習(xí)模型。此外，AWS還為英國(guó)電信提供專業(yè)服務(wù)以確保順利運(yùn)行。
GenAI Gateway的首個(gè)測(cè)試版用例已經(jīng)開始運(yùn)行。英國(guó)電信網(wǎng)絡(luò)部門Openreach正在利用該平臺(tái)來整理以太網(wǎng)和全光纖工作相關(guān)的工程說明，從而幫助簡(jiǎn)化流程，提升內(nèi)部高團(tuán)隊(duì)及其通信服務(wù)提供商（CSP）客戶的生產(chǎn)力。
此外，英國(guó)電信的業(yè)務(wù)、法律和采購(gòu)團(tuán)隊(duì)也開始使用GenAI Gateway來改進(jìn)合同分析。
英國(guó)電信在一份聲明中明確表示，GenAI Gateway是該公司一項(xiàng)“All in”的舉措，公司不會(huì)嘗試開發(fā)其他不同的AI解決方案。部署這個(gè)平臺(tái)將減少重復(fù)工作和浪費(fèi)資源的風(fēng)險(xiǎn)。這也意味著API、安全配置和基礎(chǔ)設(shè)施管理都可以集中管理，從而降低錯(cuò)誤風(fēng)險(xiǎn)或?yàn)椴煌挠美S護(hù)單獨(dú)的LLM。
英國(guó)電信還在回答相關(guān)問題時(shí)指出，雖然臨時(shí)使用多個(gè)LLM適合用于測(cè)試和開發(fā)，但不適合大規(guī)模使用。采用支持多種模型的靈活解決方案意味著英國(guó)電信的團(tuán)隊(duì)可以為合適的用例使用正確的模型，而不會(huì)出現(xiàn)成本增加和效率低下的問題。
此外，采用多LLM的方法還可以提供安全保障，以防其中的一個(gè)模型出現(xiàn)編造虛假信息（稱為幻覺）或停止預(yù)期的行為。
GenAI Gateway還采用了幾項(xiàng)保障措施確保符合所有重要的“道德AI”標(biāo)準(zhǔn)。這些措施包括過濾掉個(gè)人身份信息，使用在英國(guó)本土處理和存儲(chǔ)的數(shù)據(jù)，以及將經(jīng)過訓(xùn)練的模型相互隔離，以防止它們過于自由地共享數(shù)據(jù)。同時(shí)GenAI應(yīng)用還受到了一定的限制，以降低有害交互的風(fēng)險(xiǎn)，并過濾與其特定用例無關(guān)的查詢。這些舉措可以強(qiáng)化其在實(shí)際應(yīng)用中的可靠性和穩(wěn)定性。
英國(guó)電信數(shù)字部門數(shù)據(jù)和AI總監(jiān)Deepika Adusumilli表示，“AI正在幫助我們重新構(gòu)想公司的未來發(fā)展。我們認(rèn)為，在數(shù)據(jù)不變的情況下，我們需要LLM更具靈活性。GenAI Gateway正是我們實(shí)現(xiàn)這一目標(biāo)的強(qiáng)大工具，它讓我們能夠以安全、負(fù)責(zé)、靈活且可擴(kuò)展的方式大規(guī)模地利這一前沿技術(shù)，充分釋放英國(guó)電信集團(tuán)內(nèi)部員工的潛力，無論是現(xiàn)在還是未來。”
AWS EMEA地區(qū)電信業(yè)務(wù)總經(jīng)理Fabio Cerone補(bǔ)充說：“英國(guó)電信的GenAI Gateway展示了企業(yè)如何有效地大規(guī)模和快速部署GenAI。這是一次具有開創(chuàng)性的絕佳合作機(jī)會(huì)，我們可以攜手客戶，采用逆向工作法，通過嵌入式安全性和合規(guī)性，加速將GenAI用例部署到生產(chǎn)的進(jìn)程。GenAI Gateway將推動(dòng)GenAI的采用，為英國(guó)電信及其客戶帶來更為迅速且顯著的成效。”
毋庸諱言，像英國(guó)電信這樣的運(yùn)營(yíng)商大規(guī)模部署GenAI，是AI走向主流應(yīng)用和建立可信度等的重要里程碑。當(dāng)然對(duì)于那些獨(dú)立LLM提供商來說，每家分到的機(jī)會(huì)和蛋糕就減少了。
