項(xiàng)目建設(shè)內(nèi)容主要分為兩方面，一方面是圍繞企業(yè)內(nèi)部辦公場(chǎng)景，結(jié)合AI大模型提供場(chǎng)景應(yīng)用；另一方面是構(gòu)建通用的大模型平臺(tái)能力，包括大模型注冊(cè)管理，應(yīng)用管理和向量化服務(wù)，打造超聚變的AI大模型平臺(tái)能力。
1.1超聚變AI大模型場(chǎng)景應(yīng)用
超聚變AI大模型應(yīng)用項(xiàng)目已在公司內(nèi)部落地了面向多個(gè)場(chǎng)景的應(yīng)用服務(wù)，幫助員工提升工作效率，幫助公司降低人力成本。
1.1.1 IT智能客服
應(yīng)用大模型技術(shù)，學(xué)習(xí)IT領(lǐng)域的知識(shí)及解決方案，替代人工坐席，智能理解用戶輸入的自然語言，根據(jù)輸入的問題結(jié)合知識(shí)庫(kù)內(nèi)容給出最合適的答案。增強(qiáng)坐席戰(zhàn)力，實(shí)現(xiàn)了全天7*24小時(shí)全天候響應(yīng)支持，從問答準(zhǔn)確率提升到自然語言交流再到節(jié)省人力資源投入等方面都得到了突破性改善。
1.1.2 400通話智能質(zhì)檢
應(yīng)用大模型技術(shù)進(jìn)行自然語言處理、意圖識(shí)別和情感分析，通過監(jiān)聽電話錄音內(nèi)容及時(shí)發(fā)現(xiàn)400電話服務(wù)質(zhì)量問題，并對(duì)異常情況進(jìn)行跟蹤分析；借助情感分析技術(shù)評(píng)估客戶反饋及滿意度，并根據(jù)結(jié)果調(diào)整或優(yōu)化相應(yīng)服務(wù)策略；基于收集到的數(shù)據(jù)和模型分析結(jié)果為公司提供具體改進(jìn)建議，從而提升公司客戶服務(wù)質(zhì)量、增強(qiáng)品牌形象。
1.1.3智能會(huì)議紀(jì)要助手
應(yīng)用大模型技術(shù)實(shí)現(xiàn)快速、高效地輸出會(huì)議記錄文檔；支持音頻轉(zhuǎn)錄與口水稿生成環(huán)節(jié)自動(dòng)完成，降低人為失誤率，并確保會(huì)議內(nèi)容完整、準(zhǔn)確地記錄；經(jīng)過內(nèi)容提煉與關(guān)鍵信息標(biāo)注處理后，重要決策點(diǎn)和任務(wù)安排等方面得以突出顯示，便于團(tuán)隊(duì)成員快速查閱參考。
1.1.4研發(fā)代碼助手
運(yùn)用大模型技術(shù)自動(dòng)生成通用代碼片段，開發(fā)人員在輸入需求描述后，系統(tǒng)自動(dòng)生成功能模塊的基本框架和實(shí)現(xiàn)細(xì)節(jié)，減輕開發(fā)人員的重復(fù)性勞動(dòng)。
同時(shí)可生成清晰、易理解的代碼注釋文本，有助于提高代碼質(zhì)量、便于項(xiàng)目理解與維護(hù)，并有利于跨團(tuán)隊(duì)協(xié)作及知識(shí)傳承；在出現(xiàn)代碼問題時(shí)，借助大模型技術(shù)分析研發(fā)代碼后，快速定位問題并給出修復(fù)建議，可以顯著降低排查所需時(shí)間，并提高項(xiàng)目質(zhì)量。
1.1.5產(chǎn)品領(lǐng)域?qū)＜?/p>
應(yīng)用大模型技術(shù)，通過構(gòu)建產(chǎn)品知識(shí)庫(kù)，包含所有服務(wù)器產(chǎn)品的詳細(xì)信息，包括型號(hào)、性能特點(diǎn)、適用場(chǎng)景、常見問題及解決方案等；自動(dòng)更新產(chǎn)品知識(shí)庫(kù)，從而降低維護(hù)成本。通過自然語言處理技術(shù)理解銷售人員的提問，并以文本、語音或圖像的形式向銷售人員展示相關(guān)信息，有助于提高銷售決策的準(zhǔn)確性，為客戶提供更好的服務(wù)。
1.2構(gòu)建通用的大模型平臺(tái)能力
構(gòu)建通用的大模型平臺(tái)能力，包括大模型注冊(cè)管理，應(yīng)用管理和向量化服務(wù)；在建設(shè)同時(shí)沉淀了技術(shù)創(chuàng)新點(diǎn)：
1.2.1企業(yè)內(nèi)外部大模型統(tǒng)一注冊(cè)管理能力
超聚變AI大模型項(xiàng)目憑借著公司強(qiáng)大的研發(fā)能力和領(lǐng)先的平臺(tái)解決方案設(shè)計(jì)能力，實(shí)現(xiàn)了業(yè)界各類大模型統(tǒng)一，快速的接入機(jī)制，并形成標(biāo)準(zhǔn)化能力。
（1）大模型的注冊(cè)接入管理：可以將業(yè)界各類大模型進(jìn)行統(tǒng)一管理（當(dāng)前主要針對(duì)大語言模型），實(shí)現(xiàn)跨應(yīng)用將的模型資源共享與調(diào)配，使得各個(gè)模型都可以在一個(gè)統(tǒng)一的平臺(tái)環(huán)境中開發(fā)和維護(hù)。
（2）大模型的信息安全保障：超聚變公司在大模型的注冊(cè)管理模塊，還構(gòu)建了一個(gè)安全隔離層，確保每一個(gè)模型都能在一個(gè)安全的環(huán)境中獨(dú)立運(yùn)行，也通過加密和脫敏技術(shù)，防止大模型將企業(yè)密級(jí)信息竊取，將企業(yè)用戶進(jìn)行畫像。
（3）大模型的統(tǒng)一分發(fā)管理：通過統(tǒng)一的服務(wù)分發(fā)，讓公司內(nèi)對(duì)不同類型的大模型的調(diào)用，都能夠以一致的接口協(xié)議進(jìn)行，大大簡(jiǎn)化了產(chǎn)品化的工作。
（4）大模型的精細(xì)化運(yùn)營(yíng)管理：統(tǒng)一的運(yùn)營(yíng)管理，分析接口使用問題，定期對(duì)模型接口進(jìn)行更新和調(diào)用邏輯優(yōu)化，確保模型的性能始終處于領(lǐng)先水平。
1.2.2大模型一站式應(yīng)用開發(fā)的工程化能力
大模型的應(yīng)用開發(fā)，有別于傳統(tǒng)的MLOps，更加專注在提示詞開發(fā)與私域向量庫(kù)管理方面，我們針對(duì)傳統(tǒng)MLOps服務(wù)在提示詞開發(fā)方面的不足，超聚變AI大模型項(xiàng)目提出了全新的提示詞開發(fā)流程LMOps，大大提升了大模型應(yīng)用的開發(fā)效率，實(shí)現(xiàn)大模型參數(shù)的配置化調(diào)整。此外，項(xiàng)目在向量庫(kù)管理方面，借助公司先天的硬件資源優(yōu)勢(shì)和服務(wù)器優(yōu)化的部署架構(gòu)，能夠?qū)崿F(xiàn)對(duì)向量數(shù)據(jù)的高效處理與管理，提高利用率。
1.2.3大小模型組合應(yīng)用，提升模型準(zhǔn)確性
在實(shí)際的業(yè)務(wù)應(yīng)用大模型的過程中，通常依賴單一大小模型來滿足不同服務(wù)需求，難以實(shí)現(xiàn)模型準(zhǔn)確率的優(yōu)化。超聚變針對(duì)這一問題，構(gòu)建了大小模型的組合應(yīng)用的方案。該方案是通過多個(gè)AI模型的有機(jī)組合與協(xié)同，實(shí)現(xiàn)更準(zhǔn)確的業(yè)務(wù)效果，即發(fā)揮了大模型預(yù)訓(xùn)練模型的優(yōu)勢(shì)，又通過小模型實(shí)現(xiàn)更加專業(yè)，精細(xì)的業(yè)務(wù)行為，大模型就像大腦，小模型就像具體的動(dòng)作執(zhí)行器官，兩者相互配合，更確保了大模型應(yīng)用的精確性。
實(shí)施效果
截至目前，超聚變AI大模型應(yīng)用項(xiàng)目已在公司內(nèi)辦公領(lǐng)域、客戶伙伴關(guān)系領(lǐng)域、研發(fā)領(lǐng)域等落地IT智能客服、400通話質(zhì)檢、智能會(huì)議紀(jì)要、智能研發(fā)助手、產(chǎn)品領(lǐng)域?qū)＜业葓?chǎng)景解決方案，共有5000+用戶，月均使用人數(shù)3000+，AI服務(wù)月調(diào)用次數(shù)13萬+，顯著提升了辦公效率，收到各領(lǐng)域用戶好評(píng)。
1、IT智能客服：
問答準(zhǔn)確率由此前的65%提升至85%，客戶體驗(yàn)提升。
2、400電話質(zhì)檢：
質(zhì)檢覆蓋率從原本1%的提升100%，質(zhì)檢準(zhǔn)確率從85%提升到91%。
3、智能會(huì)議助手：
音頻轉(zhuǎn)錄速度和準(zhǔn)確度分別提升了30%和50%，內(nèi)容提煉和標(biāo)注的速度提升了50%，會(huì)議紀(jì)要文檔生成的速度提升了60%。
4、研發(fā)代碼助手：
提升代碼理解的效率，在相同模式下，項(xiàng)目理解的時(shí)間減少40%。
將一種代碼語言轉(zhuǎn)換為另一種代碼語言，該項(xiàng)目使的代碼遷移速度提升80%，代碼規(guī)范程度提升30%。
5、產(chǎn)品領(lǐng)域?qū)＜遥?/p>
產(chǎn)品問答的準(zhǔn)確度提升40%，機(jī)器人構(gòu)建時(shí)間縮短60%。
同時(shí)，超聚變大模型應(yīng)用項(xiàng)目實(shí)施落地過程中，圍繞大模型應(yīng)用總結(jié)出一套企業(yè)AI大模型應(yīng)用構(gòu)建方法，成功孵化超聚變聚智AI平臺(tái)；項(xiàng)目經(jīng)驗(yàn)可為同行業(yè)企業(yè)提供借鑒，具有行業(yè)示范作用。
