11月22日，由深圳市科技創(chuàng)新委員會、福田區(qū)人民政府指導，粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院（IDEA研究院）主辦的粵港澳大灣區(qū)數(shù)字經(jīng)濟研究院年度科技盛會（IDEA大會）在深圳召開。
2023 IDEA大會現(xiàn)場
會上熠智科技聯(lián)合IDEA研究院、是石科技等共同發(fā)布了國內(nèi)首個搭載可控計算技術(shù)的企業(yè)級大模型產(chǎn)品-----封神榜大模型一體機（后文簡稱“一體機”）。該一體機產(chǎn)品基于IDEA研究院最新發(fā)布的子牙（Ziya）系列模型實現(xiàn)，同時搭載了熠智科技研發(fā)的DataVault可控計算框架，有效解決了目前大模型行業(yè)中數(shù)據(jù)、模型隱私泄露的痛點問題。
一體機現(xiàn)場展示
大模型私有化部署與數(shù)據(jù)安全
目前各類大模型不斷涌現(xiàn)，大模型產(chǎn)業(yè)也從“百模大戰(zhàn)”轉(zhuǎn)向商業(yè)落地應(yīng)用階段。相比于MaaS（模型即服務(wù)），大模型私有化商業(yè)部署具有數(shù)據(jù)安全，算力自主可控，靈活性高以及使用成本低等優(yōu)勢。
對于數(shù)據(jù)安全層面，大中型客戶更注重私有化部署及數(shù)據(jù)監(jiān)管的需求：確保數(shù)據(jù)資產(chǎn)安全，防止用戶敏感數(shù)據(jù)泄露是大模型私有化部署最核心的要求。
同時，對于人工智能公司而言，優(yōu)秀的行業(yè)模型得益于高質(zhì)量的行業(yè)數(shù)據(jù)以及專業(yè)知識，因而私有化部署的大模型亦需要防止模型泄露風險。
封神榜大模型一體機搭載的DataVault可控計算技術(shù)，可有效保護用戶數(shù)據(jù)安全，同時防止模型濫用、泄露。此外，DataVault具備零侵入性與性能損耗低的特點。相比原生系統(tǒng)，基于DataVault的解決方案在大部分應(yīng)用中的整體性能損失低于1‰。
封神榜大模型一體機介紹
封神榜大模型一體機內(nèi)置IDEA研究院Ziya系列模型及模型微調(diào)工具，可應(yīng)用于自然語言處理、計算機編程、圖像處理、文本創(chuàng)作、搜索引擎優(yōu)化等領(lǐng)域，立足金融、教育、醫(yī)療等行業(yè)，高效支撐客戶業(yè)務(wù)場景。
目前封神榜大模型一體機包括三個版本，其中兩款采用了國產(chǎn)自主研發(fā)的GPU架構(gòu)（燧原云燧系列和太初元碁系列），確保算力自主可控，用戶可根據(jù)自身需求進行選擇。
封神榜大模型一體機（首發(fā)版本）
封神榜大模型一體機優(yōu)勢
數(shù)據(jù)安全：
私有化部署，零侵入性保護模型參數(shù)與訓練數(shù)據(jù)安全，提供卓越的數(shù)據(jù)安全保障
高性能模型：
內(nèi)置Ziya通用模型、代碼模型、多模態(tài)理解模型、文生圖模型、寫作模型等，滿足多種大模型應(yīng)用場景的需求；模型各大榜單性能成績優(yōu)異，數(shù)據(jù)傳輸和處理速度更快更高效
開箱即用：
內(nèi)置十萬級調(diào)優(yōu)數(shù)據(jù)和工具，企業(yè)無需大量資源投入即可短期快速進行訓練，構(gòu)建AI能力
信創(chuàng)支持：
融合國產(chǎn)自主的TEE技術(shù)、國密加密卡、可信根芯片和安全容器等，兼容主流國產(chǎn)GPU芯片
