本文來自微信公眾號“騰訊研究院”，作者/李南，騰訊研究院高級研究員。
生成式AI大模型并未改變
人工智能在工業(yè)領(lǐng)域應(yīng)用的范式
以ChatGPT、Llama等為代表的大模型技術(shù)拉開了邁向通用人工智能的序幕，人工智能成為全球經(jīng)濟(jì)增長的重要驅(qū)動(dòng)力，對各類產(chǎn)業(yè)的智能化帶來全新的空間。根據(jù)普華永道的預(yù)測，到2030年，人工智能可為全球經(jīng)濟(jì)貢獻(xiàn)高達(dá)15.7萬億美元，超過中國和印度目前的產(chǎn)出總和。其中，6.6萬億美元可能來自生產(chǎn)率的提高，9.1萬億美元可能來自消費(fèi)端的影響。對于制造業(yè)，人工智能一直是智能制造、工業(yè)4.0、工業(yè)互聯(lián)網(wǎng)等領(lǐng)域的重要部分，在ChatGPT、Stable Diffusion等崛起前，質(zhì)量檢測、設(shè)備預(yù)測性維護(hù)等代表性的人工智能應(yīng)用已經(jīng)深度融入制造業(yè)，并且形成成熟的應(yīng)用范式。
工業(yè)人工智能的應(yīng)用范式已經(jīng)成型，一是需要深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等數(shù)據(jù)科學(xué)算法，計(jì)算機(jī)視覺、自然語言處理、語音識別等面向領(lǐng)域的算法，知識圖譜、專家系統(tǒng)等知識工程，例如通過計(jì)算機(jī)視覺來構(gòu)建產(chǎn)品外觀檢測的模型，基于強(qiáng)化學(xué)習(xí)進(jìn)行排產(chǎn)規(guī)劃模型的構(gòu)建，借助知識圖譜構(gòu)建設(shè)備運(yùn)維服務(wù)。二是需要通用支撐技術(shù)保障人工智能應(yīng)用在制造業(yè)的部署和推理，例如邊緣計(jì)算、高性能計(jì)算等技術(shù)保障現(xiàn)場的推理速度，時(shí)序數(shù)據(jù)庫、大數(shù)據(jù)平臺等保障數(shù)據(jù)的有效管理和接入。三是需要工業(yè)領(lǐng)域知識及經(jīng)驗(yàn)實(shí)現(xiàn)人工智能應(yīng)用與工業(yè)場景的適配，例如在模型訓(xùn)練的時(shí)候需要專家經(jīng)驗(yàn)的介入實(shí)現(xiàn)調(diào)優(yōu)和優(yōu)化，在部分場景下需要機(jī)理模型和人工智能模型的結(jié)合才能發(fā)揮作用，在生產(chǎn)現(xiàn)場模型的部署和實(shí)施也需要和自動(dòng)化的設(shè)備、工業(yè)軟件等進(jìn)行集成。
圖1工業(yè)人工智能實(shí)施范式
大模型的崛起并沒有對人工智能在制造業(yè)的應(yīng)用范式引起根本性的變革，但是在不同的環(huán)節(jié)增添了特定的需求，例如在算法層面，基于Transformer、U-Net等架構(gòu)的基礎(chǔ)模型成為生成式人工智能進(jìn)入制造領(lǐng)域的基礎(chǔ)；在通用支撐技術(shù)領(lǐng)域，向量數(shù)據(jù)庫、MaaS等也成為重要的數(shù)字基礎(chǔ)設(shè)施；在工業(yè)知識及經(jīng)驗(yàn)領(lǐng)域，不同以往對時(shí)間序列等結(jié)構(gòu)化數(shù)據(jù)的需求，生成式AI對高質(zhì)量文本、圖片、文檔等數(shù)據(jù)的要求不斷提升。雖然大模型仍在原有的范式下進(jìn)行應(yīng)用，但是大模型技術(shù)會不斷的拓展人工智能在工業(yè)領(lǐng)域應(yīng)用的空間，根據(jù)埃森哲測算，Al可以在2035年將制造業(yè)的附加值提高近4萬億美元，根據(jù)Marketresearch預(yù)測，到2032年，全球生成式人工智能制造市場規(guī)模將達(dá)到63.98億美元。
圖2生成式人工智能在制造業(yè)的市場規(guī)模
生成式AI大模型短期趨勢：
拓展新場景并未出現(xiàn)替代小模型
圖3生成式人工智能大模型在制造業(yè)的應(yīng)用情況
生成式AI大模型能力覆蓋結(jié)構(gòu)化數(shù)據(jù)、文本、圖像、音視頻等多個(gè)領(lǐng)域生成，但在制造業(yè)領(lǐng)域的探索仍聚焦于結(jié)構(gòu)化數(shù)據(jù)、自然語言和圖像數(shù)據(jù)的處理和生成。這種情況的形成主要是目前尚未出現(xiàn)能力較強(qiáng)的音頻、視頻領(lǐng)域的基礎(chǔ)模型，所以尚未出現(xiàn)小模型領(lǐng)域像基于聲紋分析的設(shè)備診斷、基于視頻分析的安全生產(chǎn)等相關(guān)的工業(yè)案例。生成式AI探索也覆蓋了制造業(yè)的研發(fā)設(shè)計(jì)與規(guī)劃、生產(chǎn)過程管控、經(jīng)營管理優(yōu)化、產(chǎn)品服務(wù)優(yōu)化等全生命周期。
在研發(fā)設(shè)計(jì)與規(guī)劃階段，一方面是利用自然語言的交互能力實(shí)現(xiàn)CAD軟件功能的拓展，例如Back2CAD基于Elaine CAD Bot、ChatGPT和Amazon AWS等的支持推出CADGPT™，支持智能推薦、文檔生成、代碼生產(chǎn)等各類功能。另一方面是基于圖像數(shù)據(jù)的生成能力提升設(shè)計(jì)效率，例如海爾設(shè)計(jì)基于亞馬遜云科技和合作伙伴Nolibox攜手打造的AIGC解決方案，將AIGC圖像生成能力引入到產(chǎn)品設(shè)計(jì)、UI設(shè)計(jì)、CMF設(shè)計(jì)、品牌設(shè)計(jì)等環(huán)節(jié)，涵蓋了新品設(shè)計(jì)、改款升級、渠道定制化等工業(yè)設(shè)計(jì)的業(yè)務(wù)場景。
在生產(chǎn)制造環(huán)節(jié)，圍繞知識問答和代碼生成等能力成為重要的探索熱點(diǎn)。例如西門子和微軟還在合作開發(fā)可編程邏輯控制器（PLC）的代碼生成工具，ChatGPT被用于通過自然語言輸入生成PLC代碼。Authentise通過利用12,000篇科學(xué)增材制造論文對通用大語言模型的精調(diào)，推出3DGPT用于增材制造技術(shù)問答。用戶可以獲得例如“在使用粉末不銹鋼時(shí)如何減少缺陷的可能性”等專業(yè)問題答案。例如創(chuàng)新奇智推出AInno-15B工業(yè)大模型，通過大模型服務(wù)引擎支撐生成式AI應(yīng)用，實(shí)現(xiàn)工業(yè)機(jī)器人控制、企業(yè)私域數(shù)據(jù)分析、企業(yè)私域知識庫等應(yīng)用。SprutCAM X結(jié)合ChatGPT api構(gòu)建CAM虛擬助手，能夠支持工程師操作機(jī)床加工，例如提出在點(diǎn)(100,25)處鉆一個(gè)直徑10毫米的孔”，AI助手就會為生成相應(yīng)的CAM執(zhí)行代碼。C3iot也是基于大語言模型構(gòu)建了面向多個(gè)行業(yè)和多個(gè)領(lǐng)域的生成式AI服務(wù)，并且為某大型制造企業(yè)基于生成式AI提供設(shè)備運(yùn)維服務(wù)，借助C3 Generative AI，操作員可以利用簡化的工作流程來診斷設(shè)備故障根因。當(dāng)操作員發(fā)現(xiàn)生產(chǎn)問題時(shí)，可以直接進(jìn)入C3 Generative AI搜索故障排除指南和教科書，以找出潛在原因。
圖4 C3IOT生成式AI服務(wù)架構(gòu)圖
在經(jīng)營管理環(huán)節(jié)，基于大語言模型新增智能問答、數(shù)據(jù)分析等能力成為主流。例如在ERP領(lǐng)域，用友以ChatGPT、文心一言、Llama等大模型為底座構(gòu)建yongpt,在大模型的基礎(chǔ)架構(gòu)當(dāng)中，把確定性的事項(xiàng)交回用友BIP原有的產(chǎn)品功能去做，把不確定的事項(xiàng)、推理性的事項(xiàng)和人腦思維意識派定的事項(xiàng)交給大模型去開發(fā),能夠支撐企業(yè)經(jīng)營洞察、智能訂單生成、供應(yīng)商風(fēng)控、動(dòng)態(tài)庫存優(yōu)化等應(yīng)用。在CRM領(lǐng)域，Salesforce、微軟等均加強(qiáng)生成式AI在產(chǎn)品中的集成和應(yīng)用。
圖5、用友yongpt架構(gòu)
在產(chǎn)品服務(wù)優(yōu)化環(huán)節(jié)，將大模型的能力集成到產(chǎn)品中，成為消費(fèi)電子、汽車等領(lǐng)域產(chǎn)品智能化能力提升的探索焦點(diǎn)。例如國光電器推出的智能音箱Vifa ChatMini內(nèi)置了ChatGPT和文心一言雙模型，在保持了專業(yè)聲學(xué)標(biāo)準(zhǔn)的基礎(chǔ)上，與傳統(tǒng)的智能音箱相比，Vifa ChatMini在自然語言生成和情感表達(dá)方面具有顯著的優(yōu)勢，可應(yīng)用到老年人和兒童等特定用戶群體，用于情感支持和智能學(xué)習(xí)陪伴，也可作為智能助手應(yīng)用在日常工作和規(guī)劃中。
綜上，目前生成式AI大模型在制造業(yè)的探索路徑初步呈現(xiàn)為三條路徑：
一是通過直接集成基礎(chǔ)大模型的問答、代碼生成等通用能力來提升效率。例如海爾、西門子等的CAD、PLC代碼生成；Salesforce、微軟、ABB、用友等在CRM、ERP、生產(chǎn)管理等軟件接入大模型，提升專業(yè)軟件的數(shù)據(jù)分析、文檔管理、知識問答等輔助能力。
二是通過微調(diào)、外掛知識庫等方式來聚焦領(lǐng)域?qū)崿F(xiàn)場景創(chuàng)新，增加新的功能。例如，Authentise通過利用12,000篇科學(xué)增材制造論文的精調(diào)對通用大語言模型的精調(diào)，推出3DGPT用于增材制造技術(shù)問答。
三是從預(yù)訓(xùn)練開始構(gòu)建工業(yè)大模型。例如創(chuàng)新奇智工業(yè)大模型AInno-15B從Llama 2、Falcon、Bloom等開源大模型中蒸餾一部分知識，再結(jié)合自己設(shè)計(jì)的參數(shù)結(jié)構(gòu)和積累的工業(yè)知識數(shù)據(jù)做訓(xùn)練。經(jīng)過Pretrain、SFT和RLHF三個(gè)訓(xùn)練步驟，依次使模型獲得更懂工業(yè)、支持問答交互和答案更標(biāo)準(zhǔn)的能力。
生成式AI大模型
在制造業(yè)領(lǐng)域仍需克服三大挑戰(zhàn)
人工智能在工業(yè)領(lǐng)域的應(yīng)用仍具備非常廣闊的空間，根據(jù)凱捷統(tǒng)計(jì)，只有歐洲頂級制造企業(yè)AI應(yīng)用普及率超過30%，日本制造企業(yè)AI應(yīng)用率達(dá)到30%；美國制造企業(yè)AI應(yīng)用率達(dá)到28%;中國制造企業(yè)普及率達(dá)到11%，這個(gè)調(diào)查表明人工智能在工業(yè)領(lǐng)域的普及率仍有很高的空間。但是生成式AI大模型的應(yīng)用仍需面臨一些挑戰(zhàn)：
圖6人工智能在制造業(yè)滲透率對比
一是尚未出現(xiàn)投入產(chǎn)出比非常明確的場景。在ChatGPT爆發(fā)之前，人工智能雖然在制造業(yè)擁有很多場景的探索，但是較為認(rèn)可的領(lǐng)域仍然聚焦于的質(zhì)量檢測和設(shè)備預(yù)測性維護(hù)，這兩種場景被認(rèn)可的核心原因就是在項(xiàng)目實(shí)施后的效果較為明顯，例如產(chǎn)品表面缺陷檢測能夠同過人力成本的節(jié)省來計(jì)算明確的ROI，設(shè)備預(yù)測性維護(hù)能夠基于設(shè)備故障發(fā)現(xiàn)的時(shí)間節(jié)點(diǎn)來衡量效果，但是在生成式AI的應(yīng)用，尚未出現(xiàn)類似以上兩種經(jīng)濟(jì)效應(yīng)較為明顯的場景，大多數(shù)場景的探索處于試點(diǎn)和探索階段。
二是面向領(lǐng)域的基礎(chǔ)模型缺乏。目前面向工業(yè)領(lǐng)域大模型的做法，大多都是從精調(diào)做起，并沒有經(jīng)過預(yù)訓(xùn)練階段，而預(yù)訓(xùn)練才是真正知識灌輸階段，讓模型真正學(xué)習(xí)領(lǐng)域數(shù)據(jù)知識，做到適配領(lǐng)域。從精調(diào)做起或者直接集成大模型只是激發(fā)原有大模型的能力，并沒有從實(shí)現(xiàn)對領(lǐng)域知識的理解和推理。而當(dāng)前的基礎(chǔ)模型發(fā)展仍處于通用大模型競爭的白熱化階段，對面向行業(yè)的基礎(chǔ)模型關(guān)注較少，目前也僅有少數(shù)的企業(yè)開始從預(yù)訓(xùn)練階段構(gòu)建制造業(yè)領(lǐng)域的生成式大模型應(yīng)用。
三是制造業(yè)領(lǐng)域場景高度碎片化。碎片化的場景對大模型這種對數(shù)據(jù)、算力要求較高的范式也提出了挑戰(zhàn)。工業(yè)數(shù)字化領(lǐng)域經(jīng)常流傳一個(gè)邏輯，“工業(yè)數(shù)字化是萬億級的市場，但其是一萬個(gè)億級市場的組合”，對于細(xì)分領(lǐng)域來說，很難有足夠多可用的數(shù)據(jù)來從預(yù)訓(xùn)練階段開始訓(xùn)練大模型，通用的大模型又無法適配聚焦細(xì)分領(lǐng)域的場景需求，這種天然的矛盾會阻礙大模型的發(fā)展。圖片
備注：斯坦福大學(xué)用基礎(chǔ)模型來泛指通過自監(jiān)督學(xué)習(xí)在超大規(guī)模數(shù)據(jù)上訓(xùn)練并且可以適配（例如，微調(diào)）各種下游任務(wù)的模型，這些模型包含但不限于ChatGPT、Llama等。在我國伴隨著產(chǎn)業(yè)發(fā)展，通常用大模型來泛指ChatGPT、Llama等生成式模型，本文撰寫過程中對語言、圖像、多模態(tài)等各類生成式AI沿用了目前我國產(chǎn)業(yè)界形成的共識。
