本文來(lái)自微信公眾號(hào)“中國(guó)電子報(bào)”。
4月27日，在2024中關(guān)村論壇年會(huì)——通用人工智能論壇上，北京通用人工智能研究院院長(zhǎng)，北京大學(xué)智能學(xué)院院長(zhǎng)、人工智能研究院院長(zhǎng)朱松純表示，人工智能的科研范式要從“數(shù)據(jù)驅(qū)動(dòng)”轉(zhuǎn)向“價(jià)值驅(qū)動(dòng)”，而實(shí)現(xiàn)通用人工智能（AGI）的關(guān)鍵是為機(jī)器立“心”。
圖片北京通用人工智能研究院院長(zhǎng)朱松純
“通用人工智能是技術(shù)領(lǐng)域的顛覆性突破，對(duì)生產(chǎn)生活、國(guó)家安全和人類未來(lái)會(huì)產(chǎn)生深遠(yuǎn)的影響。”朱松純表示，通用人工智能研究的目標(biāo)是尋求統(tǒng)一的理論框架解釋各種智能現(xiàn)象，并研發(fā)具備自主的感知、認(rèn)知、決策、學(xué)習(xí)、執(zhí)行和社會(huì)協(xié)作等能力，且符合人類情感、倫理與道德觀念的通用智能體。
朱松純認(rèn)為通用人工智能需具備以下三大基本特征：
一是完成無(wú)限任務(wù)，在復(fù)雜動(dòng)態(tài)的物理和社會(huì)環(huán)境中不局限在預(yù)先定義的任務(wù)，任務(wù)泛化。二是自主定義任務(wù)，不依賴人類去定義每一個(gè)任務(wù)。三是由價(jià)值驅(qū)動(dòng)，智能體的內(nèi)在價(jià)值體系要與人類價(jià)值倫理對(duì)齊。
朱松純提出，通用人工智能系統(tǒng)還需具備AI系統(tǒng)的兩個(gè)完備性：一是完備的認(rèn)知架構(gòu)，即任意一個(gè)AI任務(wù)都可映射到該架構(gòu)中解決，并能分析任務(wù)的復(fù)雜度。二是完備的測(cè)試環(huán)境，即可提供任意場(chǎng)景、任意任務(wù)，將人類可能遇到的任務(wù)均可在平臺(tái)上復(fù)現(xiàn)。
過(guò)去的這些年，人工智能的發(fā)展主要由數(shù)據(jù)驅(qū)動(dòng)，各界往往將人工智能與大數(shù)據(jù)、大算力和大模型聯(lián)系起來(lái)。但在當(dāng)前的模式下，人工智能的產(chǎn)業(yè)化落地遇到了很多問(wèn)題，比如：任務(wù)泛化性弱，在復(fù)雜場(chǎng)景難以落地；AI黑盒（指的是其內(nèi)部工作原理對(duì)用戶不可見(jiàn)的AI系統(tǒng)）不可解釋，難以獲得人類的信任；大數(shù)據(jù)與計(jì)算的成本高昂，難以盈利。
“人工智能的科研范式應(yīng)從‘數(shù)據(jù)驅(qū)動(dòng)’轉(zhuǎn)向‘價(jià)值驅(qū)動(dòng)’。”在朱松純看來(lái)，實(shí)現(xiàn)通用人工智能的關(guān)鍵要素并不是大數(shù)據(jù)、大算力或大模型，而是為機(jī)器立“心”——智能體要有自己的認(rèn)知架構(gòu)和價(jià)值體系。
為此，科研人員需要解決認(rèn)知架構(gòu)、價(jià)值函數(shù)、自我意識(shí)、社交智能、價(jià)值驅(qū)動(dòng)、具身智能、可解釋性、人機(jī)互信等八個(gè)關(guān)鍵技術(shù)問(wèn)題。
未來(lái)，在工程架構(gòu)上，要實(shí)現(xiàn)從計(jì)算到智能的顛覆式跨越。通過(guò)行業(yè)用戶的自然語(yǔ)言，在智能系統(tǒng)上運(yùn)行，實(shí)現(xiàn)由價(jià)值驅(qū)動(dòng)的各種復(fù)雜的行業(yè)任務(wù)。在理論框架上，要實(shí)現(xiàn)從信息科學(xué)到智能科學(xué)的顛覆式跨越。比如，在智能體的測(cè)試上，要從圖靈測(cè)轉(zhuǎn)變到通用人工智能測(cè)試。
