據(jù)路透社報(bào)道，由前OpenAI首席科學(xué)家伊利亞·蘇茨克弗（Ilya Sutskever）聯(lián)合創(chuàng)立的初創(chuàng)公司Safe Superintelligence（SSI）成立僅三個(gè)月九吸引了大量關(guān)注和資本。據(jù)消息人士透露，SSI已經(jīng)在首輪融資中籌集了10億美元，估值高達(dá)50億美元。SSI的目標(biāo)是開(kāi)發(fā)超越人類(lèi)能力的安全人工智能系統(tǒng)。
頂尖風(fēng)投加持，押注“安全超級(jí)智能”
盡管市場(chǎng)對(duì)AI初創(chuàng)公司的興趣有所下降，投資者仍對(duì)SSI展現(xiàn)了極大的信心。知名風(fēng)險(xiǎn)投資公司Andreessen Horowitz、紅杉資本、DST Global和SV Angel都參與了此次融資。此外，由Nat Friedman和SSI的首席執(zhí)行官丹尼爾·格羅斯（Daniel Gross）共同管理的投資伙伴NFDG也加入其中。
格羅斯在采訪中表示，公司非常重視與理解和支持其使命的投資者合作。他指出：“我們的使命是打造安全超級(jí)智能，并在未來(lái)幾年專(zhuān)注于研發(fā)。”這不僅是對(duì)技術(shù)的信任，也是對(duì)團(tuán)隊(duì)和未來(lái)愿景的信任。
SSI計(jì)劃利用這筆資金獲取計(jì)算能力并招聘頂尖人才，團(tuán)隊(duì)目前僅有10名員工，分布于美國(guó)加州帕洛阿爾托和以色列特拉維夫。
伊利亞強(qiáng)調(diào)，SSI將采取與OpenAI不同的路徑，特別是在AI規(guī)?；僭O(shè)（Scaling Hypothesis）的執(zhí)行上。他表示：“大家都在談?wù)撘?guī)?；?，卻忽視了真正應(yīng)該擴(kuò)展的是什么。”他希望通過(guò)不同的技術(shù)策略，創(chuàng)造出與眾不同的成果。
AI安全：行業(yè)焦點(diǎn)與監(jiān)管挑戰(zhàn)
AI安全是當(dāng)前的熱門(mén)話題，隨著人工智能能力的不斷提升，如何防止AI系統(tǒng)對(duì)人類(lèi)社會(huì)造成潛在威脅變得尤為重要。SSI的研發(fā)目標(biāo)是確保（超級(jí)）人工智能系統(tǒng)的安全性，避免其在脫離人類(lèi)控制后可能帶來(lái)的負(fù)面影響。
與此同時(shí)，美國(guó)加州的一項(xiàng)立法提案正引發(fā)AI行業(yè)的分裂。該法案旨在對(duì)AI公司實(shí)施安全監(jiān)管，OpenAI和Google等科技巨頭表示反對(duì)，而Anthropic和Elon Musk的xAI則表示支持。業(yè)界對(duì)AI安全問(wèn)題產(chǎn)生巨大分歧，凸顯出AI安全監(jiān)管的復(fù)雜性和緊迫性。
伊利亞在創(chuàng)立SSI之前，曾是OpenAI的聯(lián)合創(chuàng)始人和首席科學(xué)家，主導(dǎo)了“超對(duì)齊”團(tuán)隊(duì)（Superalignment Team），該團(tuán)隊(duì)的任務(wù)是確保AI在超過(guò)人類(lèi)智能的情況下依然符合人類(lèi)的價(jià)值觀。然而，在OpenAI經(jīng)歷了管理層的“宮斗鬧劇”后，伊利亞的角色逐漸被削弱，他最終于2024年5月離開(kāi)公司，隨后決定創(chuàng)立SSI。
與OpenAI的非營(yíng)利組織結(jié)構(gòu)不同，SSI采用了傳統(tǒng)的盈利性架構(gòu)。格羅斯表示，公司在招聘時(shí)非常注重團(tuán)隊(duì)文化的契合，傾向于選擇那些對(duì)工作充滿興趣而非追逐熱點(diǎn)的人才。公司未來(lái)還將與云服務(wù)提供商和芯片制造商合作，滿足其計(jì)算需求，盡管目前尚未確定具體合作伙伴。
