12月10日,“2024上海最具投資潛力50佳創(chuàng)業(yè)企業(yè)評選”榜單在第十七屆外灘金融?上海國際股權(quán)投資論壇(2024SIPEF)上正式揭曉。RockAI憑借自研國內(nèi)首個非Transformer架構(gòu)、非Attention機(jī)制的Yan架構(gòu)大模型以及多元設(shè)備端落地應(yīng)用的市場潛力,榮獲“2024上海最具投資潛力50佳創(chuàng)業(yè)企業(yè)”稱號。
“2024上海最具投資潛力50佳創(chuàng)業(yè)企業(yè)評選”是在上海市經(jīng)信委指導(dǎo)下,市中小企業(yè)辦、市中小企業(yè)服務(wù)中心、市投資促進(jìn)服務(wù)中心聯(lián)合上海國際股權(quán)協(xié)會等三家行業(yè)協(xié)會共同組織開展,今年已經(jīng)是連續(xù)第九年舉辦。上榜企業(yè)將被列入“上海市重點(diǎn)培育創(chuàng)業(yè)企業(yè)庫”,有更多機(jī)會對接金融資本,與滬上3家股權(quán)投資協(xié)會背后近百家會員單位展開進(jìn)一步交流合作。
這一殊榮是對RockAI在大模型領(lǐng)域的相關(guān)技術(shù)成果、商業(yè)化模式發(fā)展?jié)摿Φ碾p重認(rèn)可。自2023年6月成立以來,Yan架構(gòu)大模型不斷迭代升級,持續(xù)推出Yan1.0到Y(jié)an1.3。RockAI創(chuàng)新底層架構(gòu),以MCSD、類腦激活機(jī)制為基礎(chǔ)原理,MCSD具有快速訓(xùn)練、推理能力,可以實(shí)現(xiàn)更高效的特征提取,類腦激活機(jī)制則模擬大腦中的神經(jīng)元激活模式,在計(jì)算時選擇性激活部分參數(shù),減少算力冗余,更高效地解決問題。
依托上述基礎(chǔ)原理,Yan架構(gòu)大模型在訓(xùn)練效率、推理吞吐量等多方面優(yōu)于同等參數(shù)量的Transformer架構(gòu)模型,今年8月進(jìn)行的部分?jǐn)?shù)據(jù)集測評中,已達(dá)到Llama3 8B的水平。同時,Yan架構(gòu)大模型擁有強(qiáng)大的適配伸縮性和多模態(tài)信息處理能力,不僅可以無損部署到樹莓派這樣的低算力設(shè)備,以及機(jī)器人、手機(jī)、電腦、無人機(jī)等多樣化終端,還能實(shí)現(xiàn)文本、語音、圖像等跨模態(tài)交流。
值得一提的是,Yan架構(gòu)大模型作為國內(nèi)首個非Transformer架構(gòu)、非Attention機(jī)制大模型,已通過網(wǎng)信辦備案,提交專利申請超過50項(xiàng),涵蓋大模型的模型結(jié)構(gòu)設(shè)計(jì)、算法改進(jìn)、預(yù)訓(xùn)練、微調(diào)等核心環(huán)節(jié)。憑借算力受限場景下的本地部署運(yùn)行等優(yōu)勢,RockAI與機(jī)器人、手機(jī)、電腦等領(lǐng)域的設(shè)備廠商建立深度合作并落地多個項(xiàng)目。
RockAI以“讓世界上每一臺設(shè)備擁有自己的智能”為使命,依托Yan架構(gòu)大模型打造群體智能單元大模型,正在探索強(qiáng)化模型的自主學(xué)習(xí)能力,在與物理世界交互過程中實(shí)現(xiàn)單體設(shè)備的自我進(jìn)化,從而激發(fā)群體智能的涌現(xiàn),走向通用人工智能。
本文轉(zhuǎn)載自：，不代表科技訊之立場。原文鏈接：http://news.cnmtpt.com/?Sid=11064523_796W524834342
