在英偉達(dá)GTC年度大會(huì)上，英偉達(dá)（NVIDIA）發(fā)布了全新處理器 DPU（Data Processing Unit，數(shù)據(jù)處理單元），并將其定位為數(shù)據(jù)中心中繼CPU、GPU之后的“第三顆主力芯片”，正式將DPU這一概念推向時(shí)代潮頭。

放眼國(guó)內(nèi)各家DPU芯片研發(fā)廠商，中科馭數(shù)（北京）科技有限公司（以下簡(jiǎn)稱(chēng)：中科馭數(shù)）率先于2019年流片了業(yè)內(nèi)首顆數(shù)據(jù)庫(kù)和時(shí)序數(shù)據(jù)處理融合加速芯片“DPU-K1”，現(xiàn)已為華泰證券、中泰證券、上交所等頭部證券企業(yè)輸出成熟的產(chǎn)品及硬件加速解決方案。

此外，創(chuàng)業(yè)邦還獲悉，中科馭數(shù)將在2022年面向市場(chǎng)推出性能強(qiáng)化、帶寬及協(xié)議格式更加豐富的“DPU-K2”芯片。

01

隨著摩爾定律放緩，通用CPU性能增長(zhǎng)的成本迅速上升，但整個(gè)網(wǎng)絡(luò)帶寬的增長(zhǎng)卻不斷加速，這在國(guó)內(nèi)金融、云計(jì)算、數(shù)據(jù)中心等場(chǎng)景下尤為常見(jiàn)。

這些場(chǎng)景下的網(wǎng)絡(luò)帶寬正在從主流的10G朝著40G、100G甚至400G發(fā)展，帶寬和節(jié)點(diǎn)的劇增使得數(shù)據(jù)的通路更寬、更密，處于端、邊、云各處的計(jì)算節(jié)點(diǎn)直接暴露在了劇增的數(shù)據(jù)量下，使得CPU的性能增長(zhǎng)率與數(shù)據(jù)量增長(zhǎng)率出現(xiàn)了明顯的“剪刀差”現(xiàn)象，CPU難以直接應(yīng)對(duì)龐大數(shù)據(jù)計(jì)算負(fù)載。

DPU作為給CPU“減負(fù)”的幫手，主要作用在于卸載CPU部分算力并釋放到上層應(yīng)用中，支持存儲(chǔ)、安全、服務(wù)質(zhì)量管理等基礎(chǔ)設(shè)施層服務(wù)，幫助使用者獲得超高性?xún)r(jià)比的算力，有效克服通信延遲，提升數(shù)據(jù)安全水平。

據(jù)《中國(guó)數(shù)據(jù)處理器行業(yè)概覽系列短報(bào)告》數(shù)據(jù)研究預(yù)測(cè)，僅在DPU應(yīng)用需求最大的云計(jì)算領(lǐng)域，2025年中國(guó)DPU市場(chǎng)的容量有望達(dá)40億美元，而當(dāng)前DPU應(yīng)用較為廣泛的金融、電信領(lǐng)域更有望在短期內(nèi)支撐起一個(gè)百億規(guī)模的市場(chǎng)，規(guī)模十分可觀。

02

中科馭數(shù)成立于2018年，孵化于中科院計(jì)算所計(jì)算機(jī)體系結(jié)構(gòu)國(guó)家重點(diǎn)實(shí)驗(yàn)室，是一家專(zhuān)注于專(zhuān)用計(jì)算架構(gòu)研發(fā)的硬科技企業(yè)，致力于解決后摩爾定律時(shí)代通用算力不足的核心問(wèn)題，為智能計(jì)算提供DPU芯片和解決方案。

在創(chuàng)立之初，中科馭數(shù)便提出了“軟件定義加速器”的技術(shù)路線，并研發(fā)專(zhuān)用技術(shù)芯片架構(gòu)——KPU（Kernel Processing Unit，核處理器）。

這是一種專(zhuān)為加速特定領(lǐng)域核心功能計(jì)算而設(shè)計(jì)的一種協(xié)處理器架構(gòu)，以功能核作為基本單元，具備超強(qiáng)異構(gòu)核集成和調(diào)度能力。

一顆KPU根據(jù)需求可以集成數(shù)十至數(shù)百個(gè)功能核，可直接對(duì)應(yīng)用中的計(jì)算密集型應(yīng)用進(jìn)行抽象核和高層綜合，實(shí)現(xiàn)以數(shù)據(jù)為中心的架構(gòu)“定制”，靈活性極高，在保障充沛算力的同時(shí)以最低功耗支撐更多運(yùn)算負(fù)載類(lèi)型。

據(jù)中科馭數(shù)創(chuàng)始人&CEO鄢貴海介紹，在運(yùn)行機(jī)制上，KPU采用“數(shù)據(jù)驅(qū)動(dòng)并行計(jì)算”的方式，通過(guò)運(yùn)行過(guò)程中的數(shù)據(jù)流來(lái)激活不同的功能核進(jìn)行相應(yīng)計(jì)算。另外，“軟件定義”的方式也可讓用戶(hù)靈活建立“功能核”與應(yīng)用層運(yùn)算間的關(guān)系，滿(mǎn)足“一對(duì)一”服務(wù)需求，保證計(jì)算效率。

基于這一專(zhuān)用技術(shù)芯片架構(gòu)，中科馭數(shù)推出DPU芯片產(chǎn)品——DPU-K1。該產(chǎn)品在業(yè)內(nèi)率先支持網(wǎng)絡(luò)數(shù)據(jù)庫(kù)一體化加速功能，除傳統(tǒng)的網(wǎng)絡(luò)協(xié)議處理及相關(guān)應(yīng)用卸載，DPU-K1還涉及芯片級(jí)別的運(yùn)算功能，用于承載數(shù)據(jù)庫(kù)及大數(shù)據(jù)處理中的核心運(yùn)算負(fù)載，具備高效能算力。

中科馭數(shù)DPU芯片實(shí)物圖

這一芯片主要是針對(duì)序列數(shù)據(jù)處理及大數(shù)據(jù)分析而設(shè)計(jì)，集成了序列卷積tscov、序列濾波tsfir、序列距離tsdist、序列相似tsdtw等20多類(lèi)功能核，在超低延時(shí)智能網(wǎng)卡、大數(shù)據(jù)處理、風(fēng)控等應(yīng)用領(lǐng)域，可較傳統(tǒng)軟件解決方案實(shí)現(xiàn)超兩個(gè)數(shù)量級(jí)的性能提升，與DPU-K1擁有相同功能的FPGA版本芯片現(xiàn)已實(shí)現(xiàn)量產(chǎn)出貨。

除此之外，中科馭數(shù)還增加了大數(shù)據(jù)處理引擎和查詢(xún)加速引擎，這也是現(xiàn)在DPU廠商比較關(guān)鍵的技術(shù)點(diǎn)，且包含部分定制化加速單元，基本構(gòu)建起來(lái)整個(gè)DPU的框架，在此基礎(chǔ)上中科馭數(shù)繼續(xù)做加法和整合、不斷迭代，也為DPU-K2系統(tǒng)的設(shè)計(jì)奠定了基礎(chǔ)。

03

目前，市面上做DPU研發(fā)的除了芯片公司，還有互聯(lián)網(wǎng)巨頭入局，如AWS的Nitro，阿里云的MOC卡等。出于匹配自身上層負(fù)載需求，互聯(lián)網(wǎng)巨頭的“造芯”往往具有一定的封閉性，有的重視存儲(chǔ)卸載，有的強(qiáng)化IO能力，還有的關(guān)注路由轉(zhuǎn)發(fā)，對(duì)這部分“造芯”勢(shì)力而言，DPU的標(biāo)準(zhǔn)化道阻且長(zhǎng)。

中科馭數(shù)將自身定位于一家芯片設(shè)計(jì)公司，致力于研發(fā)泛行業(yè)的DPU產(chǎn)品，從設(shè)計(jì)階段就盡可能地標(biāo)準(zhǔn)化，嘗試對(duì)接開(kāi)放系統(tǒng)，實(shí)現(xiàn)更廣泛的網(wǎng)絡(luò)協(xié)議加速和查詢(xún)加速，而非適應(yīng)單一的內(nèi)部封閉系統(tǒng)需求。這在中科馭數(shù)第二代芯片產(chǎn)品DPU-K2上得到了很好的體現(xiàn)。

DPU-K2芯片較上代產(chǎn)品得到多重強(qiáng)化，以異構(gòu)眾核為基礎(chǔ)實(shí)現(xiàn)了以數(shù)據(jù)為中心的高性能DPU架構(gòu)。該芯片在數(shù)據(jù)平面集成了四類(lèi)KPU處理引擎，以數(shù)據(jù)為中心，集成自研FlashNOC?流式片上互聯(lián)架構(gòu)，可實(shí)現(xiàn)數(shù)百個(gè)處理核互聯(lián)，在2TB/S數(shù)據(jù)帶寬下保證零阻塞數(shù)據(jù)傳輸。

在控制平面，該芯片集成了多核ARM Cortex-A72通用處理器核，為用戶(hù)提供以Linux操作系統(tǒng)為基礎(chǔ)良好編程性的開(kāi)發(fā)環(huán)境，并搭載馭數(shù)自研LightningDMA?底層驅(qū)動(dòng)程序，可實(shí)現(xiàn)控制平面與數(shù)據(jù)平面超低延時(shí)交互。

DPU-K2還搭建了DPU KOS運(yùn)行時(shí)系統(tǒng)，對(duì)DPU各資源進(jìn)行動(dòng)態(tài)監(jiān)控，在控制平面實(shí)現(xiàn)了完備的安全控制，以高性能的規(guī)則引擎支持金融、電信、邊緣計(jì)算及數(shù)據(jù)中心等場(chǎng)景。該款芯片預(yù)計(jì)將于2022年完成流片，并逐步投入測(cè)試生產(chǎn)。

04

2021年，中科馭數(shù)還面向市場(chǎng)推出了專(zhuān)用計(jì)算敏捷異構(gòu)軟件平臺(tái)HADOS，這也是中科馭數(shù)整合行業(yè)需求、支持異構(gòu)計(jì)算更多應(yīng)用的前端標(biāo)準(zhǔn)化平臺(tái)。

鄢貴海介紹：“DPU-K1在為客戶(hù)提供應(yīng)用時(shí)并沒(méi)有完整的中間件，為了把我們的方案放進(jìn)去，就要從驅(qū)動(dòng)開(kāi)始做SDK，為客戶(hù)做軟件的開(kāi)發(fā)平臺(tái)、數(shù)據(jù)庫(kù)，最后還要去移植他們上層的應(yīng)用協(xié)議，做風(fēng)控時(shí)還要用數(shù)據(jù)庫(kù)的前端GDBC和ODBC，中科馭數(shù)現(xiàn)將這些功能水平整合，并按照不同的層次、客戶(hù)的上層應(yīng)用來(lái)做分流，推出了HADOS。”

HADOS集成中科馭數(shù)在領(lǐng)域?qū)Ｓ糜?jì)算架構(gòu)、專(zhuān)用處理器研發(fā)及相關(guān)產(chǎn)品和應(yīng)用經(jīng)驗(yàn)，可支撐DPU芯片及其他異構(gòu)計(jì)算硬件平臺(tái)算力輸出，兼容標(biāo)準(zhǔn)軟件應(yīng)用生態(tài)，大幅降低以KPU架構(gòu)和DPU芯片為核心的應(yīng)用軟件開(kāi)發(fā)難度。

基于HADOS軟件開(kāi)發(fā)平臺(tái)，客戶(hù)可以通過(guò)自有軟件團(tuán)隊(duì)，快速開(kāi)發(fā)包括DPU芯片等異構(gòu)算力在軟件定義網(wǎng)絡(luò)、軟件定義存儲(chǔ)、虛擬化IO、安全、大數(shù)據(jù)運(yùn)算等計(jì)算基礎(chǔ)設(shè)施方向上的應(yīng)用，大幅提升系統(tǒng)性能和效率，提升系統(tǒng)易用性，平臺(tái)現(xiàn)已配合DPU芯片產(chǎn)品投入使用。

05

商業(yè)模式上，中科馭數(shù)為客戶(hù)規(guī)劃DPU產(chǎn)品解決方案，提供硬件產(chǎn)品、軟件配套，并幫助客戶(hù)做應(yīng)用導(dǎo)入。公司整體上采用垂直行業(yè)深耕的打法，扎實(shí)服務(wù)于金融、證券客戶(hù)，并已覆蓋華泰證券、中泰證券等前20大券商。

2021年中科馭數(shù)開(kāi)始拓展電信及泛金融領(lǐng)域客戶(hù)，承擔(dān)部分政府項(xiàng)目，B端客戶(hù)的平均項(xiàng)目交付周期為9個(gè)月左右，2022年有望控制在4個(gè)月以?xún)?nèi)。

中科馭數(shù)團(tuán)隊(duì)現(xiàn)有成員百余人，其中研發(fā)人員占比近90%，核心成員來(lái)自于中科院計(jì)算所體系結(jié)構(gòu)國(guó)家重點(diǎn)實(shí)驗(yàn)室，在異構(gòu)計(jì)算方面積累深厚。

鄢貴海本人擔(dān)任中科院計(jì)算所研究員、博士生導(dǎo)師，主要研究專(zhuān)用計(jì)算機(jī)體系結(jié)構(gòu)，在容錯(cuò)計(jì)算、可定制計(jì)算、軟件定義加速器等方向取得一系列研究成果。

截至目前，中科馭數(shù)已布局發(fā)明專(zhuān)利130項(xiàng)，其中已獲得66項(xiàng)發(fā)明專(zhuān)利授權(quán)，公司還獲得多項(xiàng)軟件著作權(quán)和集成電路布圖產(chǎn)權(quán)保護(hù)。

融資方面，中科馭數(shù)現(xiàn)已完成A輪融資，歷史投資方包括華泰創(chuàng)新、國(guó)新思創(chuàng)、中科創(chuàng)星和靈均投資，多家股東連續(xù)多輪注資。

接下來(lái)，中科馭數(shù)將以金融計(jì)算加速作為抓手，面向數(shù)據(jù)中心、電信運(yùn)營(yíng)商等客戶(hù)類(lèi)型，不斷推進(jìn)DPU方案的應(yīng)用落地，并與中科曙光等生態(tài)伙伴合作，在產(chǎn)品適配后進(jìn)一步拓寬客戶(hù)渠道，逐漸幫助更多信創(chuàng)產(chǎn)業(yè)客戶(hù)、政府客戶(hù)等解決或協(xié)助解決算力難題。