編者按：本文來(lái)自微信公眾號(hào) 融中財(cái)經(jīng)（ID：thecapital），作者： 張淼，編輯：吾人，創(chuàng)業(yè)邦經(jīng)授權(quán)轉(zhuǎn)載。

近日，AI初創(chuàng)公司Kinesys AI被曝拿到了Zoom系、Getty家族和快手系的天使投資。據(jù)悉，這家公司的創(chuàng)始人是一位00后華人小伙，團(tuán)隊(duì)成員也只有7個(gè)人，但他們卻開(kāi)發(fā)了目前AI開(kāi)發(fā)者們最需要的大模型中間件Cortex，這也是他們獲得資本青睞的原因。

在AI競(jìng)賽的大背景下，一些創(chuàng)業(yè)公司去類(lèi)似ChatGPT的大模型開(kāi)發(fā)，顯得力不從心，無(wú)論是從資金還是技術(shù)上，都比不過(guò)那些據(jù)圖企業(yè)。但這些創(chuàng)業(yè)公司去做一些AI競(jìng)賽中還少有人做的“小而美”的項(xiàng)目，可能會(huì)收到意想不到的效果。

01Cortex改變了什么？

讓Kinesys AI成功逆襲的大模型中間件Cortex，目前在國(guó)外已經(jīng)火了起來(lái)。

首先我們來(lái)看Cortex為何這樣受歡迎？

Cortex也被稱(chēng)為大模型的中間件。什么是大模型中間件？比較官方的定義是，大模型中間件是在底層大模型和上層應(yīng)用之間的中間層基礎(chǔ)軟件，主要用以解決大模型落地過(guò)程中，集成數(shù)據(jù)、應(yīng)用、知識(shí)庫(kù)，以及大模型融合級(jí)功能協(xié)同這些問(wèn)題。

Cortex的技術(shù)底層邏輯是這樣的，它對(duì)于底層大模型的作用是提供了包括 GPT-4 在內(nèi)的諸多大模型 API、數(shù)據(jù)接口等，讓AI應(yīng)用的開(kāi)發(fā)者門(mén)可以根據(jù)需要直接調(diào)用，實(shí)現(xiàn)大語(yǔ)言模型的協(xié)同應(yīng)用，不再像以前那樣從頭搭建環(huán)境，然后再逐個(gè)置入需要的API，最后還得反復(fù)進(jìn)行測(cè)試。Cortex節(jié)省了AI開(kāi)發(fā)者大量的人力和時(shí)間成本。

與此同時(shí)，Cortex還向用戶(hù)提供了一些第三方數(shù)據(jù)的API接口，可以外接私有數(shù)據(jù)，做一些特定領(lǐng)域的私有版GPT。目前已經(jīng)支持的第三方數(shù)據(jù)包括Notion、Slack、Google Drive等。值得一提的是，Cortex提供諸多領(lǐng)域的大模型應(yīng)用，不局限在個(gè)別領(lǐng)域。

另外，Cortex在應(yīng)用層的作用是幫助AI應(yīng)用的開(kāi)發(fā)者營(yíng)銷(xiāo)，用戶(hù)可以直接使用發(fā)布在 Cortex 上的應(yīng)用，并且可以在原有基礎(chǔ)上調(diào)整參數(shù)，進(jìn)行個(gè)性化的二次開(kāi)發(fā)。

Cortex還有一個(gè)私人copilot功能，比如制作PPT、撰寫(xiě)草稿、編寫(xiě)電郵、總結(jié)會(huì)議等等這些基礎(chǔ)工作，Cortex都能輕松應(yīng)對(duì)。

其實(shí)Cortex最大的優(yōu)勢(shì)就是將之前AI開(kāi)發(fā)者二三個(gè)月才能完成的工作縮短到了幾分鐘，以前AI開(kāi)發(fā)者要一項(xiàng)一項(xiàng)的完成的任務(wù)，Cortex都給你打包搞定了。

目前已經(jīng)有十幾家付費(fèi)企業(yè)用戶(hù)和上千個(gè)個(gè)人用戶(hù)，市場(chǎng)前景十分廣闊，因此能得到硅谷投資人的青睞并不意外。

根據(jù)公開(kāi)資料顯示，Kinesys AI公司目前只有7人全職，2名創(chuàng)始人均為華人，其中創(chuàng)始人兼CEO，Nemo Yang是00后，求學(xué)之路比較傳奇，只花了兩年時(shí)間就拿下了佐治亞理工學(xué)院本碩學(xué)位。另外他之前在字節(jié)跳動(dòng)、飛書(shū)和微軟這些超級(jí)大廠工作過(guò)。

據(jù)悉，中學(xué)時(shí)代的Nemo Yang就超級(jí)喜歡計(jì)算機(jī)，后來(lái)自己一個(gè)人來(lái)到硅谷留學(xué)。

另外一位創(chuàng)始人兼CTO，名叫Jian Cai，也是華人，并且其還是畢業(yè)于北京大學(xué)計(jì)算機(jī)系的學(xué)霸，曾在谷歌工作過(guò)8年，有著豐富的互聯(lián)網(wǎng)工作經(jīng)驗(yàn)。

除了中國(guó)外，還有員工來(lái)自美國(guó)，印度，韓國(guó)等國(guó)家，并且多人與Nemo Yang是斯坦福校友。

02資本青睞“大模型中間件”

除了Kinesys AI，還有一些大模型中間件創(chuàng)業(yè)企業(yè)獲得融資。

自從2022年底ChatGPT大火之后，全球掀起了AI競(jìng)賽，AI相關(guān)創(chuàng)業(yè)如潮水般洶涌，就大模型中間件來(lái)說(shuō)，同樣是一眾創(chuàng)業(yè)者涌來(lái)。

如果更簡(jiǎn)單的理解大模型中間件作用的話，那就是由于ChatGPT作為底層基礎(chǔ)模型，可以直接為普通用戶(hù)提供具備一定專(zhuān)業(yè)水平的內(nèi)容，但與專(zhuān)業(yè)用戶(hù)的需求仍有差距，于是為大模型中間件帶來(lái)了的市場(chǎng)機(jī)會(huì)。同時(shí)，這些開(kāi)發(fā)大模型中間件的創(chuàng)業(yè)企業(yè)也被資本看中，接連獲得融資。

ChatGPT發(fā)布之后，短短幾個(gè)月內(nèi)就出現(xiàn)了許多大模型中間件項(xiàng)目。

由LangChain Inc公司開(kāi)發(fā)的LangChain，與Cortex有些相似。相關(guān)資料顯示，LangChain是一個(gè)大語(yǔ)言模型應(yīng)用開(kāi)發(fā)庫(kù)，希望將各種大語(yǔ)言模型整合起來(lái)，結(jié)合其他知識(shí)來(lái)源或計(jì)算能力創(chuàng)建一個(gè)實(shí)用的應(yīng)用程序。具體來(lái)講就是Langchain為開(kāi)發(fā)者提供了多模型訪問(wèn)、Prompt的封裝、多數(shù)據(jù)源加載等多種接口，讓開(kāi)發(fā)者構(gòu)建AI應(yīng)用更簡(jiǎn)單。值得一提的是，Langchain在GitHub上短短幾個(gè)月內(nèi)收獲了超過(guò)4萬(wàn)個(gè)Star，十分受市場(chǎng)歡迎。

LangChain也在今年3月獲得1000萬(wàn)美元種子輪融資，由風(fēng)險(xiǎn)投資機(jī)構(gòu)Benchmark Capital投資。

另一家LlamaIndex公司推出的大模型中間件Routing，為AI開(kāi)發(fā)者提供語(yǔ)義檢索、基于事實(shí)混合查找、訪問(wèn)總結(jié)數(shù)據(jù)，并且可以提供統(tǒng)一索引。

相關(guān)資料顯示，LlamaIndex公司由前Uber研究科學(xué)家Jerry Liu創(chuàng)立，目前LlamaIndex完成了850萬(wàn)美元的種子輪融資，參與投資的包括Greylock，OpenAI創(chuàng)始人Sam Altman的弟弟Jack Altman等硅谷頂級(jí)投資人或機(jī)構(gòu)。

Fixie也是一家大模型中間件初創(chuàng)公司，近期剛剛?cè)谫Y1200萬(wàn)美金。Fixie將自己定位為大語(yǔ)言模型的自動(dòng)化平臺(tái)，旨在幫助開(kāi)發(fā)人員將任何大語(yǔ)言模型集成到客戶(hù)自己的應(yīng)用程序中。該公司在社交媒體上的資料顯示：Fixie 可用于自動(dòng)化業(yè)務(wù)流程，并將自然語(yǔ)言理解活用于現(xiàn)有產(chǎn)品、API 集成和數(shù)據(jù)托管。

Fixie 支持流行的模型，如 OpenAI 的 GPT-4 開(kāi)箱即用，但客戶(hù)可以提供自己的模型或選擇其他商業(yè)和開(kāi)放模型。

中國(guó)國(guó)內(nèi)的大模型中間件初創(chuàng)企業(yè)也在崛起，靈奧科技推出的AI大模型中間件Vanus AI，也十分值得關(guān)注。Vanus AI可以幫助企業(yè)鏈接大模型和構(gòu)建知識(shí)庫(kù)，并進(jìn)行提示詞調(diào)試，最終搭建AI開(kāi)放者自己的AI應(yīng)用。

Vanus AI基于向量數(shù)據(jù)庫(kù)，幫助企業(yè)完成向量壓縮、模型打通、混合檢索、語(yǔ)義增強(qiáng)等過(guò)程，讓企業(yè)得以為大模型更新數(shù)據(jù)、用準(zhǔn)確的企業(yè)知識(shí)庫(kù)結(jié)合提示詞工程消除幻覺(jué)，并提升安全性。

靈奧科技也在今年7月完成數(shù)百萬(wàn)美元的種子輪融資，投資方為靖亞資本，Plug and Play。

靈奧科技團(tuán)隊(duì)人數(shù)也較少，有十余人，是屬于初創(chuàng)型公司。團(tuán)隊(duì)成員除了來(lái)自中國(guó)外，還有來(lái)自加拿大、澳大利亞等國(guó)家。

該公司CEO 厲啟鵬曾就職于阿里云等知名大廠，對(duì)于 AI 和云基礎(chǔ)設(shè)施有豐富經(jīng)驗(yàn)。團(tuán)隊(duì)其他成員也多在華為、字節(jié)跳動(dòng)、Forrester這些科技或互聯(lián)網(wǎng)大廠工作過(guò)，并且都是畢業(yè)于北京大學(xué)、倫敦國(guó)王學(xué)院、紐約大學(xué)、蒙特利爾大學(xué)這樣的頂級(jí)學(xué)府。

還有一家國(guó)內(nèi)大模型中間件廠商瀾碼科技”于近日完成數(shù)千萬(wàn)元A輪融資，該輪由IDG資本、聯(lián)新資本、Atom Capital參與投資。

公開(kāi)資料顯示，瀾碼科技是一家基于大語(yǔ)言模型的數(shù)據(jù)飛輪公司，2023年2月在上海成立?；诘讓?語(yǔ)?模型，瀾碼科技通過(guò)提供新一代?動(dòng)化平臺(tái)，在專(zhuān)業(yè)場(chǎng)景下復(fù)現(xiàn)專(zhuān)家的專(zhuān)業(yè)技能，助力企業(yè)提升業(yè)務(wù)流程質(zhì)量和效率。

瀾碼科技表示，本輪融資將繼續(xù)用于技術(shù)研發(fā)與產(chǎn)品創(chuàng)新，探索更多場(chǎng)景下大模型技術(shù)的應(yīng)用和落地，賦能更多企業(yè)構(gòu)建AI能力。

IDG資本對(duì)瀾碼科技寄予厚望，稱(chēng)后者在AI領(lǐng)域有很強(qiáng)的技術(shù)落地和商業(yè)化能力。瀾碼科技率先填補(bǔ)了國(guó)內(nèi)大模型中間層的空白，能夠助力企業(yè)實(shí)現(xiàn)AI能力的快速落地，共同挖掘AI大模型應(yīng)用的高價(jià)值場(chǎng)景。

AI企業(yè)的創(chuàng)始人，往往都是名校學(xué)霸。瀾碼科技創(chuàng)始人兼CEO周健畢業(yè)于上海交通大學(xué)計(jì)算機(jī)系，于2002年獲得亞洲首個(gè)ACM國(guó)際大學(xué)生程序設(shè)計(jì)競(jìng)賽世界冠軍，2006年加入谷歌負(fù)責(zé)中文網(wǎng)站搜索質(zhì)量?jī)?yōu)化，之后他又加入了了弘璣Cyclone 擔(dān)任CTO，后又在Google、阿里、依圖和MediaV任職，主要從事分布式系統(tǒng)研發(fā)。

03大模型中間件的市場(chǎng)機(jī)會(huì)有多大？

大模型在落地過(guò)程中會(huì)有許多問(wèn)題，有的是非常棘手的，比如有資源調(diào)度、數(shù)據(jù)集成、模型訓(xùn)練、應(yīng)用集成、知識(shí)庫(kù)與大模型融合等問(wèn)題。其中有三大主要問(wèn)題，具體來(lái)講，第一方面是知識(shí)庫(kù)的構(gòu)建。企業(yè)需要將存在現(xiàn)有系統(tǒng)中的語(yǔ)料匯總到向量數(shù)據(jù)庫(kù)，形成企業(yè)自有的知識(shí)空間。第二是AI應(yīng)用的集成。AI應(yīng)用需要服務(wù)的用戶(hù)可能存在于飛書(shū)、微信、Slack或者企業(yè)自有的業(yè)務(wù)系統(tǒng)。第三是數(shù)據(jù)安全性的問(wèn)題，由于企業(yè)數(shù)據(jù)向量化的過(guò)程中需要調(diào)用公有云大模型Embedding接口。這個(gè)過(guò)程需要將企業(yè)數(shù)據(jù)切塊之后發(fā)送給大模型，具有安全隱患。

這些問(wèn)題的解決，都是以大模型中間件為最佳。

對(duì)于AI創(chuàng)業(yè)而言，現(xiàn)在在美國(guó)硅谷是這樣的，大模型中間件的開(kāi)發(fā)走向繁榮，像ChatGPT那樣的大模型卻很少有人再想去做。

由于目前那些科技和互聯(lián)網(wǎng)巨頭們都在搞大模型，中間層這塊肥肉他們現(xiàn)在還無(wú)暇顧及，這位哪些初創(chuàng)公司提供了巨大的機(jī)遇，在海外市場(chǎng)，中間層正在蓬勃發(fā)展，超過(guò)大家的想象。

正如云計(jì)算時(shí)代，Snowflake和 AWS 相互成就一樣。大模型時(shí)代，中間層和底層算力平臺(tái)也正在相互成就。我們都知道，這是因?yàn)樗懔?yīng)商面對(duì)的最終消費(fèi)者是AI開(kāi)發(fā)者，而中間層的公司正在幫助AI開(kāi)發(fā)者快速部署大模型，這進(jìn)一步增加了底層云計(jì)算資源的消耗，為這些算力公司帶來(lái)利益。

這樣來(lái)說(shuō)，中間層的火爆，直接決定了底層算力供應(yīng)商管道的能開(kāi)多大，同時(shí)也是上層AI應(yīng)用開(kāi)發(fā)者得以成功的重要條件。在硅谷，開(kāi)發(fā)大模型中間件的一批公司正站在各自不同生態(tài)位上，把應(yīng)用層抬進(jìn)大模型時(shí)代，在這過(guò)程中，中間層自身也獲得了更大的利益。

在中國(guó)市場(chǎng)中，目前有兩家大模型中間件公司規(guī)模較大，一家是東方通，另一家是寶蘭德，其中間件產(chǎn)品主要應(yīng)用于金融行業(yè)。

今年6月9日，創(chuàng)業(yè)板上市公司東方通在互動(dòng)平臺(tái)表示 ,AI大模型訓(xùn)練需要依托大量的硬件基礎(chǔ)設(shè)施來(lái)對(duì)海量數(shù)據(jù)來(lái)訓(xùn)練和優(yōu)化，在數(shù)據(jù)處理和部署管理方面有著很高的要求。因此需要有高效的數(shù)據(jù)處理和管理中間件來(lái)支持大規(guī)模數(shù)據(jù)的存儲(chǔ)、傳輸和處理，支持模型的快速部署、監(jiān)控和調(diào)優(yōu)等，還需要通過(guò)中間件來(lái)支持多種不同的硬件和軟件環(huán)境，以滿足不同場(chǎng)景下的需求。因此，AI大模型和垂直應(yīng)用模型的爆發(fā)將會(huì)加大中間件的需求。

同樣是上市公司的寶蘭德的董事長(zhǎng)易存道在接受媒體采訪時(shí)表示，目前布局中間件的企業(yè)不是很多，因?yàn)橹虚g件的技術(shù)門(mén)檻還是比較高的，想做好不是很容易。尤其在信創(chuàng)環(huán)境下，想把中間件做好更不容易。

由此可見(jiàn)大模型中間件的市場(chǎng)在國(guó)內(nèi)來(lái)說(shuō)，競(jìng)爭(zhēng)不是很激烈，因?yàn)榧夹g(shù)門(mén)檻高，進(jìn)入該領(lǐng)域的企業(yè)少之又少，目前來(lái)看是AI領(lǐng)域細(xì)分市場(chǎng)中的風(fēng)口行業(yè)，初創(chuàng)公司如果能抓住機(jī)會(huì)。

風(fēng)險(xiǎn)投資機(jī)構(gòu)XVC合伙人陸宜接受媒體采訪時(shí)表示，我們目前投了兩家與大模型相關(guān)的公司，一家做基于大模型的個(gè)人情感陪伴聊天，一家為大模型及AI應(yīng)用落地提供基礎(chǔ)設(shè)施（大模型中間件）。當(dāng)下國(guó)內(nèi)大模型市場(chǎng)還處于快速發(fā)展的早期，雖然大量大廠、行業(yè)領(lǐng)袖已經(jīng)躬身入局，但是對(duì)于創(chuàng)業(yè)公司來(lái)說(shuō)，大模型基礎(chǔ)設(shè)施公司和應(yīng)用型公司還有大量機(jī)會(huì)等待挖掘，投資機(jī)構(gòu)也會(huì)緊密跟蹤。

雖然大模型中間件的市場(chǎng)前景很大，但這些相關(guān)創(chuàng)業(yè)公司也面臨著一定的市場(chǎng)威脅。比如最近半年來(lái)，一些大模型的能力也一再進(jìn)化，并且還開(kāi)放了插件。這樣對(duì)于大模型中間件廠商就提出了更高的要求，必須同時(shí)進(jìn)化自己的產(chǎn)品，做大模型所不能做的事，這樣才能在競(jìng)爭(zhēng)中立于不敗之地。

參考資料：http://news.sohu.com/a/685058743_115128

幾分鐘開(kāi)發(fā) AI 應(yīng)用成為可能，為什么說(shuō)大模型中間件是 AI 必備軟件？

本文為專(zhuān)欄作者授權(quán)創(chuàng)業(yè)邦發(fā)表，版權(quán)歸原作者所有。文章系作者個(gè)人觀點(diǎn)，不代表創(chuàng)業(yè)邦立場(chǎng)，轉(zhuǎn)載請(qǐng)聯(lián)系原作者。如有任何疑問(wèn)，請(qǐng)聯(lián)系editor@cyzone.cn。