近年來，隨著人工智能技術(shù)的飛速發(fā)展，大模型如何應(yīng)用到業(yè)務(wù)系統(tǒng)中成為了許多企業(yè)需要面對的首要問題，大模型如何實現(xiàn)降本增效成為了更多企業(yè)應(yīng)用落地的剛需。為了幫助客戶克服這些挑戰(zhàn)，聯(lián)想創(chuàng)投被投企業(yè)--OpenCSG 在 2024 年新年伊始發(fā)布 StarNet（星展）系列產(chǎn)品的最新 Beta 版本，并且對開源開放的大模型生態(tài)社區(qū)平臺 傳神生態(tài)社區(qū)也做了同步升級。

OpenCSG 是一家致力于人工智能算力算法管理，大模型應(yīng)用普惠化領(lǐng)域創(chuàng)新的突出企業(yè)，大模型賦能每一個人。聯(lián)想創(chuàng)投于2023年投資了OpenCSG 天使輪融資，助力其進(jìn)一步加強產(chǎn)品創(chuàng)新及研發(fā)能力建設(shè)，從而更好地推進(jìn)大模型應(yīng)用的普及和創(chuàng)新。

StarNet 實現(xiàn)企業(yè)對大模型的能力構(gòu)建和算力的靈活管理

StarNet（星展）系列產(chǎn)品主要由 StarCloud（星云平臺）及StarShip（星艦平臺）兩個產(chǎn)品構(gòu)成。該產(chǎn)品基于深度學(xué)習(xí)框架，幫助企業(yè)輕松高效的打造高質(zhì)量、低門檻、安全的大模型。并具備全面的功能，包括數(shù)據(jù)集管理、模型訓(xùn)練與評估、推理服務(wù)與應(yīng)用集成等。產(chǎn)品不僅注重安全可靠，還支持企業(yè)級服務(wù)和內(nèi)容安全過濾，為客戶提供數(shù)據(jù)和信息的安全保障。

其中，StarCloud（星云平臺）的功能包括算力線上線下一體的資源調(diào)度管理、模型算法調(diào)度管理、及智能助手；其目的是讓算力變得平民化、普惠化。

StarShip （星艦平臺）是 OpenCSG 結(jié)合 LLM Agent 技術(shù)和 SDLC（軟件開發(fā)全生命周期） 實現(xiàn)的一站式解決方案，可以實現(xiàn)大模型產(chǎn)品應(yīng)用構(gòu)建平臺、模型、數(shù)據(jù)集、應(yīng)用、代碼管理等功能，實現(xiàn)大模型開發(fā)的全周期生命管理。

傳神生態(tài)社區(qū)打造中國本土化的Huggingface Plus

大模型傳神生態(tài)社區(qū)也上線了新功能，傳神社區(qū)打造的是適合中國本土化的開源生態(tài)社區(qū)（Huggingface Plus），支持模型托管、數(shù)據(jù)集托管、應(yīng)用空間創(chuàng)建和模型微調(diào)等務(wù)。開發(fā)者可以直接使用社區(qū)提供的開放的數(shù)據(jù)集進(jìn)行大模型的微調(diào)、與預(yù)訓(xùn)練等操作。

目前傳神社區(qū)已上線100+精選大模型和60+高質(zhì)量數(shù)據(jù)集，覆蓋國內(nèi)外熱門大模型；支持在線預(yù)覽、多協(xié)議下載和社區(qū)討論；支持用戶參與和貢獻(xiàn)上傳模型和數(shù)據(jù)集。此外，OpenCSG 在常見的大模型社區(qū)的基礎(chǔ)上更加注重如何通過大模型實現(xiàn)軟件定義。

在軟件工程方面，我們使用AI大模型來提供智能化的代碼生成、自動化的錯誤檢測和修復(fù)，以及更高效的代碼審查和優(yōu)化。我們的解決方案將減少人為錯誤、提升開發(fā)速度，并提高軟件質(zhì)量和穩(wěn)定性。

在軟件生命周期管理方面，我們將通過AI大模型和數(shù)據(jù)分析來進(jìn)行需求分析、項目規(guī)劃和進(jìn)度管理，從而實現(xiàn)更好的項目可視化和資源調(diào)配。此外，我們還將建立智能化的問題追蹤和故障排查系統(tǒng)，以提供快速響應(yīng)和解決方案。

OpenCSG 綜合多年的軟件開發(fā)技術(shù)經(jīng)驗積累、云原生技術(shù)優(yōu)勢、成熟的DevOps市場機會、開源軟件商業(yè)模式，將為軟件開發(fā)提供優(yōu)秀的定制化的解決方案，以滿足他們在軟件工程和生命周期管理方面的需求，實現(xiàn)真正意義上的‘ Plus’。

新功能一覽

StarCloud （星云平臺）為企業(yè)打造高性能、高質(zhì)量的模型

自大模型的現(xiàn)世以來，大眾被大語言模型卓越的能力震驚，使得越來越多的企業(yè)都想要擁有自己的大模型，通過自己公司所積累的數(shù)據(jù)、經(jīng)驗來打造屬于自己行業(yè)的ChatGPT，但是不是每一家公司都有高級研發(fā)人才和充沛的資金背景支持，大模型的應(yīng)用落地及模型訓(xùn)練及推理過程需要大量的計算資源，如何選擇更加普惠的算力？如何計算算力在每一個項目中的使用量？如何接入算力超算和智算？這些問題是每一個大模型相關(guān)的企業(yè)都需要面臨的困擾。

OpenCSG基于這樣的思考，推出的StarCloud平臺是一款基于深度學(xué)習(xí)框架、擁有一站式大模型開發(fā)及服務(wù)。提供了算法訓(xùn)練及推理的全生命周期管理、混合異構(gòu)算力的統(tǒng)一調(diào)度管理、大模型的訓(xùn)練和管理、大模型的數(shù)據(jù)、模型微調(diào)SFT和預(yù)訓(xùn)練 pre-train的全流程、便捷的發(fā)布方式以及穩(wěn)定的運行環(huán)境。幫助企業(yè)定制自己的企業(yè)模型，提升企業(yè)的生產(chǎn)效率，降低企業(yè)成本。

本次版本更新主要帶來了以下幾個方面的提升：

安全性：新增多租戶管理功能，支持同時管理多個租戶，確保數(shù)據(jù)隔離。新增用戶角色和權(quán)限功能，實現(xiàn)更好的訪問控制與權(quán)限管理。

可視化：新增作業(yè)狀態(tài)監(jiān)控功能，實時監(jiān)控已提交作業(yè)的進(jìn)度和完成情況。新增作業(yè)詳情查看功能，提供詳細(xì)作業(yè)信息和輸出內(nèi)容查看。

靈活性：新增阿里云資源調(diào)度功能，更靈活地管理和分配阿里云資源。

便捷性：新增角色和隊列關(guān)聯(lián)功能，簡化作業(yè)提交和管理流程。新增QoS創(chuàng)建與維護(hù)功能，確保作業(yè)按照預(yù)期的優(yōu)先級和要求執(zhí)行。

StarShip （星艦平臺）讓大模型技術(shù)重塑SE領(lǐng)域

StarShip 為大模型應(yīng)用開發(fā)團(tuán)隊提供一套完整的模型、數(shù)據(jù)集管理及應(yīng)用搭建平臺。StarShip包含3個模塊：StarHub、StarChain和Copilot智能體。StarHub基礎(chǔ)底座是一個可私有化部署的大模型和數(shù)據(jù)集管理平臺，為大模型應(yīng)用研發(fā)團(tuán)隊提供全生命周期的模型、數(shù)據(jù)集、代碼等資產(chǎn)管理能力；StarChain應(yīng)用構(gòu)建平臺為大模型應(yīng)用研發(fā)者提供高效的大模型應(yīng)用構(gòu)建新范式。Copilot智能體助手將助力軟件工程的智能化，讓軟件工程的各個參與角色可以用自然語言方式來交互。

本次版本更新主要帶來了以下幾個方面的提升：

• 模型管理和數(shù)據(jù)集管理更加完善，新增了創(chuàng)建、刪除、標(biāo)簽分類、上傳下載、預(yù)覽等功能，方便用戶管理和使用模型和數(shù)據(jù)集。
• 組織機構(gòu)管理更加靈活，支持用戶創(chuàng)建組織機構(gòu)，并以個人貢獻(xiàn)者和組織貢獻(xiàn)者兩種身份管理模型和數(shù)據(jù)集。
• 身份管理更加清晰，明確了個人貢獻(xiàn)者和組織貢獻(xiàn)者兩種身份的權(quán)限。
• 文檔中心更加完善，方便用戶學(xué)習(xí)和使用傳神社區(qū)。

歡迎體驗傳神社區(qū)，也歡迎加入傳神社區(qū)成為貢獻(xiàn)者。

傳神社區(qū)官網(wǎng)：https://portal.opencsg.com/

OpenCSG官方網(wǎng)站：https://opencsg.com/