东升国际官网

申請試用
登入
  • hd-share-img01
資訊與博客

商湯大裝置接入DeepSeek企業版 同時開源AI開發框架LazyLLM

2025-02-24

商湯科技於上海舉行的全球開發者先鋒大會(Global Developer Conference)宣佈商湯大裝置SenseCore兩項沉要升級:接入DeepSeek企業版,以及開源AI開發框架LazyLLM 。

 

商湯大裝置DeepSeek企業版上線+免費版擴大容量

 

今年2月,商湯大裝置萬象平台正式上線了DeepSeek-R1、DeepSeek-V3等模型,並為免費版提供3個月內千萬Token額度,受到客戶的熱烈響應 。為了更好地服務用戶,經過一系列優化,現正式推出企業版,亦实现免費版國產化適配與擴大算力容量 。

 

為滿足各行業對DeepSeek系列模型應用的火急需要,並提升用戶體驗,商湯大裝置专门上線DeepSeek-R1-Enterprise企業版,提供高机能、高穩定性的服務保险,實現推理机能行業領先、最大化推理效能,提供一站式監控诉警,助力模型服務實現效能與質量的飛躍 。

 

此表,商湯大裝置為企業用戶提供專家服務,提供端到端解決规划,蕴含:

l   模型定製服務:打造輕量化模型定製,基於場景強化學習在特定場景提升基模型,支持蒸餾到幼模型高效推理;

l   場景化綜合解決规划:涵蓋模型定製、模型開發平台、Agent應用開發平台三大主题模塊,提供全鏈路支持;

l   急剧全週期交付體系:專家團隊提供從業務診斷到系統落地的全週期服務,最快14 天实现部署 。

 

同時,商湯大裝置已基於國產算力進行優化,並擴大算力容量,讓DeepSeek-R1模型惠及更多用戶 。

l   國產化適配:实现多家主流國產晶片國產化適配,支持運行DeepSeek-R1滿血版;

l   國產化優化:实现國產芯片的8bit量化版本模型優化,同時提供最優的算子、並行等规划,保险極致推理机能;

l   擴大算力容量:全面切換國產算力,支持高併發、多人同時使用,體驗不受影響 。

 

商湯大裝置始終致力於為企業和開發者提供高效能、低成本、規;男滦腿宋悄芑A設施,可支持商湯「日日新」融合大模型 SenseNovaDeepSeekQwenLlama 等大模型 。未來,商湯將繼續提供強大的技術支持和全方位的服務保险,持續為行業輸出高效、易用、普惠的 AI 雲服務,幫助客戶實現業務場景的提智增效 。

 

商湯大裝置網址:https://console.sensecore.cn/aistudio

 

開源「懶人必備」開發平台LazyLLM

 

大模型熱潮的持續高漲,讓各類Agent應用開發需要也急剧激增 。商湯大裝置推出了開源、低代碼的大模型應用開發框架——LazyLLM,幫助開發者以低至約10行的代碼,輕鬆構建複雜、定製化的多Agent大模型應用 。


640.png

Lazy」意為「懶惰」,商湯將其定名為「LazyLLM」,但愿用戶無需具備高明技術或複雜操作,越「懹坠,就越能協助用戶輕鬆解決問題 。

 

助力高效迭代:將商湯內部在大模型和應用開發中,對AI Native開發範式的沉澱和經驗,作為工具面向廣大開發者開源,幫助各人以最簡單的步骤和至少的代碼,像積木一樣急剧構建複雜、強大得多Agent AI應用原型 。有了這一急剧、高效、低門檻的途徑,AI應用開發的門檻將大幅降低 。

 

提升數據成效:採用以數據流為主题的應用開發範式,可透過PipelineParallel等數據流拼接已有組件或其他開源軟件 。

 

一鍵部署複雜應用:讓開發者得以更迅速地將意圖識別、知識庫檢索能力、大模型能力等組合在一路,急剧實現產品落地 。待開發实现後,智能體可一鍵將其部署至網頁、企業微信等平台 。

 

國內表廣泛適配:LazyLLM還對多種模型服務進行了封裝,讓開發者在對分歧技術進行選型時,也能獲得統一的體驗,實現統一調用、統一服務、統一部署,靈活試驗各種基模型、訓推框架與數據庫 。此表,LazyLLM還解決了部门國表工具本土化適配不及的問題,並得到許多國內開發者認可 。


640 (1).png


以實現一個數學公式為例,透過LazyLLM僅需10行代碼,效能較LangChainLlamaIndex提升30%60%以上 。


640.png


LazyLLM已在GitHub上開源,歡迎廣大開發者體驗使用:

項目位址:https://github.com/LazyAGI/LazyLLM

項目文檔:docs.lazyllm.ai

 

萬象平台-一站式賦能AI應用落地全流程

 

商湯大裝置上的萬象平台是基於LazyLLM構建的齐全的模型開發平台與Agent應用開發平台,為用戶提供一站式的、AI 應用落地的全流程最優规划 。

 

在低代碼的基礎上,萬象平台徹底降低了對代碼的要求,用戶能够不具備任何編程技巧,最低不寫一行代碼,只有懂業務的數據流程、數據鏈路,就可通過可視化的拖拽操作,自動天生代碼、实现部署,急剧搭建私有化大模型應用 。


640 (2).png


作為面向企業級模型開發與治理的一站式服務平台,萬象平台具備模型治理、精調、推理、評測等全方位职能,可提供商湯「日日新」大模型以及DeepSeek 等幾百種開源大模型,做到開箱即用,僅需一分鐘就能够搭建起整個應用開發的pipeline 。隨後,通過急剧的搭建、試錯、上架、迭代以及使用,實現從應用開發到迭代的美满閉環 。其中,針對用戶分歧的場景个性,商湯大裝置可基於分歧模型進行高效推理和微調,幫助用戶「花一塊錢的算力,得到兩塊錢的成效」 。在最近SuperCLUE 發布的針對DeepSeek-R1的第三方API測評中,商湯大裝置位居免費版API排名第一,充分體現了大裝置及萬象平台的工程能力 。


640 (3).png


目前,商湯大裝置己通過LazyLLM和萬象平台為眾多行業提供 AI 應用落地的綜合解決规划,覆蓋金融、建築、航空航天等10個行業場景,並助力30餘家企業組織實現 AI 能力的提升與落地,讓AI能力轉化為生產力,實現數智化轉型升級 。

go_top
【网站地图】