2月26日，國(guó)內(nèi)AI領(lǐng)域迎來(lái)技術(shù)突破——DeepSeek在”開(kāi)源周”第三日發(fā)布革命性矩陣計(jì)算庫(kù)DeepGemm。這款專為FP8精度設(shè)計(jì)的矩陣乘法引擎，以300行極簡(jiǎn)代碼實(shí)現(xiàn)超越行業(yè)標(biāo)桿的性能表現(xiàn)，為大規(guī)模語(yǔ)言模型訓(xùn)練推理注入新動(dòng)能。
▍性能狂飆：Hopper架構(gòu)實(shí)測(cè)1350+ TFLOPS
基于NVIDIA Hopper GPU架構(gòu)深度優(yōu)化，DeepGemm在H800計(jì)算卡上實(shí)測(cè)突破1350 FP8 TFLOPS性能大關(guān)。該庫(kù)特別針對(duì)DeepSeek-V3/R1模型架構(gòu)優(yōu)化，覆蓋預(yù)填充、解碼等典型推理場(chǎng)景，在多數(shù)矩陣尺寸下性能表現(xiàn)超越專業(yè)團(tuán)隊(duì)手工優(yōu)化的Cutlass 3.6實(shí)現(xiàn)。
▍技術(shù)特性：三大創(chuàng)新突破
? 智能精度管理：采用DeepSeek-V3獨(dú)創(chuàng)的精細(xì)化縮放技術(shù)，通過(guò)CUDA核心兩級(jí)累加方案，有效解決FP8張量核心累加精度損失難題
? 架構(gòu)輕量化：完全基于JIT即時(shí)編譯技術(shù)，零預(yù)編譯依賴，核心代碼精簡(jiǎn)至300行級(jí)，堪稱深度學(xué)習(xí)框架的”教科書(shū)式”實(shí)現(xiàn)
? 多模態(tài)支持：兼容標(biāo)準(zhǔn)稠密矩陣與MoE混合專家模型兩種布局，為復(fù)雜AI模型提供靈活算力支持
▍開(kāi)發(fā)者友好設(shè)計(jì)
項(xiàng)目采用模塊化架構(gòu)，剝離傳統(tǒng)框架復(fù)雜的模板依賴，代碼可讀性堪比教學(xué)案例。開(kāi)發(fā)者可快速掌握Hopper架構(gòu)的FP8優(yōu)化精髓，官方特別開(kāi)放性能待優(yōu)化場(chǎng)景，誠(chéng)邀社區(qū)共同完善。
開(kāi)源地址：https://github.com/deepseek-ai/deepgemm
（注：當(dāng)前版本僅支持NVIDIA Hopper架構(gòu)GPU，需配合CUDA 12.8環(huán)境使用）
此次開(kāi)源標(biāo)志著國(guó)產(chǎn)AI基礎(chǔ)設(shè)施取得重要突破，DeepGemm的極簡(jiǎn)哲學(xué)與極致性能，或?qū)⒅厮苌疃葘W(xué)習(xí)計(jì)算庫(kù)的開(kāi)發(fā)范式。正如開(kāi)發(fā)者所言：“我們相信優(yōu)雅的代碼不應(yīng)以性能為代價(jià)，這正是DeepGemm存在的意義?！?/p>
