DeepSeek于知乎開設(shè)官方賬號，獨(dú)家發(fā)布《DeepSeek-V3/R1推理系統(tǒng)概覽》技術(shù)文章，首次公布模型推理系統(tǒng)優(yōu)化細(xì)節(jié)，并披露成本利潤率關(guān)鍵信息，標(biāo)志著全球關(guān)注的“DeepSeek開源周”正式收官。
文章寫道：“DeepSeek-V3 / R1 推理系統(tǒng)的優(yōu)化目標(biāo)是：更大的吞吐，更低的延遲！睘閷(shí)現(xiàn)這兩個目標(biāo)，DeepSeek的方案是使用大規(guī)模跨節(jié)點(diǎn)專家并行（EP），但該方案也增加了系統(tǒng)復(fù)雜性。文章的主要內(nèi)容就是關(guān)于如何使用EP增長批量大小（batch size）、隱藏傳輸耗時以及進(jìn)行負(fù)載均衡。
值得一提的是，文章還率先披露了DeepSeek的成本和利潤率等關(guān)鍵信息。“假定GPU租賃成本為2美金/小時，總成本為$87,072/天！绻 tokens全部按照DeepSeek R1的定價計(jì)算，理論上一天的總收入為$562,027，成本利潤率545%！
據(jù)了解，“DeepSeek開源周”自2月24日至2月28日，陸續(xù)開源最新技術(shù)進(jìn)展。其中包括，F(xiàn)lashMLA、DeepEP、DeepGEMM和3FS四個開源項(xiàng)目，以及DualPipe、EPLB等代碼庫。每一項(xiàng)開源發(fā)布，都在知乎引發(fā)了業(yè)內(nèi)人士的熱烈討論和贊嘆。
“話不多說，DeepSeek和OpenAI一樣重要！敝醮竽Ｐ驮掝}優(yōu)秀答主、算法工程師“劉聰NPL”如此評價。業(yè)內(nèi)人士甚至認(rèn)為，“DeepSeek開源周”的重要性已經(jīng)超過了不久前OpenAI的發(fā)布會。DeepSeek用“量大管飽”的開源有力回?fù)袅藲W美關(guān)于DeepSeek故意說低訓(xùn)練成本的說法，并且證明了在訓(xùn)練鏈路上存在極大的優(yōu)化空間！皠⒙擭PL”在開源周最后一天就感嘆：“真沒想到，最后一天DeepSeek對存儲下手啊！”而知乎編程話題優(yōu)秀答主“平凡”在第三天就做出判斷：“這些工作幾乎不可能在國外的AI公司里面完成。”
來源：環(huán)球網(wǎng)科技頻道
