近日，基于“百度百舸GPU云平臺(tái)+昆侖芯P800”構(gòu)建的國(guó)產(chǎn)萬(wàn)卡集群，以卓越表現(xiàn)，成為首家通過(guò)中國(guó)信息通信研究院《面向大規(guī)模智算服務(wù)集群的穩(wěn)定運(yùn)行能力要求》測(cè)評(píng)的國(guó)產(chǎn)萬(wàn)卡級(jí)別集群，且在基礎(chǔ)設(shè)施、集群調(diào)度、模型訓(xùn)練保障等核心測(cè)評(píng)維度上，斬獲高等級(jí)“五星級(jí)”。這不僅是對(duì)百度智能云當(dāng)前技術(shù)實(shí)力的權(quán)威認(rèn)可，更標(biāo)志著國(guó)產(chǎn)萬(wàn)卡集群在穩(wěn)定性與成熟度上達(dá)到了全新高度，為產(chǎn)業(yè)智能化提供了堅(jiān)實(shí)可靠的算力底座。

    圖片1.jpg

    硬核底座：百舸+昆侖芯，打造“多快穩(wěn)省”AI基礎(chǔ)設(shè)施，讓萬(wàn)卡集群持續(xù)穩(wěn)跑

    支撐超大規(guī)模智算集群的穩(wěn)定高效運(yùn)行，是全球科技企業(yè)面臨的共同挑戰(zhàn)。百度智能云基于“百度百舸GPU云平臺(tái)+昆侖芯P800”構(gòu)建的國(guó)產(chǎn)萬(wàn)卡集群通過(guò)高等級(jí)測(cè)評(píng)，正是攻克這一難題的硬核答案。

    昆侖芯P800是一款真正意義上為大模型而設(shè)計(jì)的芯片，它采用了完全由昆侖芯自研的XPU-P架構(gòu)，顯存遠(yuǎn)超同類芯片。而AI芯片非常敏感，隨著集群規(guī)模擴(kuò)展，故障率一定會(huì)快速增長(zhǎng)，對(duì)于整個(gè)業(yè)務(wù)影響是指數(shù)級(jí)的。這就要求，在硬件之上，還必須有一層好的軟件管理系統(tǒng)，保證集群的穩(wěn)定運(yùn)行。百度百舸GPU云平臺(tái)，圍繞落地大模型全旅程的算力需求，在集群創(chuàng)建、開(kāi)發(fā)實(shí)驗(yàn)、模型訓(xùn)練、模型推理四大方面，能為企業(yè)提供“多快穩(wěn)省”的AI基礎(chǔ)設(shè)施，在萬(wàn)卡集群的建設(shè)中發(fā)揮了至關(guān)重要的作用。在萬(wàn)卡任務(wù)上，百舸平臺(tái)可以保障有效訓(xùn)練時(shí)長(zhǎng)占比達(dá)到99.5%。在推理加速的優(yōu)化上，百舸平臺(tái)基于大規(guī)模PD分離式推理系統(tǒng)以及多專家并行機(jī)制，支撐千帆平臺(tái)為40萬(wàn)客戶提供服務(wù)。上線以來(lái)，千帆的推理吞吐提升了20倍，推理速度提升了50%以上。這一獨(dú)特的技術(shù)優(yōu)勢(shì)也助力百度智能云成功突破頭部科技企業(yè)及中腰部客戶市場(chǎng)，推動(dòng)GenAIIaaS業(yè)務(wù)實(shí)現(xiàn)跨越式增長(zhǎng)。

    智算未來(lái)：加快推動(dòng)大模型產(chǎn)業(yè)化發(fā)展，釋放更多場(chǎng)景價(jià)值

    今年2月，百度智能云已成功點(diǎn)亮昆侖芯P800萬(wàn)卡集群，這也是國(guó)內(nèi)正式點(diǎn)亮的自研萬(wàn)卡集群；4月，再一次成功點(diǎn)亮國(guó)內(nèi)全自研的3萬(wàn)卡集群，可同時(shí)承載多個(gè)千億參數(shù)大模型的全量訓(xùn)練，支持1000個(gè)客戶同時(shí)做百億參數(shù)的大模型精調(diào)。該集群建設(shè)了超大規(guī)模的高性能網(wǎng)絡(luò)，能夠保證大規(guī)模集群執(zhí)行訓(xùn)練任務(wù)時(shí)的穩(wěn)定性，創(chuàng)新性地設(shè)計(jì)了顯著降低能耗的散熱方案。大模型賦能產(chǎn)業(yè)是一場(chǎng)長(zhǎng)期接力，百度會(huì)堅(jiān)定投入，打造更先進(jìn)、高效的人工智能基礎(chǔ)設(shè)施，服務(wù)更多的中國(guó)企業(yè)，加快推動(dòng)大模型產(chǎn)業(yè)化發(fā)展，釋放更多場(chǎng)景價(jià)值。

    未來(lái)一年，將是各種AI原生應(yīng)用爆發(fā)的黃金時(shí)期。自研芯片和萬(wàn)卡集群的建成帶來(lái)了強(qiáng)大的算力支持，同時(shí)有效提升用戶的資源整體利用率，降低大模型訓(xùn)練成本，推動(dòng)模型降本，將為產(chǎn)業(yè)的全面繁榮乃至整個(gè)行業(yè)的長(zhǎng)遠(yuǎn)發(fā)展提供了新思路和新方向。