深夜的辦公室里，你盯著屏幕，等待模型推理的進(jìn)度條一點(diǎn)點(diǎn)挪動(dòng)。哪怕只是微調(diào)一個(gè)七百億參數(shù)的模型，也要耗掉好幾個(gè)小時(shí)，更別提兩百億級(jí)別以上的大模型推理。想在數(shù)據(jù)安全有保障，同時(shí)成本可控的前提下高效運(yùn)行大模型，成了一道幾乎無解的難題。

今年，Dell Pro Max with GB10帶著一種不同的解法出現(xiàn)了。它把過去只能在數(shù)據(jù)中心才能用到的Grace Blackwell架構(gòu)壓縮進(jìn)一本字典大小的機(jī)身里，讓高達(dá)1000 TOPS的AI算力第一次以“掌上超算”的形態(tài)走進(jìn)日常辦公環(huán)境。對(duì)于那些既要本地運(yùn)行、又要靈活部署AI模型的用戶來說，這是一種全新的可能。

小體積里的大算力

Dell Pro Max with GB10采用了NVIDIA今年在GTC上首次亮相的Grace Blackwell架構(gòu)，將CPU與GPU深度融合，通過NVLink C2C實(shí)現(xiàn)高速互聯(lián)與統(tǒng)一內(nèi)存。128GB的高帶寬共享內(nèi)存，讓它在運(yùn)行大模型時(shí)幾乎不受容量限制。戴爾科技集團(tuán)大中華區(qū)客戶端解決方案事業(yè)部資深產(chǎn)品經(jīng)理汪志軍提到，這臺(tái)機(jī)器的AI算力可達(dá)1000 TOPS，能夠在本地運(yùn)行規(guī)模達(dá)到兩千億參數(shù)的模型，而過去，這樣的任務(wù)幾乎只能交給機(jī)房里昂貴的服務(wù)器來完成。

這種高性能與小尺寸的結(jié)合，意味著AI使用者可以擺脫笨重設(shè)備的束縛，把強(qiáng)大的計(jì)算能力帶到辦公室、教室，甚至邊緣應(yīng)用場(chǎng)景中。對(duì)于需要本地推理、對(duì)數(shù)據(jù)隱私有嚴(yán)格要求的行業(yè)來說，這樣的設(shè)計(jì)尤為重要，因?yàn)樗械挠?jì)算和數(shù)據(jù)處理都可以在用戶的掌控范圍內(nèi)完成。

這臺(tái)機(jī)器并不只是一臺(tái)“縮小版”的服務(wù)器，它的設(shè)計(jì)初衷是讓AI計(jì)算融入更多日常與專業(yè)場(chǎng)景。用戶可以像連接外接顯卡一樣，將它接入筆記本或臺(tái)式機(jī)，為主機(jī)提供額外的AI算力，也可以把它當(dāng)作獨(dú)立電腦使用，配上鍵盤和顯示器直接進(jìn)行開發(fā)或教學(xué)工作。

在工業(yè)、機(jī)器人、自動(dòng)駕駛等需要邊緣AI推理的領(lǐng)域，Dell Pro Max with GB10的優(yōu)勢(shì)更加明顯。它可以被直接嵌入到生產(chǎn)線、設(shè)備或自動(dòng)化系統(tǒng)中，成為實(shí)時(shí)推理和決策的“大腦”。汪志軍表示，在醫(yī)療影像診斷、金融風(fēng)控、智能客服等需要快速響應(yīng)的業(yè)務(wù)中，Dell Pro Max with GB10不僅能完成模型推理，還能根據(jù)需求進(jìn)行七百億參數(shù)規(guī)模的模型微調(diào)。這種靈活性讓它既能滿足原型開發(fā)的探索階段，也能勝任落地部署的嚴(yán)苛要求。

從機(jī)房到桌面，AI算力的遷移

過去，AI研發(fā)往往從數(shù)據(jù)中心起步，集中化的大算力平臺(tái)支撐著大模型的訓(xùn)練與推理。但隨著行業(yè)需求的變化，越來越多的企業(yè)希望擁有能夠在本地運(yùn)行的私有化模型。這不僅關(guān)乎數(shù)據(jù)安全，也與響應(yīng)速度和成本優(yōu)化有關(guān)。戴爾科技將GB10這樣的數(shù)據(jù)中心級(jí)芯片引入桌面端，正是看準(zhǔn)了這一趨勢(shì)。

汪志軍回顧稱，如今的應(yīng)用正在從“共享大模型”轉(zhuǎn)向“定制化小模型”，并趨向在具體場(chǎng)景中落地。無論是公共服務(wù)、醫(yī)療、建筑還是媒體行業(yè)，用戶都傾向于使用更貼合自身業(yè)務(wù)的模型，而這些模型的運(yùn)行平臺(tái)，往往不需要?jiǎng)虞m幾臺(tái)機(jī)柜的設(shè)備。一臺(tái)桌面級(jí)甚至便攜的AI工作站，正好契合這種變化。

盡管Dell Pro Max with GB10繼承了NVIDIA在AI加速方面的核心優(yōu)勢(shì)，戴爾科技依然在硬件設(shè)計(jì)上做了不少優(yōu)化。例如機(jī)身采用全金屬材質(zhì)，并在散熱系統(tǒng)上進(jìn)行重新設(shè)計(jì)，機(jī)身前面板布滿精細(xì)的散熱孔，確保在高負(fù)載狀態(tài)下仍能保持穩(wěn)定性能。兩條200G的ConnectX-7高速接口可以讓兩臺(tái)Dell Pro Max with GB10直接互聯(lián)，組成一個(gè)更強(qiáng)大的算力節(jié)點(diǎn)。在FP4精度下，雙機(jī)協(xié)作可支持多達(dá)四千億參數(shù)規(guī)模的大模型推理，這一性能對(duì)于桌面級(jí)設(shè)備來說相當(dāng)罕見。

連接方式的豐富性也是一大亮點(diǎn)。無論是高速有線網(wǎng)絡(luò)、Wi-Fi 7無線連接，還是多種Type-C數(shù)據(jù)接口，Dell Pro Max with GB10都提供了足夠的擴(kuò)展性，方便開發(fā)者快速接入各種外設(shè)與數(shù)據(jù)源。存儲(chǔ)方面，用戶可以選擇2TB或4TB的高速硬盤，以適應(yīng)不同規(guī)模的數(shù)據(jù)集和模型文件。

軟件生態(tài)與“開箱即用”

AI開發(fā)的門檻往往不在硬件，而在軟件環(huán)境的搭建上。傳統(tǒng)的AI工作站在交付后，用戶需要自行安裝操作系統(tǒng)、驅(qū)動(dòng)、框架與開發(fā)工具，這一過程不僅耗時(shí)，還容易出現(xiàn)兼容性問題。Dell Pro Max with GB10則預(yù)裝了基于Ubuntu深度定制的DGX OS 7，以及NVIDIA AI Enterprise套件，涵蓋了從模型開發(fā)、調(diào)優(yōu)到部署的完整流程。

汪志軍用“智能廚房”來形容這套系統(tǒng)：硬件配置就像已經(jīng)裝好的灶臺(tái)與烤箱，軟件環(huán)境則像準(zhǔn)備好的鍋碗瓢盆和調(diào)料，開發(fā)框架與容器就是菜單模板，用戶只需要把“食材”——即數(shù)據(jù)和模型——放進(jìn)去，就能迅速產(chǎn)出可用的AI應(yīng)用。這種即插即用的體驗(yàn)，顯著縮短了從創(chuàng)意到落地的時(shí)間。

雖然GB10屬于Dell Pro Max系列，但它與傳統(tǒng)的公共工作站在定位和架構(gòu)上有明顯差別。傳統(tǒng)工作站通?；趚86架構(gòu)，具備更強(qiáng)的擴(kuò)展性和可定制性，適合超大規(guī)模的訓(xùn)練任務(wù)。而GB10基于Arm架構(gòu)的Grace CPU，強(qiáng)調(diào)固定配置的高度集成，重點(diǎn)面向推理和輕量訓(xùn)練。這種定位讓它能夠在功耗、體積和部署便捷性上占據(jù)優(yōu)勢(shì)，同時(shí)避免了傳統(tǒng)工作站在某些場(chǎng)景下的資源浪費(fèi)。

在兼容性方面，戴爾科技采取了開放生態(tài)策略，不強(qiáng)制預(yù)裝特定應(yīng)用，而是通過認(rèn)證和測(cè)試確保主流AI軟件在設(shè)備上的穩(wěn)定運(yùn)行。這意味著企業(yè)可以根據(jù)自身需求選擇合適的軟件棧，同時(shí)享受戴爾科技提供的三至五年企業(yè)級(jí)售后支持。

面向未來的AI PC

Dell Pro Max with GB10并不僅僅是一款單一產(chǎn)品，它被視為戴爾科技在AI PC戰(zhàn)略中的前端節(jié)點(diǎn)。通過與NVIDIA的緊密合作，戴爾科技不斷引入最新架構(gòu)的處理器和GPU，將數(shù)據(jù)中心級(jí)的計(jì)算能力持續(xù)帶到桌面端和邊緣端。在未來的AI生態(tài)中，Dell Pro Max with GB10這樣的設(shè)備有望成為研發(fā)與應(yīng)用之間的橋梁，讓AI不再局限于大型機(jī)房，而是觸手可及。

汪志軍最后強(qiáng)調(diào)，AI的發(fā)展節(jié)奏非常快，適應(yīng)這種變化的最佳方式，是讓硬件與軟件的結(jié)合盡可能靈活與開放。Dell Pro Max with GB10的出現(xiàn)，就是要為開發(fā)者、科研人員、企業(yè)團(tuán)隊(duì)提供這樣一個(gè)平臺(tái)——小巧而強(qiáng)大，穩(wěn)定而高效，可以從今天的模型推理一路伴隨到明天的應(yīng)用創(chuàng)新。