今天我親手握住了世界上最大的計算機芯片。雖然它的體積令人印象深刻，但其速度更為驚人，也更為重要。大多數(shù)計算機芯片都很小，只有郵票大小甚至更小。相比之下， Cerebras WSE (Wafer Scale Engine) 是一個巨大正方形，每邊長 8.5 英寸或 22 厘米，而最新型號在單個芯片上擁有驚人的 40 億個晶體管。正是因為有了這數(shù)十億個晶體管，WSE 才創(chuàng)造了 AI 推理操作的世界速度記錄，比一個大體上性能相當(dāng)?shù)?NVIDIA 集群快約 2.5 倍。

“這是全球最快的推理速度，” Cerebras 首席信息安全官 Naor Penso 今天在溫哥華 Web Summit 上對我說。 “上周 NVIDIA 宣布在 Llama 4 上實現(xiàn)了每秒 1,000 個 token 的速度，這令人印象深刻。而我們今天剛剛發(fā)布的基準(zhǔn)測試達(dá)到了每秒 2,500 個 token。”

如果你對這些概念感到陌生，可以把“推理”理解為思考或行動：根據(jù)你的輸入或提示構(gòu)建句子、圖像或視頻。把“token”看作思維的基本單元：一個單詞、一個字符或一個符號。

AI 引擎每秒能處理的 token 越多，它返回結(jié)果的速度也就越快。而速度至關(guān)重要。也許對你個人來說意義不大，但當(dāng)企業(yè)客戶希望在購物車中加入 AI 引擎，以便即時告訴你只需再加一種配料就能做出完美的韓式燒烤牛肉塔可時，他們必須能夠為成千上萬的人迅速提供服務(wù)。

有趣的是，速度即將變得更加關(guān)鍵。

我們正邁入一個代理時代，屆時 AI 將能為我們執(zhí)行復(fù)雜的多步驟任務(wù)，例如規(guī)劃并預(yù)訂去奧斯汀觀看一級方程式比賽的周末旅行。代理并非魔法：他們對待大任務(wù)的方式和你一樣……一步一步來。也就是說，需要將一個龐大的任務(wù)分解為 40、50 或甚至 100 個子任務(wù)，這就意味著工作量會大幅增加。

“AI 代理需要處理更多的工作，而且各個任務(wù)之間需要相互通信，” Penso 告訴我。 “你不能忍受推理速度緩慢。”

WSE 上的 40 億個晶體管正是實現(xiàn)這種高速性能的關(guān)鍵部分。作為對比，英特爾 Core i9 擁有 33.5 億個晶體管，而 Apple M2 Max 芯片也僅提供 67 億個晶體管。但構(gòu)建出高速計算怪獸的關(guān)鍵不僅僅在于晶體管數(shù)量，更在于系統(tǒng)的協(xié)同布局：將所有組件整合在同一芯片上，同時配備 44GB 的最快型 RAM(內(nèi)存)。

“AI 計算需要大量的內(nèi)存，” Penso 說。 “NVIDIA 需要外部存儲，而使用 Cerebras 你不需要外部存儲。”

獨立機構(gòu) Artificial Analysis 驗證了這一速度數(shù)據(jù)，他們稱在 Llama 4 上測試該芯片時達(dá)到了每秒 2,522 個 token，而 NVIDIA Blackwell 的速度只有每秒 1,038 個 token。

“我們測試了數(shù)十家供應(yīng)商，而 Cerebras 是唯一在 Meta 旗艦?zāi)Ｐ屯评碇斜憩F(xiàn)優(yōu)于 Blackwell 的解決方案，” Artificial Analysis 首席執(zhí)行官 Micah Hill-Smith 表示。

WSE 芯片展示了計算機芯片設(shè)計的一次有趣演進。

自 1950 年代開始制造集成電路和 1960 年代開始制造微處理器以來，CPU 曾長期主導(dǎo)著計算領(lǐng)域。直到最近，GPU(圖形處理單元)才從圖形和游戲領(lǐng)域的輔助工具轉(zhuǎn)變?yōu)?AI 開發(fā)中關(guān)鍵的處理組件。Cerebras 首席營銷官 Julie Shin 告訴我，WSE 并非采用 x86 或 ARM 架構(gòu)，而是一種全新架構(gòu)，用于加速 GPU 計算。

“這不是一項漸進式技術(shù)，” 她補充道。 “這是芯片領(lǐng)域的又一次跨越性飛躍?！?