Post

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Haftungsausschluss: OKX Orbit-Inhalt dient nur zu Informationszwecken. Mehr erfahren

Antworten

Noch keine Kommentare. Schreib die erste Antwort!

Related Flash News

QuellenavatarBlockbeatsVor 7M

Die iranische Delegation hat ihre Tagesordnung in Katar abgeschlossen und wird nach Teheran zurückkehren

QuellenavatarBlockbeatsVor 33M

Ein Wal deponierte 17,566 Millionen ENA in Wintermute und verlor dabei etwa 3,6 Millionen Dollar

Quellenavatar币界网Vor 1Stunden

Capital Macro: Selbst wenn der Nahostkonflikt 2026 endet, haben die großen Volkswirtschaften immer noch keine Aussicht, die Zinsen zu senken

QuellenavatarBlockbeatsVor 2Stunden

In dieser Woche könnten makroökonomische Daten den Kryptomarkt dominieren, wobei PCE, Arbeitslosenanträge und Wohnungsbaudaten zu wichtigen Indikatoren für Zinssenkungen der Fed werden

QuellenavatarBlockbeatsVor 2Stunden

Am Vorabend des Börsengangs von SpaceX entstand eine Kontroverse um Transaktionen mit Verwandten im Wert von 20 Milliarden Dollar, und Musks Freund könnte den Börsengang nutzen, um unter die Spitzen der globalen Milliardärsliste zu gehören

QuellenavatarChainCatcherVor 2Stunden

Squid: Sicherheitsvorfälle stehen in keinem Zusammenhang mit den Kernprotokollen und -verträgen von Squid; alle Squid-Nutzer und Integratoren sind nicht betroffen

Quellenavatar币界网Vor 2Stunden

ZECs größte Short-Position: Die Short-Positionen von ZEC stiegen um 3.093,62 Coins, mit einer Gesamtposition von über 16,88 Millionen US-Dollar

QuellenavatarBlockbeatsVor 2Stunden

Der STAR Market Börsengang von Unitree Technology findet am 1. Juni statt

QuellenavatarBlockbeatsVor 2Stunden

Bitcoin-ETFs haben in zwei Wochen über 2 Milliarden Dollar Abflüsse verzeichnet, aber Analysten sagen, "institutionelle Fonds sind nicht gegangen."

QuellenavatarBlockbeatsVor 2Stunden

Prometheum setzt auf Wall-Street-Kanäle: Was tokenisierten Wertpapieren wirklich fehlt, ist nicht Technologie, sondern 'Distribution'