Publikovat

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Zřeknutí se odpovědnosti: Obsah v síti OKX Orbit je poskytován pouze pro informační účely. Další informace

Odpovědi

Zatím žádné komentáře. Odpovězte jako první!

Related Flash News

Zdrojový avatarBlockbeatsPřed 7 min

Íránská delegace ukončila svůj program v Kataru a vrátí se do Teheránu

Zdrojový avatarBlockbeatsPřed 33 min

Velryba uložila do Wintermute 17,566 milionu ENA a přišla o přibližně 3,6 milionu dolarů

Zdrojový avatar币界网Před 1 h

Kapitálové makro: I kdyby konflikt na Blízkém východě skončil v roce 2026, hlavní ekonomiky stále nemají žádné vyhlídky na snižování úrokových sazeb

Zdrojový avatarBlockbeatsPřed 2 h

Tento týden mohou makroekonomická data dominovat kryptoměnovému trhu, přičemž PCE, žádosti o podporu v nezaměstnanosti a data o bydlení se stanou klíčovými ukazateli pro snižování sazeb Fedu

Zdrojový avatarBlockbeatsPřed 2 h

Těsně před IPO SpaceX se objevila kontroverze kolem transakcí s příbuznými stranami v hodnotě 20 miliard dolarů a Muskův přítel by mohl využít IPO k tomu, aby se dostal mezi vrchol globálního seznamu miliardářů

Zdrojový avatarChainCatcherPřed 2 h

Squid: Bezpečnostní incidenty nesouvisí se základními protokoly a smluvy Squidu; všichni uživatelé a integrátoři Squidu nebyli ovlivněni

Zdrojový avatar币界网Před 2 h

Největší krátká pozice ZEC: Krátké pozice ZEC vzrostly o 3 093,62 mincí, přičemž celková pozice přesáhla 16,88 milionu USD

Zdrojový avatarBlockbeatsPřed 2 h

IPO společnosti Unitree Technology na trhu STAR se uskuteční 1. června

Zdrojový avatarBlockbeatsPřed 2 h

Bitcoin ETF zaznamenaly během dvou týdnů odliv přes 2 miliardy dolarů, ale analytici říkají, že "institucionální fondy neodešly."

Zdrojový avatarBlockbeatsPřed 2 h

Prometheum sází na kanály Wall Street: Co tokenizovaným cenným papírům skutečně chybí, není technologie, ale 'distribuce'