Post

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Disclaimer: de content op OKX Orbit dient uitsluitend ter informatie. Meer informatie

Reacties

Nog geen reacties. Reageer als eerste.

Related Flash News

BronavatarBlockbeats7m geleden

De Iraanse delegatie heeft haar agenda in Qatar afgerond en zal terugkeren naar Teheran

BronavatarBlockbeats33m geleden

Een walvis deponeerde 17,566 miljoen ENA in Wintermute, waarbij ongeveer 3,6 miljoen dollar verloren ging

Bronavatar币界网1u geleden

Capital Macro: Zelfs als het conflict in het Midden-Oosten in 2026 eindigt, hebben de grote economieën nog steeds geen vooruitzichten om de rente te verlagen

BronavatarBlockbeats2u geleden

Deze week kunnen macrogegevens de cryptomarkt domineren, waarbij PCE, werkloosheidsuitkeringen en woninggegevens belangrijke indicatoren worden voor renteverlagingen van de Fed

BronavatarBlockbeats2u geleden

Aan de vooravond van de beursgang van SpaceX ontstond er een controverse over transacties tussen betrokken partijen van 20 miljard dollar, en Musks vriend zou de beursgang kunnen gebruiken om bovenaan de wereldwijde miljardairslijst te staan

BronavatarChainCatcher2u geleden

Squid: Beveiligingsincidenten zijn niet gerelateerd aan de kernprotocollen en contracten van Squid; alle Squid-gebruikers en integratoren zijn niet getroffen

Bronavatar币界网2u geleden

ZEC's grootste shortpositie: ZEC shortposities stegen met 3.093,62 munten, met een totale positie van meer dan $16,88 miljoen

BronavatarBlockbeats2u geleden

De STAR Market IPO van Unitree Technology vindt plaats op 1 juni

BronavatarBlockbeats2u geleden

Bitcoin-ETF's hebben in twee weken meer dan 2 miljard dollar aan uitstroom gezien, maar analisten zeggen dat "institutionele fondsen niet zijn vertrokken."

BronavatarBlockbeats2u geleden

Prometheum zet in op Wall Street-kanalen: Wat tokenized securities echt mist is niet technologie, maar 'distributie'