Postare

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Declinarea responsabilității: conținutul OKX Orbit este furnizat doar în scopuri informative. Aflați mai multe

Răspunsuri

Încă nu există niciun comentariu. Fiți primul care răspunde!

Related Flash News

Avatar sursăBlockbeats7m în urmă

Delegația iraniană și-a încheiat agenda în Qatar și se va întoarce la Teheran

Avatar sursăBlockbeats33m în urmă

O balenă a depus 17,566 milioane ENA în Wintermute, pierzând aproximativ 3,6 milioane de dolari

Avatar sursă币界网1h în urmă

Capital Macro: Chiar dacă conflictul din Orientul Mijlociu se încheie în 2026, marile economii încă nu au perspective de a reduce ratele dobânzilor

Avatar sursăBlockbeats2h în urmă

Săptămâna aceasta, datele macroeconomice ar putea domina piața cripto, PCE, cererile de șomaj și datele privind locuințele devenind indicatori cheie pentru reducerile ratelor Fed

Avatar sursăBlockbeats2h în urmă

În ajunul IPO-ului SpaceX, a apărut o controversă de 20 de miliarde de dolari privind tranzacțiile arudite, iar prietenul lui Musk ar putea folosi IPO-ul pentru a se clasa printre primii miliardari la nivel global.

Avatar sursăChainCatcher2h în urmă

Squid: Incidentele de securitate nu au legătură cu protocoalele și contractele de bază ale lui Squid; toți utilizatorii și integratorii Squid nu au fost afectați

Avatar sursă币界网2h în urmă

Cea mai mare poziție short a ZEC: pozițiile short ale ZEC au crescut cu 3.093,62 monede, cu o poziție totală care a depășit 16,88 milioane de dolari

Avatar sursăBlockbeats2h în urmă

IPO-ul STAR Market al Unitree Technology va avea loc pe 1 iunie

Avatar sursăBlockbeats2h în urmă

ETF-urile de Bitcoin au înregistrat ieșiri de peste 2 miliarde de dolari în două săptămâni, dar analiștii spun că "fondurile instituționale nu au plecat".

Avatar sursăBlockbeats2h în urmă

Prometheum pariază pe canalele de pe Wall Street: ceea ce le lipsește cu adevărat titlurilor tokenizate nu este tehnologia, ci "distribuția"