Publier

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Avertissement : les contenus d'OKX Orbit sont uniquement publiés à titre informatif. En savoir plus

Réponses

Aucun commentaire pour le moment. Soyez le premier à répondre !

Related Flash News

Avatar sourceBlockbeatsIl y a 7 m

La délégation iranienne a conclu son ordre du jour au Qatar et retournera à Téhéran

Avatar sourceBlockbeatsIl y a 33 m

Une baleine a déposé 17,566 millions d’ENA à Wintermute, perdant environ 3,6 millions de dollars

Avatar source币界网Il y a 1 h

Capital Macro : Même si le conflit au Moyen-Orient prend fin en 2026, les grandes économies n’ont toujours aucune perspective de baisser les taux d’intérêt

Avatar sourceBlockbeatsIl y a 2 h

Cette semaine, les données macroéconomiques pourraient dominer le marché des cryptomonnaies, avec le PCE, les demandes d’allocations chômage et les données sur le logement devenant des indicateurs clés des baisses de taux de la Fed

Avatar sourceBlockbeatsIl y a 2 h

À la veille de l’introduction en bourse de SpaceX, une controverse de 20 milliards de dollars concernant une transaction liée a émergé, et l’ami de Musk pourrait utiliser cette introduction en bourse pour figurer parmi les meilleurs des milliardaires mondiaux

Avatar sourceChainCatcherIl y a 2 h

Squid : Les incidents de sécurité ne sont pas liés aux protocoles et contrats principaux de Squid ; tous les utilisateurs et intégrateurs de Squid n’ont pas été affectés

Avatar source币界网Il y a 2 h

La plus grande position à découvert de ZEC : Les positions à découvert ZEC ont augmenté de 3 093,62 pièces, avec une position totale dépassant 16,88 millions de dollars

Avatar sourceBlockbeatsIl y a 2 h

L’introduction en bourse STAR Market d’Unitree Technology aura lieu le 1er juin

Avatar sourceBlockbeatsIl y a 2 h

Les ETF Bitcoin ont enregistré plus de 2 milliards de dollars de sorties en deux semaines, mais les analystes affirment que « les fonds institutionnels ne sont pas partis ».

Avatar sourceBlockbeatsIl y a 2 h

Prometheum parie sur les canaux de Wall Street : ce qui manque vraiment aux titres tokenisés, ce n’est pas la technologie, mais la « distribution »