Posteo

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Deslinde de responsabilidades: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Envía la primera respuesta!

Related Flash News

Avatar fuenteBlockbeatsHace 7 min

La delegación iraní concluyó su agenda en Catar y regresará a Teherán

Avatar fuenteBlockbeatsHace 33 min

Una ballena depositó 17,566 millones de ENA en Wintermute, perdiendo unos 3,6 millones de dólares

Avatar fuente币界网Hace 1 h

Capital Macro: Incluso si el conflicto en Oriente Medio termina en 2026, las grandes economías siguen sin tener perspectivas de recortar los tipos de interés

Avatar fuenteBlockbeatsHace 2 h

Esta semana, los datos macroeconómicos pueden dominar el mercado cripto, siendo el PCE, las solicitudes de desempleo y los datos de vivienda como indicadores clave de los recortes de tipos de la Fed

Avatar fuenteBlockbeatsHace 2 h

En vísperas de la salida a bolsa de SpaceX, surgió una controversia de transacciones relacionadas por valor de 20.000 millones de dólares, y el amigo de Musk podría utilizar la OPV para situarse entre los primeros en la lista mundial de multimillonarios

Avatar fuenteChainCatcherHace 2 h

Calamar: Los incidentes de seguridad no están relacionados con los protocolos y contratos principales de Calamar; todos los usuarios e integradores de Calamar no se han visto afectados

Avatar fuente币界网Hace 2 h

La mayor posición corta de ZEC: Las posiciones cortas de ZEC aumentaron en 3.093,62 monedas, con una posición total superior a 16,88 millones de dólares

Avatar fuenteBlockbeatsHace 2 h

La OPV STAR Market de Unitree Technology se celebrará el 1 de junio

Avatar fuenteBlockbeatsHace 2 h

Los ETFs de Bitcoin han registrado más de 2.000 millones de dólares en salidas en dos semanas, pero los analistas afirman que "los fondos institucionales no se han ido".

Avatar fuenteBlockbeatsHace 2 h

Prometheum apuesta por los canales de Wall Street: Lo que realmente les falta a los valores tokenizados no es tecnología, sino 'distribución'