Publicar

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

Descargo de responsabilidad: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Sé el primero en responder!

Related Flash News

Avatar de fuenteBlockbeatshace 1 h

Medios estadounidenses: Estados Unidos e Irán están trabajando para resolver sus diferencias lingüísticas en cuestiones nucleares y sanciones

Avatar de fuenteBlockbeatshace 2 h

巨鲸nemorino.eth杠杆增持7,908.3枚ETH

Avatar de fuenteChainCatcherhace 2 h

YZi Labs lanzó la plataforma de reclutamiento YZi Talent, integrando puestos en su cartera Web3, IA y biotecnología

Avatar de fuenteBlockbeatshace 3 h

La delegación iraní concluyó su agenda en Catar y regresará a Teherán

Avatar de fuenteBlockbeatshace 3 h

ICON cerrará oficialmente a finales de 2026 y se confirma la fecha límite para que ICX migre a SODA

Avatar de fuenteBlockbeatshace 3 h

Una ballena depositó 17,566 millones de ENA en Wintermute, perdiendo unos 3,6 millones de dólares

Avatar de fuente币界网hace 4 h

Capital Macro: Incluso si el conflicto en Oriente Medio termina en 2026, las grandes economías siguen sin tener perspectivas de recortar los tipos de interés

Avatar de fuenteBlockbeatshace 4 h

Esta semana, los datos macroeconómicos pueden dominar el mercado cripto, siendo el PCE, las solicitudes de desempleo y los datos de vivienda como indicadores clave de los recortes de tipos de la Fed

Avatar de fuenteBlockbeatshace 5 h

En vísperas de la salida a bolsa de SpaceX, surgió una controversia de transacciones relacionadas por valor de 20.000 millones de dólares, y el amigo de Musk podría utilizar la OPV para situarse entre los primeros en la lista mundial de multimillonarios

Avatar de fuenteChainCatcherhace 5 h

Calamar: Los incidentes de seguridad no están relacionados con los protocolos y contratos principales de Calamar; todos los usuarios e integradores de Calamar no se han visto afectados