Postaus

智谱联合提出下一代大模型推理网络架构ZCube,破解PD分离引发的结构性网络拥塞

币界网
币界网
币界网消息,智谱联合驭驯网络与清华大学提出下一代大模型推理网络架构ZCube,旨在破解大模型PD(prefill-decode)分离部署中日益严峻的结构性网络拥塞难题。ZCube架构已在GLM-5.1 coding千卡线上生产环境落地。该架构通过取消spine层交换机,采用全网扁平化拓扑(2跳网络直径),结合单/多轨混合接入机制,实现了跨节点全网交换机之间的流量负载均衡。在基准测试中,ZCube架构相比传统架构减少了33%的交换机与光模块硬件支出,同时GPU平均推理吞吐率提升了15%,首token时延(TTFT)P99分位数下降了40.6%。

Vastuuvapauslauseke: OKX Orbit -sisältö on tarkoitettu ainoastaan tiedotustarkoituksiin. Lisätietoja

Vastaukset

Ei vielä kommentteja. Ole ensimmäinen vastaaja!

Related Flash News

Lähteen avatarBlockbeats7 min sitten

Iranin delegaatio päätti asialistansa Qatarissa ja palaa Teheraniin

Lähteen avatarBlockbeats33 min sitten

Valas talletti 17,566 miljoonaa ENA:ta Wintermuteen, menettäen noin 3,6 miljoonaa dollaria

Lähteen avatar币界网1 h sitten

Capital Macro: Vaikka Lähi-idän konflikti päättyisi vuonna 2026, suurilla talouksilla ei vieläkään ole mahdollisuuksia laskea korkoja.

Lähteen avatarBlockbeats2 h sitten

Tällä viikolla makrotason data saattaa hallita kryptomarkkinoita, kun PCE, työttömyyskorvaukset ja asuntotiedot nousevat keskeisiksi indikaattoreiksi Fedin koronlaskuissa

Lähteen avatarBlockbeats2 h sitten

SpaceX:n listautumisannin kynnyksellä syntyi 20 miljardin dollarin kauppakiista, ja Muskin ystävä saattaa käyttää listautumisantia sijoittuakseen maailman miljardöörilistan kärkeen

Lähteen avatarChainCatcher2 h sitten

Squid: Tietoturvatapaukset eivät liity Squidin ydinprotokolliin ja sopimuksiin; kaikki Squidin käyttäjät ja integraattorit eivät ole kärsineet

Lähteen avatar币界网2 h sitten

ZEC:n suurin lyhyeksi myyntipositio: ZEC:n lyhyet positiot kasvoivat 3 093,62 kolikolla, ja kokonaismyynti ylitti 16,88 miljoonaa dollaria

Lähteen avatarBlockbeats2 h sitten

Unitree Technologyn STAR Market IPO järjestetään 1. kesäkuuta

Lähteen avatarBlockbeats2 h sitten

Bitcoin-ETF:t ovat nähneet yli 2 miljardin dollarin ulosvirtauksia kahdessa viikossa, mutta analyytikot sanovat, että "institutionaaliset rahastot eivät ole lähteneet."

Lähteen avatarBlockbeats2 h sitten

Prometheum lyö vetoa Wall Street Channelsiin: Mitä tokenisoiduista arvopapereista todella puuttuu, ei ole teknologia, vaan 'jakelu'