المنشور

Zyphra发布首个MI355X推理评测:长文本直逼B200

币界网
币界网
币界网消息,Zyphra发布了基于AMD旗舰芯片MI355X的端到端大模型推理实测,测试在真实单节点环境下运行DeepSeek V3.2、Kimi K2.6与GLM-5.1,并对标NVIDIA B200。实测显示,AMD的288GB显存远超B200的180GB,使其在处理超长文本时能更高效地利用缓存,降低硬件成本。然而,AMD在芯片间互联上处于劣势,B200通过NVLink交换机实现900GB/s带宽,而MI355X采用点对点直连,通信效率较低。为弥补这一短板,Zyphra开发了张量序列并行(TSP)与树状注意力(Tree Attention)算法。最终结果显示,尽管在单请求速度上NVIDIA B200仍领先,但在长文本场景下,Zyphra推理栈的吞吐量逐渐逼近B200,证明AMD在长文本生产环境中具备竞争力。

إخلاء المسؤولية: يُقدَّم محتوى OKX Orbit لأغراض إرشادية فقط. اعرف المزيد

الردود

لا تعليقات حتى الآن. كُن أول من يرد!

Related Flash News

الصورة الرمزية للمصدرBlockbeatsمنذ 4 ساعاتٍ

الرئيس التنفيذي لشركة كوينبيس يعلن عن ثماني رؤى مالية، مع خريطة أعمال متوافقة تماما مع "وول ستريت على السلسلة".

الصورة الرمزية للمصدرChainCatcherمنذ 7 ساعاتٍ

لا تزال أسهم الذكاء الاصطناعي وأشباه الموصلات نشطة، حيث تتصدر Gate الصناعة في تداول العقود المتعلقة ب NVIDIA-Micron

الصورة الرمزية للمصدر币界网منذ 13 ساعة

يقوم vLLM بحظر "علاوة السيرة الذاتية" والمساهمين في العلاقات العامة الكاذبة، ويخطط لإدخال التحقق من البريد الإلكتروني عبر المدارس المؤسسية لمنع الرسائل المزعجة بالذكاء الاصطناعي بشكل صارم

الصورة الرمزية للمصدر币界网منذ 16 ساعة

دقة لوكسشير: التقدم المتزامن للنحاس البصري وخطط العملاء الرائدين للشرائح البصرية لا يتعارض مع ذلك

الصورة الرمزية للمصدر币界网منذ 1 يوم

تخطط وكالة الأمن القومي لتقديم النموذج الجديد السري للغاية لشبكة Anthropic، حيث يمنح البيت الأبيض 9 مليارات دولار لمعالجة نقص قوة الحوسبة

الصورة الرمزية للمصدر币界网منذ 3 أيامٍ

المؤسسات: مؤشر S&P 500 يستعد لتحقيق أقوى نمو في الأرباح منذ عام 2021

الصورة الرمزية للمصدرBlockbeatsمنذ 3 أيامٍ

تحليل: قد يوسع طرح سبيس إكس الاكتتاب العام تعرض بيتكوين في ناسداك، لكنه قد يكون عاملا سلبيا قصير الأجل لأسهم التكنولوجيا وسحب أموال البيتكوين

الصورة الرمزية للمصدرChainCatcherمنذ 4 أيامٍ

أكملت شركة هارك الناشئة في مجال الذكاء الاصطناعي جولة من سلسلة A بقيمة 700 مليون دولار بقيمة 6 مليارات دولار، بقيادة باركواي فينتشر كابيتال

الصورة الرمزية للمصدرOdailyمنذ 4 أيامٍ

أجل البيت الأبيض مراسم توقيع الأمر التنفيذي للذكاء الاصطناعي

الصورة الرمزية للمصدرOdailyمنذ 4 أيامٍ

انخفض سعر سهم نفيديا بنسبة 2٪، وتوسع انخفاض إنتل إلى 4.3٪.