سوپرکامپیوتینگ رومیزی: اجرای مدل‌های تریلیون پارامتری به صورت محلی روی NVIDIA GB300

آرسام صباغ · ۱۴۰۵/۰۳/۱۰ · 13 دقیقه

تا همین چند سال پیش، اجرای یک مدل زبانی با صدها میلیارد پارامتر نیازمند یک مرکز داده چند ده میلیون دلاری بود — اما در ۲۰۲۶، NVIDIA با معرفی معماری Blackwell Ultra و به خصوص تراشه GB300 مرزی را شکست که کمتر کسی انتظارش ر…

۱. مشخصات فنی GB300: اعداد باورنکردنی

معماری Blackwell Ultra که NVIDIA آن را در GTC 2026 معرفی کرد، از نظر مشخصات فنی چیزی است که تا همین چند سال پیش تنها در مراکز پردازشی ملی یافت می‌شد. تراشه GB300 — نسخه حرفه‌ای این معماری — با ۲۸۸ گی…

۲. RTX Spark: نسخه مصرفی برای بازار عمومی

RTX Spark نسخه مصرفی معماری Blackwell Ultra است که NVIDIA برای بازار حرفه‌ای و خلاق طراحی کرده. RTX Spark با ۱۲۸ گیگابایت حافظه مشترک (ترکیبی از GDDR7 اختصاصی و رم سیستم با پهنای باند بالا) ارائه می‌…

۳. مدل‌های قابل اجرا: کدام غول‌ها محلی می‌شوند

سوال عملی مهم این است: با RTX Spark یا GB300 روی دستگاه خودتان، دقیقاً چه مدل‌هایی را می‌توانید اجرا کنید؟ پاسخ وابسته به نوع کوانتیزاسیون است.

۴. NVLink و پیکربندی چند-تایی: وقتی یک GB300 کافی نیست

برای مدل‌هایی که از ظرفیت یک GB300 فراتر می‌روند، NVIDIA یک راه‌حل معماری هوشمند ارائه داده: NVLink 5.0 . این اینترکانکت با پهنای باند ۱.۸ ترابایت در ثانیه بین دو تراشه ، دو GB300 را عملاً به یک تراش…