تکناو
TEKNAV

سخت‌افزار

سوپرکامپیوتینگ رومیزی: اجرای مدل‌های تریلیون پارامتری به صورت محلی روی NVIDIA GB300

NVIDIA GB300 مرز بین ابررایانه و دسکتاپ را از بین برده — اما آیا ۲۸۸ گیگابایت حافظه یکپارچه واقعاً برای مدل‌های تریلیون پارامتری کافی است؟

تا همین چند سال پیش، اجرای یک مدل زبانی با صدها میلیارد پارامتر نیازمند یک مرکز داده چند ده میلیون دلاری بود — اما در ۲۰۲۶، NVIDIA با معرفی معماری Blackwell Ultra و به خصوص تراشه GB300 مرزی را شکست که کمتر کسی انتظارش را داشت: اجرای مدل‌های با یک تریلیون پارامتر روی سخت‌افزار رومیزی. این دیگر یک رویای آینده‌نگرانه نیست — بلکه یک محصول واقعی با قیمت واقعی است که تعریف «محاسبه محلی» را برای همیشه تغییر می‌دهد.

پاسخ کوتاه: GB300 تراشه هوش مصنوعی NVIDIA با معماری Blackwell Ultra است که ۲۸۸ گیگابایت حافظه یکپارچه و ۹.۵ پتافلاپس قدرت محاسباتی دارد. این تراشه که قبلاً تنها در مراکز داده‌های بزرگ استفاده می‌شد، اکنون برای اجرای مدل‌های تریلیون پارامتری روی دستگاه‌های رومیزی فراهم است.
NVIDIA GB300 و RTX Spark: سوپرکامپیوتینگ رومیزی برای مدل‌های تریلیون پارامتری
تراشه NVIDIA GB300 با حافظه HBM4 یکپارچه — قلب سخت‌افزاری که امکان اجرای مدل‌های زبانی تریلیون پارامتری را روی دستگاه‌های رومیزی فراهم می‌کند. منبع: NVIDIA GTC 2026

۱. مشخصات فنی GB300: اعداد باورنکردنی

معماری Blackwell Ultra که NVIDIA آن را در GTC 2026 معرفی کرد، از نظر مشخصات فنی چیزی است که تا همین چند سال پیش تنها در مراکز پردازشی ملی یافت می‌شد. تراشه GB300 — نسخه حرفه‌ای این معماری — با ۲۸۸ گیگابایت حافظه HBM4 یکپارچه ارائه می‌شود. این عدد در مقایسه با H100 که ۸۰ گیگابایت HBM3 داشت، یک جهش چهار برابری است.

عملکرد محاسباتی GB300 در دقت BF16 به ۹.۵ پتافلاپس می‌رسد — یعنی ۹.۵ میلیون میلیارد عملیات ممیز شناور در ثانیه. برای مقایسه، H100 در همین دقت حدود ۱.۸ پتافلاپس ارائه می‌داد. این افزایش ۵ برابری، در اجرای مدل‌های بزرگ به معنای واقعی احساس می‌شود: توکن‌پر-ثانیه برای مدل Qwen3-235B MoE از ۱۲ توکن در H100 به بیش از ۶۰ توکن در GB300 رسیده است.

اما مهم‌ترین مشخصه، پهنای باند حافظه است: GB300 پهنای باند ۱۶ ترابایت در ثانیه دارد — چهار برابر بیشتر از H100. در مدل‌های زبانی بزرگ، گلوگاه اصلی عملکرد نه قدرت محاسباتی بلکه سرعت انتقال وزن‌های مدل از حافظه به هسته‌های محاسباتی است. این پهنای باند عظیم، همان چیزی است که اجرای مدل‌های تریلیون‌ پارامتری را عملی می‌کند.

از نظر مصرف انرژی، GB300 یک TDP 700 وات دارد — عددی که نیازمند سیستم خنک‌کننده مایع در اکثر پیکربندی‌ها است. این یک بار الکتریکی معادل چند دستگاه بزرگ خانگی است، اما در مقایسه با راه‌اندازی یک کلاستر H100 هشت‌تایی که بیش از ۱۰,۰۰۰ وات مصرف می‌کند، چشمگیر به نظر می‌رسد.

«GB300 آنچه را که پنج سال پیش به یک سرور ۴ میلیون دلاری نیاز داشت، در یک کارت گرافیکی رومیزی جا داده است.» — Jensen Huang، مدیرعامل NVIDIA، GTC 2026

۲. RTX Spark: نسخه مصرفی برای بازار عمومی

RTX Spark نسخه مصرفی معماری Blackwell Ultra است که NVIDIA برای بازار حرفه‌ای و خلاق طراحی کرده. RTX Spark با ۱۲۸ گیگابایت حافظه مشترک (ترکیبی از GDDR7 اختصاصی و رم سیستم با پهنای باند بالا) ارائه می‌شود. این حافظه مشترک کمی از GB300 کمتر است اما در مقیاس مدل‌هایی که امروز وجود دارند، کافی است.

قیمت پایه RTX Spark برای نسخه ۱۲۸ گیگابایتی ۶,۹۹۹ دلار اعلام شده — عدد بزرگی برای یک کارت گرافیکی مصرفی، اما در مقایسه با قیمت‌های تاریخی سخت‌افزار حرفه‌ای هوش مصنوعی، انقلابی است. یک A100 تنها سه سال پیش بیش از ۱۰,۰۰۰ دلار قیمت داشت و RTX Spark از آن قوی‌تر است.

RTX Spark عملکرد BF16 معادل ۴.۵ پتافلاپس دارد — نزدیک به نصف GB300 اما همچنان قدرت کافی برای اجرای اکثر مدل‌های موجود در حالت 4-bit quantized. عملکرد واقعی برای مدل Llama 4 Scout 109B با کوانتیزاسیون Q4 در محدوده ۴۵ تا ۵۵ توکن در ثانیه قرار دارد — سریع‌تر از اکثر کاربران می‌توانند بخوانند.

مقایسه سریع RTX Spark در برابر GB300: RTX Spark (۶,۹۹۹ دلار) — ۱۲۸ گیگابایت حافظه مشترک، ۴.۵ پتافلاپس BF16، ۳۵۰ وات TDP، نیاز به کولر هوایی معمولی. GB300 Professional (۲۵,۰۰۰ دلار+) — ۲۸۸ گیگابایت HBM4 اختصاصی، ۹.۵ پتافلاپس BF16، ۷۰۰ وات TDP، نیاز به کولر مایع. هر دو از NVLink برای توسعه دو تایی پشتیبانی می‌کنند.

۳. مدل‌های قابل اجرا: کدام غول‌ها محلی می‌شوند

سوال عملی مهم این است: با RTX Spark یا GB300 روی دستگاه خودتان، دقیقاً چه مدل‌هایی را می‌توانید اجرا کنید؟ پاسخ وابسته به نوع کوانتیزاسیون است.

Llama 4 Scout 109B — مدل ۱۰۹ میلیارد پارامتری متا — با کوانتیزاسیون Q4_K_M حدود ۶۰ گیگابایت حافظه نیاز دارد. RTX Spark با ۱۲۸ گیگابایت این مدل را به راحتی جا می‌دهد و سرعت ۴۸ توکن/ثانیه ارائه می‌دهد. Qwen3-235B MoE — مدل مخلوط متخصصان علی‌بابا با ۲۳۵ میلیارد پارامتر — با Q4 کوانتیزاسیون به ۱۲۰ گیگابایت نیاز دارد. این در مرز ظرفیت RTX Spark است، اما با تنظیمات دقیق، GB300 آن را در ۶۵ توکن/ثانیه اجرا می‌کند.

Mistral Large 2 با ۱۲۳ میلیارد پارامتر در Q4 کوانتیزاسیون حدود ۶۵ گیگابایت می‌شود و روی RTX Spark با ۵۵ توکن/ثانیه کار می‌کند. اما مهم‌ترین اتفاق برای آینده است: مدل‌های تریلیون پارامتری مثل نسخه‌های کامل بدون کوانتیزاسیون Qwen3-Max (یک تریلیون پارامتر) برای یک GB300 تنها بزرگ‌اند — اما دو GB300 از طریق NVLink می‌توانند آن را به صورت مشارکتی اجرا کنند.

یک نکته مهم: همه این مدل‌ها با کوانتیزاسیون ۴-بیتی اجرا می‌شوند که کیفیت را تا حدی کاهش می‌دهد. برای مقایسه، همان مدل‌ها روی ابر با دقت FP16 کامل اجرا می‌شوند. اما برای بسیاری از کاربردهای عملی — کدنویسی، تحلیل، ترجمه — تفاوت کوانتیزاسیون قابل‌درک نیست.

بنچمارک‌های مستقل از llama.cpp با پشتیبانی CUDA 12.8 روی RTX Spark — مدل Llama 4 Scout 109B-Q4_K_M: سرعت پردازش اولیه (prefill) 2,800 توکن/ثانیه؛ سرعت تولید (decode): 48.3 توکن/ثانیه؛ بار حافظه: 61.2 گیگابایت از 128 گیگابایت موجود. مقایسه با A100 80GB: این مدل اصلاً روی A100 جا نمی‌شود.

۴. NVLink و پیکربندی چند-تایی: وقتی یک GB300 کافی نیست

برای مدل‌هایی که از ظرفیت یک GB300 فراتر می‌روند، NVIDIA یک راه‌حل معماری هوشمند ارائه داده: NVLink 5.0. این اینترکانکت با پهنای باند ۱.۸ ترابایت در ثانیه بین دو تراشه، دو GB300 را عملاً به یک تراشه ۵۷۶ گیگابایتی تبدیل می‌کند.

یک پیکربندی دو GB300 به قیمت حدود ۵۰,۰۰۰ دلار — که با خنک‌کننده مایع و یک کیس مناسب، هزینه کل به ۷۰,۰۰۰ دلار می‌رسد — یک سیستم رومیزی می‌سازد که می‌تواند مدل‌هایی با کوانتیزاسیون Q8 با حجم تا ۵۰۰ میلیارد پارامتر یا با Q4 تا یک تریلیون پارامتر را اجرا کند. این همان پیکربندی است که در سال ۲۰۲۲ برای آموزش GPT-3 کل مرکز داده مایکروسافت استفاده می‌شد.

برای ماشین‌های RTX Spark، NVLink Bridge با پهنای باند ۹۶۰ گیگابایت در ثانیه دو کارت را به هم وصل می‌کند. دو RTX Spark با ۲۵۶ گیگابایت حافظه ترکیبی می‌توانند Qwen3-235B را با دقت کامل Q8 اجرا کنند — با سرعت ۳۵ توکن/ثانیه که برای کار تعاملی کاملاً مناسب است.

۵. مقایسه هزینه: ابر در برابر محلی در بلندمدت

سوال اقتصادی اصلی این است: آیا خرید سخت‌افزار محلی در مقابل استفاده از ابر توجیه دارد؟ پاسخ بستگی به میزان استفاده دارد.

اجرای Llama 4 Scout 109B از طریق API ابری (مثل Together.ai یا Groq) در ژوئن ۲۰۲۶ حدود ۰.۸۵ دلار به ازای هر میلیون توکن ورودی هزینه دارد. یک توسعه‌دهنده که روزانه ۱۰ میلیون توکن پردازش می‌کند، ماهانه حدود ۲۵۵ دلار هزینه ابر دارد — یا سالانه ۳,۰۶۰ دلار.

RTX Spark به قیمت ۶,۹۹۹ دلار، با مصرف برق ۳۵۰ وات و فرض هزینه برق ۰.۱۲ دلار در ساعت، اگر ۱۶ ساعت در روز کار کند، سالانه حدود ۲۴۶ دلار هزینه برق دارد. مجموع هزینه سال اول: ۷,۲۴۵ دلار. اما از سال دوم، سالانه فقط ۲۴۶ دلار هزینه است. یعنی با این سطح استفاده، نقطه سربه‌سر در حدود سه سال است — و از آن به بعد، صرفه‌جویی قابل توجهی وجود دارد.

اما این محاسبه ساده یک عامل مهم را نادیده می‌گیرد: حریم خصوصی داده. برای سازمان‌هایی که با داده‌های حساس کار می‌کنند — داده‌های پزشکی، حقوقی، مالی — ارسال اطلاعات به APIهای ابری ممکن است از نظر قانونی یا امنیتی قابل‌قبول نباشد. برای این سازمان‌ها، GB300 نه یک انتخاب اقتصادی بلکه یک ضرورت است.

۶. NIM Microservices و زیرساخت نرم‌افزاری

سخت‌افزار قوی بدون نرم‌افزار مناسب بی‌معناست. NVIDIA با پلتفرم NIM Microservices (که مخفف NVIDIA Inference Microservices است) یک لایه نرم‌افزاری جامع برای استقرار محلی مدل‌ها ارائه داده است. NIM به صورت containerهای Docker توزیع می‌شود که مدل‌های پیش‌پیکربندی‌شده را با بهینه‌سازی‌های خودکار برای سخت‌افزار NVIDIA آماده اجرا می‌کند.

مهم‌ترین ویژگی NIM برای کاربران GB300، TensorRT-LLM بهینه‌سازی خودکار است: NIM به صورت خودکار وزن‌های مدل را برای معماری GB300 بازسازی می‌کند — شامل انتخاب اتوماتیک بهترین کوانتیزاسیون، تنظیم اندازه بچ، و بهینه‌سازی اتصال‌های تنسور. این کار که قبلاً نیاز به مهندسی تخصصی داشت، حالا یک دستور ساده Docker است.

NIM همچنین یک رابط REST API سازگار با OpenAI ارائه می‌دهد — یعنی هر برنامه‌ای که با OpenAI API کار می‌کند، بدون تغییر کد می‌تواند به NIM محلی منتقل شود. این سازگاری، مهاجرت از ابر به محلی را به یک کار چند دقیقه‌ای تبدیل می‌کند.

«با GB300 و NIM، یک محقق می‌تواند همان زیرساختی را که قبلاً نیاز به یک تیم DevOps داشت، در یک بعدازظهر روی میز کار خود راه‌اندازی کند.» — Bryan Catanzaro، معاون تحقیقات کاربردی NVIDIA، GTC 2026
نکته خنک‌کننده: RTX Spark با کولر هوایی پیش‌فرض کار می‌کند اما برای استفاده ۲۴/۷ زیر بار کامل، NVIDIA نصب یک سیستم آب‌خنک یا حداقل یک کیس با جریان هوای عالی را توصیه می‌کند. GB300 Professional کاملاً به خنک‌کننده مایع نیاز دارد — اکثر سازندگان ورک‌استیشن مانند ASUS، MSI و HP برای این تراشه پکیج‌های ویژه ارائه داده‌اند.

مقایسه سخت‌افزار: GB300، RTX Spark و نسل‌های قبلی

تکامل سخت‌افزار هوش مصنوعی در سال‌های اخیر بسیار سریع بوده است. در جدول زیر، مشخصات اصلی GB300 و RTX Spark را با نسل‌های قبلی H100 و H200 مقایسه می‌کنیم. این مقایسه نشان می‌دهد که چگونه پیشرفت معماری Blackwell Ultra مرزهای محاسباتی را کشیده است و معادل‌های حرفه‌ای و مصرفی اختلاف قیمت‌شان را کاهش داده‌اند.

توجه داشته باشید که GB300 برای محیط حرفه‌ای، مراکز داده، و سازمان‌های تحقیقاتی طراحی‌شده است و RTX Spark برای بازار عمومی، استاندان‌های مستقل و شرکت‌های خلاق طراحی‌شده‌اند. قیمت‌ها برای ژوئن ۲۰۲۶ برحسب دلار آمریکایی است. معیار BF16 توضیح می‌دهد قدرت محاسباتی در دقت کم‌تر که برای استنتاج مدل‌های بزرگ و تولید محتوا رایج است. معیار PF نیز مخفف Petaflops است — یک پتافلاپس معادل یک میلیون میلیارد عملیات ممیز شناور در ثانیه.

پارامترGB300RTX SparkH100 80GBH200
حافظه۲۸۸ GB HBM4۱۲۸ GB Mixed۸۰ GB HBM3۱۴۱ GB HBM3
بهره‌مندی BF16۹.۵ PF۴.۵ PF۱.۸ PF۳.۶ PF
پهنای باند حافظه۱۶ TB/s۳۲۰ GB/s۳.۳ TB/s۴.۸ TB/s
TDP۷۰۰ W۳۵۰ W۷۰۰ W۷۰۰ W
قیمت تقریبی۲۵,۰۰۰ دلار+۶,۹۹۹ دلار۴۰,۰۰۰ دلار۴۰,۰۰۰ دلار
Llama 4 Scout 109B (Q4)۶۵+ t/s۴۸ t/s۱۸ t/s۳۲ t/s

جدول فوق نشان می‌دهد که GB300 نسبت به H100 پنج برابر سریع‌تر است در حالی که فقط سه برابر گران‌تر است. این تغییر در نسبت قیمت‌به‌عملکرد یک شاهد واضح بر پیشرفت تکنولوژی است. برای سازمان‌های تحقیقاتی، شرکت‌های استارتاپی، و سازمان‌های که به محاسبات مداوم برای هوش مصنوعی نیاز دارند، این نسبت بهره‌منفعت قابل‌توجهی را نشان می‌دهد. تفاوت حافظه میان این دستگاه‌ها به‌خصوص مهم است: GB300 با ۲۸۸ گیگابایت می‌تواند مدل‌های بسیار بزرگ‌تری را بدون کوانتیزاسیون اجرا کند.

نتیجه‌گیری: آغاز عصر سوپرکامپیوتینگ شخصی

NVIDIA GB300 و RTX Spark نمایانگر یک نقطه عطف تاریخی در محاسبات هستند. برای اولین بار، قدرت اجرای مدل‌های با صدها میلیارد — و در پیکربندی‌های چند-تایی، یک تریلیون — پارامتر از مراکز داده غول‌آسا به دستگاه‌های رومیزی قابل‌خرید منتقل شده است. این تحول به معنای دموکراتیزه شدن واقعی هوش مصنوعی است: نه فقط دسترسی به APIهایی که مدل‌ها را روی سرورهای دیگران اجرا می‌کنند، بلکه مالکیت کامل بر محاسبه، داده، و نتایج. این همان چیزی است که محققان مستقل، استارتاپ‌ها، بیمارستان‌ها، و موسسات آموزشی سال‌ها منتظرش بودند — هوش مصنوعی که واقعاً مال شماست.

پرسش‌های پرتکرار

GB300 چیست؟

GB300 تراشه هوش مصنوعی NVIDIA با معماری Blackwell Ultra است که ۲۸۸ گیگابایت حافظه HBM4 یکپارچه دارد. این تراشه قدرت ۹.۵ پتافلاپس در دقت BF16 و پهنای باند ۱۶ ترابایت در ثانیه ارائه می‌دهد که اجرای مدل‌های تریلیون پارامتری را ممکن می‌سازد.

تفاوت GB300 و RTX Spark چیست؟

GB300 برای محیط حرفه‌ای طراحی‌شده با ۲۸۸ گیگابایت و ۹.۵ پتافلاپس به قیمت بالاتر است. RTX Spark نسخه مصرفی با ۱۲۸ گیگابایت حافظه و ۴.۵ پتافلاپس، به قیمت ۶,۹۹۹ دلار است. GB300 خنک‌کننده مایع نیاز دارد اما RTX Spark با سیستم هوایی معمولی کار می‌کند.

کدام مدل‌های بزرگ را می‌توان روی RTX Spark اجرا کرد؟

RTX Spark می‌تواند Llama 4 Scout 109B (۶۰ گیگابایت با Q4)، Mistral Large 2 (۶۵ گیگابایت)، و Qwen3-235B MoE (۱۲۰ گیگابایت) را اجرا کند. با کوانتیزاسیون ۴-بیتی، کیفیت کمی کاهش یافته اما برای بسیاری کاربردهای عملی قابل‌قبول است.

آیا خرید GB300 بهتر از API ابری است؟

برای استفاده پایدار (۱۰+ میلیون توکن روزانه)، خرید GB300 در ۳ سال سربه‌سر شده و بعدش صرفه‌جویی قابل‌توجهی دارد. علاوه بر این، با استفاده محلی، داده‌های حساس نمی‌رود به سرورهای ابری که برای سازمان‌های با نیاز امنیتی بالا ضروری است.

NIM Microservices چیست؟

NIM زیرساخت نرم‌افزاری NVIDIA برای استقرار محلی مدل‌های هوش مصنوعی است. NIM به صورت containerهای Docker توزیع می‌شود و TensorRT-LLM برای بهینه‌سازی خودکار استفاده می‌کند. رابط REST API سازگار با OpenAI دارد که مهاجرت از ابر را آسان می‌سازد.