پاسخ کوتاه: پردازنده گرافیکی یا GPU تراشهای است که برخلاف CPU با چند هسته قوی، هزاران هسته ساده دارد و در انجام همزمان محاسبات تکراری — ضرب ماتریسها — بیرقیب است. همین ویژگی آن را از ابزار رندر بازی به موتور اصلی آموزش و اجرای هوش مصنوعی تبدیل کرد. جنگ تصاحب GPUهای نسل جدید میان غولهای فناوری، تعیینکنندهترین رقابت زیرساختی دهه است و انویدیا با اکوسیستم CUDA بر این بازار سلطه دارد.
معادل انگلیسی: GPU
پرسشهای پرتکرار درباره پردازنده گرافیکی
چرا هوش مصنوعی به GPU نیاز دارد؟
چون یادگیری عمیق اساساً میلیاردها ضرب ماتریس موازی است؛ GPU با هزاران هسته همزمان این محاسبات را دهها برابر سریعتر از CPU انجام میدهد.
CUDA چیست و چرا مهم است؟
پلتفرم نرمافزاری انحصاری انویدیا برای برنامهنویسی GPU. پانزده سال ابزار و کتابخانه روی آن ساخته شده و همین قفل نرمافزاری، برتری انویدیا را فراتر از سختافزار تثبیت کرده است.
برای اجرای مدل زبانی در خانه چه GPUای لازم است؟
شاخص اصلی VRAM است: با ۸ گیگابایت مدلهای کوچک کوانتیزه، با ۱۶ تا ۲۴ گیگابایت مدلهای میانرده و برای مدلهای بزرگتر سختافزار چندکارته یا حافظه یکپارچه لازم است.
تحلیلهای مرتبط در تکناو
- جنگ GPU: وقتی قدرت محاسباتی سلاح میشود
- سوپرکامپیوتینگ رومیزی: اجرای مدلهای تریلیون پارامتری به صورت محلی روی NVIDIA GB300
- تراشههای سفارشی هوش مصنوعی: پایان عصر پردازندههای عمومی
- معماری مدرن مرورگرها: وقتی وب به یک سیستمعامل تبدیل میشود