پاسخ کوتاه: NPU تراشه کممصرفی است که درون موبایلها و لپتاپها تعبیه میشود تا مدلهای هوش مصنوعی را بهصورت محلی و بدون اینترنت اجرا کند. برخلاف GPU که برای آموزش سنگین در دیتاسنتر ساخته شده، NPU برای «استنتاج» روی دستگاه بهینه است: مصرف انرژی بسیار پایین با توان کافی برای مدلهای کوچک و متوسط. موج «هوش مصنوعی روی دستگاه» — از ترجمه آفلاین تا دستیارهای محلی — بر همین تراشهها سوار است.
معادل انگلیسی: NPU
پرسشهای پرتکرار درباره واحد پردازش عصبی
تفاوت NPU با GPU چیست؟
GPU برای محاسبات سنگین و آموزش مدل با مصرف انرژی بالا طراحی شده؛ NPU برای اجرای مدلهای ازپیشآموزشدیده با کمترین مصرف باتری. در یک لپتاپ مدرن هر دو کنار هم حضور دارند.
توان NPU با چه واحدی سنجیده میشود؟
با TOPS (تریلیون عملیات در ثانیه). لپتاپهای هوش مصنوعی ۲۰۲۶ معمولاً NPUهایی با دهها TOPS دارند که برای مدلهای زبانی کوچک و پردازش تصویر محلی کافی است.
چرا اجرای محلی روی NPU مهم است؟
سه دلیل: حریم خصوصی (داده از دستگاه خارج نمیشود)، کارکرد آفلاین، و هزینه صفر بر هر درخواست؛ به همین دلیل سیستمعاملها قابلیتهای هوش مصنوعی پایه را به NPU منتقل میکنند.