مدل‌های زبانی کوچک (SLM): وقتی کوچک‌تر، هوشمندتر است

تا دو سال پیش، قدرت و اعتبار هوش مصنوعی تنها در مدل‌های غول‌آسایی خلاصه می‌شد که صدها میلیارد یا حتی تریلیون‌ها پارامتر داشتند و برای اجرا به ابررایانه‌های عظیم نیاز داشتند. اما در بهار ۱۴۰۵، ورق کاملاً برگشته است: مدل‌های زبانی کوچک (Small Language Models — SLM) نظیر Phi-4، خانواده‌ی Gemma 3 و نسخه‌های کم‌مصرف Llama 4 به جهان ثابت کرده‌اند که برای بسیاری از کاربردهای تخصصی، صنعتی و حریم‌خصوصی‌محور، «کوچک‌تر، هوشمندتر و کارآمدتر است». هوشمندی دیگر با حجم سرور سنجیده نمی‌شود، بلکه با دقت پاسخ در ازای هر وات انرژی مصرفی.

در این بررسی فنی، به معماری مدل‌های کوچک نسل جدید — از Mixture-of-Experts تا تقطیر دانش و کوانتیزاسیون — بنچمارک‌های استدلالی شگفت‌انگیز آن‌ها، اقتصاد استنتاج، وضعیت زبان فارسی و مزیت‌های استراتژیک اجرای محلی در سال ۲۰۲۶ می‌پردازیم.

۱. چرخش بزرگ بازار: چرا «کوچک» به استراتژی تبدیل شد؟

اقتصاد ساده‌ی استنتاج (Inference)، موتور این چرخش است. آموزش یک مدل، هزینه‌ای یک‌باره است؛ اما استنتاج، هزینه‌ای است که با هر درخواست کاربر تکرار می‌شود و در مقیاس میلیونی، صورتحساب آن از هزینه‌ی آموزش هم فراتر می‌رود. وقتی یک مدل ۸ میلیارد پارامتری بتواند ۹۰ درصد کیفیت موردنیاز یک وظیفه‌ی مشخص — خلاصه‌سازی، طبقه‌بندی، استخراج داده، پاسخ‌گویی پشتیبانی — را با یک‌بیستم هزینه‌ی یک مدل مرزی (Frontier Model) تحویل دهد، انتخاب اقتصادی روشن است.

به همین دلیل معماری غالب سیستم‌های هوش مصنوعی سازمانی در سال ۱۴۰۵، آبشار مدل‌ها (Model Cascade) است: مدل کوچک محلی به‌عنوان خط مقدم، اکثر درخواست‌ها را پاسخ می‌دهد و تنها پرسش‌های پیچیده — معمولاً کمتر از ۱۰ تا ۲۰ درصد ترافیک — به مدل بزرگ ابری ارجاع می‌شوند. این الگو هم هزینه را مهار می‌کند، هم تأخیر را کاهش می‌دهد و هم داده‌های حساس را تا حد ممکن در محیط سازمان نگه می‌دارد.

۲. معماری MoE: کارایی فوق‌العاده با فعال‌سازی انتخابی

کلید فنی نسل جدید، معماری ترکیب متخصصان (Mixture-of-Experts — MoE) است. در مدل متراکم (Dense) کلاسیک، تمام وزن‌ها برای پردازش هر توکن فعال می‌شوند؛ اما در MoE، شبکه به ده‌ها «متخصص» تقسیم شده و یک لایه‌ی مسیریاب (Router) برای هر توکن فقط تعداد کمی از آن‌ها را فعال می‌کند. نمونه‌ی شاخص، Llama 4 Scout است: مدلی با حدود ۱۰۹ میلیارد پارامترِ کل و ۱۶ متخصص، که در هر گام تنها حدود ۱۷ میلیارد پارامتر فعال دارد. نتیجه، کیفیتی در سطح مدل‌های متراکم بسیار بزرگ‌تر است، اما با هزینه‌ی محاسباتی یک مدل میان‌رده — تا جایی که نسخه‌ی کوانتیزه‌شده‌ی آن روی یک کارت گرافیک واحد قابل اجراست.

«بزرگ‌ترین جهش مهندسی در سال ۲۰۲۶، نه در افزایش تعداد پارامترها، بلکه در «پنجره‌ی زمینه» (Context Window) مدل‌های کوچک رخ داده است. دیدن مدلی با پارامترهای فعال اندک که می‌تواند تا ۱۰ میلیون توکن را به‌صورت بومی پردازش کند، تمام معادلات کلاسیکِ بازیابی اطلاعات (RAG) را تغییر داده است. هوش مصنوعی اکنون در جیب شماست، نه در کلاود.» — از گفتگوهای فنی تکناو با مهندسان استنتاج

در نمودار تعاملی زیر، نحوه‌ی چرخش داده و فعال‌سازی بخش‌های مختلف یک مدل MoE کوچک را در مدار استنتاج مشاهده می‌کنید. توجه کنید که چطور لایه‌ی «Expert Routing» وظایف را بین متخصص‌های مدل تقسیم می‌کند؛ همین فعال‌سازی انتخابی است که نسبت کیفیت به هزینه را متحول کرده است.

۳. Phi-4 و فلسفه‌ی «داده‌ی درسی»: پادشاه استدلال فنی

مایکروسافت با خانواده‌ی Phi و به‌ویژه Phi-4 (با حدود ۱۴ میلیارد پارامتر)، فلسفه‌ی «داده‌های با کیفیت کتاب درسی» (Textbook-Quality Data) را به اوج رساند. این مدل به‌جای بلعیدن کل اینترنت، بر ترکیبی از داده‌های فوق‌تصفیه‌شده و داده‌های مصنوعی هدفمند (Targeted Synthetic Data) — مسئله‌های ریاضی گام‌به‌گام، کد همراه با تست، استدلال‌های زنجیره‌ای — آموزش دیده است. نتیجه شگفت‌انگیز است: Phi-4 در بنچمارک‌های استدلال ریاضی و کدنویسی، از مدل‌های عمومیِ چندده‌برابر بزرگ‌تر از خود پیشی می‌گیرد.

درس راهبردی Phi-4 برای کل صنعت این بود که منحنی مقیاس (Scaling Law) تنها متغیر بازی نیست؛ کیفیت و ترکیب داده‌ی آموزشی می‌تواند جای کمیت پارامتر را بگیرد. البته باید صادق بود: مدل‌های کوچک در «دانش عمومی جهان» — تاریخ، جغرافیا، فرهنگ — همچنان از غول‌ها عقب‌ترند، چون دانش واقعی در پارامترها ذخیره می‌شود و پارامتر کمتر یعنی حافظه‌ی کمتر. هنر مهندسی سال ۲۰۲۶، جبران این ضعف با اتصال مدل کوچک به منابع دانش بیرونی از طریق RAG و ابزارهاست.

۴. کوانتیزاسیون: ریاضیاتِ جا دادن مدل در جیب

اگر MoE و داده‌ی باکیفیت دو ستون اول انقلاب SLM باشند، ستون سوم کوانتیزاسیون (Quantization) است: کاهش دقت عددی وزن‌های مدل از ۱۶ بیت به ۸، ۴ و حتی پایین‌تر. حساب سرانگشتی آن ساده است: یک مدل ۸ میلیارد پارامتری در دقت ۱۶ بیتی حدود ۱۶ گیگابایت حافظه می‌خواهد — خارج از توان اکثر دستگاه‌های شخصی. همان مدل در کوانتیزاسیون ۴ بیتی به حدود ۴ تا ۵ گیگابایت می‌رسد و به‌راحتی روی یک لپ‌تاپ معمولی یا گوشی پرچم‌دار جا می‌شود؛ آن هم با افت کیفیتی که در اکثر وظایف عملی کمتر از چند درصد است.

روش‌های مدرن مانند GPTQ و AWQ با تحلیل حساسیت وزن‌ها، مهم‌ترین کانال‌های اطلاعاتی مدل را با دقت بالاتر حفظ می‌کنند و آموزشِ آگاه از کوانتیزاسیون (QAT) این افت را باز هم کمتر کرده است. در لایه‌ی اجرا نیز اکوسیستم متن‌باز — موتور llama.cpp، قالب GGUF و ابزارهایی مانند Ollama و LM Studio — اجرای مدل محلی را از یک پروژه‌ی تحقیقاتی به تجربه‌ای در حد «یک دستور نصب» تبدیل کرده‌اند.

۵. تقطیر دانش: شاگردی که از استاد می‌آموزد

سومین تکنیک محوری در ساخت SLMهای قدرتمند، تقطیر دانش (Knowledge Distillation) است: مدل بزرگِ «معلم» میلیون‌ها نمونه‌ی پرسش و پاسخ باکیفیت — از جمله زنجیره‌های استدلال گام‌به‌گام — تولید می‌کند و مدل کوچکِ «شاگرد» روی این خروجی‌ها آموزش می‌بیند. موج مدل‌های استدلالی تقطیرشده که از سال ۲۰۲۵ با خانواده‌هایی نظیر نسخه‌های کوچک DeepSeek-R1 آغاز شد، نشان داد که توانایی استدلال چندمرحله‌ای — که زمانی انحصار مدل‌های تریلیون‌پارامتری بود — تا حد قابل توجهی به مدل‌های ۷ تا ۱۴ میلیاردی قابل انتقال است.

مکمل تقطیر، تنظیم دقیق سبک‌وزن (LoRA و QLoRA) است: به‌جای بازآموزی کل مدل، ماتریس‌های کوچکِ کم‌مرتبه به لایه‌ها افزوده می‌شوند و فقط همان‌ها آموزش می‌بینند. حاصل این است که یک تیم کوچک می‌تواند با یک کارت گرافیک مصرفی و چند ساعت زمان، یک SLM عمومی را به متخصص حوزه‌ی خود — حقوق، پزشکی، بانکداری، پشتیبانی محصول — تبدیل کند؛ کاری که دو سال پیش به خوشه‌ی GPU و بودجه‌ی سازمانی نیاز داشت.

۶. نقشه‌ی بازار: مدل‌های کوچک پیشرو در سال ۱۴۰۵

• Phi-4 (Microsoft): بهترین گزینه برای استدلال ریاضی، حل مسائل منطقی چندمرحله‌ای و بازنویسی کدهای سیستمی؛ نماد پیروزی کیفیت داده بر کمیت پارامتر.
• Llama 4 Scout (Meta): قهرمان تحلیل اسناد حجیم و سیستم‌های پرسش‌وپاسخ سازمانی به لطف معماری MoE و پنجره‌ی زمینه‌ی چندمیلیون‌توکنی.
• Gemma 3 (Google): خانواده‌ای از ۱ تا ۲۷ میلیارد پارامتر با پشتیبانی چندزبانه‌ی قوی؛ نسخه‌های سبک آن برای اجرای روی موبایل و مرورگر با WebGPU بهینه شده‌اند.
• Qwen 3 (Alibaba): گسترده‌ترین طیف اندازه در دنیای متن‌باز و یکی از قوی‌ترین گزینه‌ها در وظایف چندزبانه و کدنویسی، با اکوسیستم تنظیم دقیق بسیار فعال.
• Ministral (Mistral AI): مدل‌های فشرده‌ی اروپایی با تمرکز بر اجرای لبه‌ای و تأخیر پایین، محبوب در کاربردهای تعبیه‌شده (Embedded) و رباتیک.

۷. زبان فارسی و SLMها: فرصت و مانع توکنایزر

برای کاربر فارسی‌زبان، انتخاب مدل کوچک یک پیچیدگی اضافه دارد: کارایی توکنایزر (Tokenizer Efficiency). اکثر توکنایزرها برای انگلیسی بهینه شده‌اند و متن فارسی را به قطعات ریزتری می‌شکنند؛ نتیجه این است که یک جمله‌ی فارسی نسبت به معادل انگلیسی‌اش توکن بیشتری مصرف می‌کند — یعنی پنجره‌ی زمینه‌ی مؤثرِ کوچک‌تر و استنتاج کندتر. مدل‌های چندزبانه‌ی نسل جدید با واژگان بزرگ‌تر این شکاف را کم کرده‌اند، اما هنوز نبسته‌اند.

در عین حال، SLMها برای اکوسیستم فارسی یک فرصت تاریخی‌اند: تنظیم دقیق یک مدل متن‌باز ۸ میلیاردی روی پیکره‌ی باکیفیت فارسی، با بودجه‌ی یک تیم دانشگاهی هم شدنی است. به همین دلیل سال‌های ۱۴۰۴ و ۱۴۰۵ شاهد موجی از مدل‌های فارسی‌شده‌ی مبتنی بر Llama، Gemma و Qwen بوده‌ایم که در وظایف بومی — درک متن رسمی، محاوره، خلاصه‌سازی خبر — از مدل‌های عمومی بزرگ‌تر بهتر عمل می‌کنند. آینده‌ی هوش مصنوعی فارسی، به احتمال زیاد روی شانه‌های همین مدل‌های کوچکِ بومی‌شده ساخته می‌شود، نه غول‌های ابری.

۸. هوش مصنوعی شخصی و محلی: حریم خصوصی به‌عنوان ویژگی

با بلوغ این مدل‌ها در سال ۲۰۲۶، مفهوم «Edge AI» از یک شعار تبلیغاتی به واقعیت روزمره تبدیل شده است. واحدهای پردازش عصبی (NPU) که اکنون در تمام تراشه‌های موبایل و لپ‌تاپ‌های جدید حضور دارند، اجرای مدل‌های کوانتیزه‌شده‌ی ۳ تا ۸ میلیاردی را با سرعت ده‌ها توکن بر ثانیه و مصرف انرژی چند وات ممکن کرده‌اند. این یعنی دستیاری که نامه‌ها، عکس‌ها و یادداشت‌های شما را بدون ارسال حتی یک بیت داده به سرورهای دوردست تحلیل می‌کند.

برای سازمان‌ها، این قابلیت یک الزام حاکمیتی است: بیمارستانی که پرونده‌ی بیماران را پردازش می‌کند، بانکی که اسناد مشتریان را تحلیل می‌کند و نهادی که داده‌ی طبقه‌بندی‌شده دارد، با SLM محلی می‌تواند از مزایای هوش مصنوعی بهره ببرد بدون آنکه داده از مرز سازمان خارج شود. در سال ۱۴۰۵، داشتن یک مدل محلی قوی دیگر یک سلیقه‌ی فنی نیست؛ نشانه‌ی «بهداشت دیجیتال» است.

۹. محدودیت‌ها: جایی که کوچک هنوز کم می‌آورد

گزارش صادقانه بدون ذکر محدودیت‌ها کامل نیست. مدل‌های کوچک در سه حوزه همچنان از مدل‌های مرزی عقب‌ترند: دانش عمومی گسترده — احتمال توهم (Hallucination) در پرسش‌های دانشی بدون اتصال به منبع بیرونی بالاتر است؛ استدلال‌های بسیار طولانی و باز — برنامه‌ریزی چندساعته‌ی عامل‌های خودمختار هنوز قلمرو مدل‌های بزرگ است؛ و پیروی دقیق از دستورالعمل‌های پیچیده و چندلایه که با کوچک‌شدن مدل شکننده‌تر می‌شود.

معماری درست، پذیرش همین واقعیت است: SLM را برای آنچه در آن عالی است به کار بگیرید — وظایف تعریف‌شده، حجم بالا، تأخیر کم، داده‌ی حساس — و مسیر ارجاع به مدل بزرگ را برای موارد استثنایی باز نگه دارید. تیم‌هایی که این مرزبندی را با ارزیابی (Evaluation) منظم روی داده‌ی واقعی خودشان انجام می‌دهند، بهترین ترکیب هزینه و کیفیت را به دست می‌آورند؛ تیم‌هایی که با اتکا به بنچمارک‌های عمومی تصمیم می‌گیرند، اغلب غافلگیر می‌شوند.

مقایسه فنی مدل‌های زبانی کوچک پیشرو در سال ۱۴۰۵

با ظهور مدل‌های زبانی کوچک، انتخاب مدل مناسب برای هر کاربرد به یک تصمیم مهندسی حیاتی تبدیل شده است. در جدول زیر، پنج SLM پیشرو از نظر معماری، نقاط قوت و کاربرد بهینه با یکدیگر مقایسه شده‌اند.

تمامی اطلاعات این جدول بر اساس مستندات رسمی و بنچمارک‌های منتشرشده توسط سازندگان هر مدل گردآوری شده است.

انتخاب نهایی میان این مدل‌ها به نیاز دقیق پروژه بستگی دارد: اگر اولویت شما استدلال فنی است، Phi-4؛ اگر تحلیل اسناد بلند، Llama 4 Scout؛ و اگر اجرای روی مرورگر، Gemma 3 بهترین گزینه خواهد بود.

نتیجه‌گیری: تخصص بر حجم پیروز شد

دوران مدل‌های «همه‌کاره‌ی غول‌آسا» به سر نیامده — برای مرزهای دانش و استدلال‌های باز، همچنان به آن‌ها نیاز داریم — اما مرکز ثقل اقتصادی هوش مصنوعی به سمت مدل‌های کوچک و تخصصی جابه‌جا شده است. ترکیب MoE، داده‌ی آموزشی باکیفیت، تقطیر دانش و کوانتیزاسیون، هوشی را که دو سال پیش به دیتاسنتر نیاز داشت، در جیب کاربر قرار داده است.

در سال ۱۴۰۵، پرسش درست برای هر تیم فنی این نیست که «قوی‌ترین مدل کدام است؟»، بلکه این است که «کوچک‌ترین مدلی که مسئله‌ی من را با کیفیت کافی حل می‌کند کدام است؟». پاسخ به این پرسش، تفاوت بین محصولی با اقتصاد پایدار و محصولی است که با هر کاربر جدید ضرر می‌دهد. ما در تکناو شما را برای عصر هوش مصنوعی محلی و کارآمد آماده می‌کنیم.