پاسخ کوتاه: فاینتیونینگ فرایند آموزش تکمیلی یک مدل ازپیشآموزشدیده روی دادههای تخصصی است تا در حوزه یا سبک خاصی بهتر عمل کند. بهجای ساخت مدل از صفر — که میلیونها دلار هزینه دارد — وزنهای مدل موجود با مجموعهدادهای کوچکتر تنظیم میشود. روشهای سبکوزنی مانند LoRA این کار را حتی روی یک GPU خانگی ممکن کردهاند و همین، سفارشیسازی مدلهای وزنباز را برای شرکتهای کوچک اقتصادی کرده است.
معادل انگلیسی: Fine-tuning
پرسشهای پرتکرار درباره فاینتیونینگ
تفاوت فاینتیونینگ و RAG چیست؟
فاینتیونینگ دانش یا سبک را در وزنهای مدل حک میکند و RAG اطلاعات را هنگام پاسخگویی از منبع خارجی میآورد. برای دانش متغیر (مثل مستندات شرکت) RAG و برای رفتار و لحن ثابت، فاینتیونینگ مناسبتر است.
LoRA چیست؟
تکنیکی که بهجای تغییر همه وزنهای مدل، ماتریسهای کوچکی کنارشان اضافه و فقط آنها را آموزش میدهد؛ نتیجه، فاینتیونینگ با کسری از حافظه و هزینه است.
برای فاینتیونینگ چقدر داده لازم است؟
بسته به هدف، از چند صد نمونه باکیفیت برای تنظیم سبک تا دهها هزار نمونه برای دانش تخصصی. کیفیت و یکدستی داده تقریباً همیشه از حجم آن مهمتر است.