دمای مدل چیست؟

دمای مدل (Temperature) یک پارامتر عددی در مدل‌های تولید متن مانند GPT است که رفتار خروجی مدل را تعیین می‌کند. وقتی قرار است مدل متنی بنویسد یا پاسخی بسازد، با توجه به توزیع احتمال واژه‌ها انتخاب می‌کند. دمای مدل مشخص می‌کند که مدل تا چه اندازه به این احتمالات وفادار بماند یا برعکس، چقدر آزادانه واژه‌های مختلف را امتحان کند.

اگر دما پایین (مثلاً ۰ یا ۰.۲) باشد، مدل معمولاً آن واژه‌هایی را انتخاب می‌کند که مطمئن‌تر و رایج‌تر هستند؛ یعنی پاسخ‌ها قابل پیش‌بینی‌تر و رسمی‌تر خواهند بود. برعکس، وقتی دما بالا باشد (مثلاً ۱ یا بیشتر)، مدل شجاع‌تر و خلاقانه‌تر رفتار می‌کند و حتی سراغ واژه‌هایی می‌رود که احتمالشان خیلی کمتر است؛ به همین دلیل، می‌توان پاسخ‌هایی جالب، متفاوت یا حتی عجیب‌وغریب گرفت.

کاربرد مهم دما در مواردی است که خروجی متنوع یا غیرتکراری نیاز داریم؛ مثلاً اگر می‌خواهید چند ایده برای نام یک استارتاپ دریافت کنید، دمای بالا می‌تواند پیشنهادات متنوع‌تری بدهد. اما اگر هدف خلق پاسخ‌های دقیق و مطمئن مثل ترجمهٔ رسمی یا توضیح علمی است، دمای پایین مناسب‌تر است.

دمای مدل را نباید با سرعت یا کیفیت مدل اشتباه گرفت؛ دما فقط روی تنوع و غیرقابل پیش‌بینی بودن خروجی اثر می‌گذارد و ربطی به قدرت کلی یا صحت مدل ندارد.