پنجره زمینه‌ای مدل چیست؟

پنجره زمینه‌ای مدل (Context Window) به این معناست که یک مدل هوش مصنوعی، مانند مدل‌های زبانی بزرگ (مثلاً ChatGPT)، فقط توانایی پردازش و به خاطر سپردن مقدار مشخصی از داده‌ها یا کلمات را در هر مرتبه دارد. این مقدار محدود، تعیین می‌کند که مدل تا چه اندازه می‌تواند اطلاعات قبلی را در پاسخ به ورودی جدید «در نظر» داشته باشد. مثلاً اگر پنجره زمینه‌ای یک مدل ۲۰۴۸ کلمه باشد، فقط آخرین ۲۰۴۸ کلمه از ورودی اخیر برای مدل قابل مشاهده و پردازش است و داده‌های قدیمی‌تر حذف می‌شوند.

اهمیت پنجره زمینه‌ای از آن‌جاست که بر توانایی مدل در درک متن‌های طولانی، حفظ انسجام در گفتگو و یادآوری موارد مطرح شده قبلی تاثیر می‌گذارد. هرچه این پنجره بزرگ‌تر باشد، مدل می‌تواند مسائل پیچیده‌تر یا گفتگوهای بلندتری را بهتر دنبال کند. در برنامه‌هایی مثل ترجمه خودکار، چت‌بات، یا حتی خلاصه کردن اسناد، اندازه‌ی مناسب پنجره زمینه‌ای می‌تواند تفاوت زیادی در کیفیت خروجی ایجاد کند.

برای بسیاری از کاربران فارسی‌زبان، این موضوع مثلاً زمانی ملموس است که از یک چت‌بات می‌پرسند: «دو خط پیش چه گفتم؟»، اگر مطلب خارج از پنجره زمینه‌ای باشد، مدل آن را به یاد نمی‌آورد و نمی‌تواند پاسخ دقیق بدهد.

گاهی پنجره زمینه‌ای با مفهومی مثل «حافظه» اشتباه گرفته می‌شود. اما حافظه مدل به داده‌هایی اشاره دارد که مدل حین آموزش یاد گرفته، در حالی که پنجره زمینه‌ای تنها به بخشی از ورودی فعلی برای تولید پاسخ اشاره دارد.