طول زمینه چیست؟

طول زمینه (Context Length) به معنای تعداد واحدهای متوالی از داده (مثلاً کلمه، جمله یا توکن) است که یک مدل هوش مصنوعی، به‌ویژه مدل‌های زبانی مثل GPT، می‌تواند در یک مرحله پردازش و در حافظه کوتاه‌مدت خود نگه‌داری کند. این ویژگی نقش مهمی در میزان درک مدل از متن فعلی و توانایی آن در حفظ ارتباط میان بخش‌های مختلف ورودی دارد. هرچه طول زمینه بیشتر باشد، مدل می‌تواند بخش بزرگ‌تری از متن قبلی را همزمان تحلیل کند و پاسخ دقیق‌تری ارائه دهد.

اهمیت طول زمینه به این دلیل است که بسیاری از کاربردهای هوش مصنوعی، مانند خلاصه‌نویسی متن، ترجمه متون بلند یا پاسخ به پرسش‌هایی که نیاز به مرور تاریخچه مکالمه دارند، وابسته به میزان داده‌ای است که مدل می‌تواند همزمان به یاد داشته باشد. برای مثال، هنگام چت با یک دستیار مجازی فارسی، طول زمینه تعیین می‌کند که دستیار تا چند پیام پیشین را «به یاد دارد» و می‌تواند به سابقه‌ی گفت‌وگو ارجاع دهد. اگر طول زمینه کم باشد، مدل ممکن است نتواند به جزئیات مطرح‌شده در ابتدای گفت‌وگو اشاره کند.

گاهی طول زمینه با موضوع «حافظه بلندمدت مدل» اشتباه گرفته می‌شود. طول زمینه تنها مربوط به حافظه کوتاه‌مدت و ظرفیت بلافاصله ورودی مدل است و هر آنچه خارج از این دامنه باشد دیگر توسط مدل پیگیری نمی‌شود، مگر اینکه با تکنیک‌های خاص، مثل ذخیره‌سازی خارجی، مدیریت شود.