موتور استنتاج چیست؟
Inference Engine
نرمافزار یا زیرسیستمی که امکان بارگذاری وزنها و اجرای مدل هوش مصنوعی را روی سختافزار کاربر فراهم میکند.
توضیح کامل
موتور استنتاج به سامانه یا نرمافزاری گفته میشود که دادههای ورودی را دریافت میکند و با استفاده از مدل هوش مصنوعیِ آموزشدیده، پیشبینی یا تصمیم مناسب را ارائه میدهد. زمانی که یک مدل هوش مصنوعی آموزش داده میشود، وزنها و پارامترهای آن آماده است، اما برای استفاده از مدل و دریافت خروجی، نیاز به موتور استنتاج داریم تا این وزنها را به کار بگیرد و فرایند پیشبینی را اجرا کند.
اهمیت موتور استنتاج در این است که امکان بهکارگیری مدلها را روی انواع سختافزارها—از سرورهای قدرتمند تا گوشیهای موبایل یا حتی لوازم خانگی هوشمند—فراهم میکند. برای مثال، هنگامی که میخواهید در اپلیکیشن موبایل خود یک عکس را بهصورت خودکار برچسبگذاری کنید، موتور استنتاج مدل شناسایی تصویر را بارگذاری میکند و نتیجه را ارائه میدهد؛ یعنی مثلاً میگوید «این تصویر یک گربه است».
موتور استنتاج گاهی با کل فرایند آموزش مدل اشتباه گرفته میشود، اما تفاوتشان در این است که آموزش مدل برای یادگیری الگوها از دادههاست، اما موتور استنتاج فقط از مدل آموزشدیده استفاده میکند تا دادههای جدید را تحلیل کند.
به طور خلاصه، موتور استنتاج پل ارتباطی بین الگوریتم آموزشدیده و کاربرد واقعی آن برای کاربران است و بدون وجود آن، مدلهای هوش مصنوعی صرفاً مجموعهای از دادهها و پارامترهای بیاستفاده خواهند بود.
در این مطالب توضیح داده شده
اصطلاحهای مرتبط
وزنهای مدلModel Weights
مقادیر عددی آموزش دیده در شبکه عصبی هوش مصنوعی که تعیینکننده رفتار و دانش مدل است.
استنتاجInference
فرآیند دریافت پرسش یا ورودی از کاربر و تولید پاسخ توسط یک مدل آموزش دیده.
پارامترهاParameters
تعداد مقادیر قابل تنظیم داخل مدل که ظرفیت، دقت و حجم مدل هوش مصنوعی را مشخص میکند.
کوانتایزیشنQuantization
تکنیک فشردهسازی مدل هوش مصنوعی برای کاهش مصرف حافظه در برابر مقدار کمی افت دقت.
طول زمینهContext Length
میزان اطلاعات یا تاریخچهای که مدل هنگام استنتاج میتواند همزمان در حافظه کوتاهمدت خود نگه دارد.
دمای مدلTemperature
پارامتری که میزان خلاقیت و تنوع پاسخهای مدل را در تولید متن کنترل میکند.
