کوانتایزیشن چیست؟

کوانتایزیشن یکی از تکنیک‌های بهینه‌سازی مدل‌های هوش مصنوعی است که با کاهش دقت اعدادِ مورد استفاده برای نگهداری وزن‌ها و محاسبات شبکه‌های عصبی، باعث کم‌تر شدن مصرف حافظه و افزایش سرعت اجرا می‌شود. به طور معمول، مدل‌های یادگیری عمیق با اعداد ۳۲ بیتی (float32) کار می‌کنند که حجم قابل توجهی از حافظه و توان محاسباتی نیاز دارد. در کوانتایزیشن، این اعداد به دنباله‌ای از اعداد با دقت پایین‌تر—برای مثال ۱۶ بیتی (float16) یا حتی ۸ بیتی (int8)—تبدیل می‌شوند.

اهمیت کوانتایزیشن در این است که به کمک آن می‌توان مدل‌های بزرگ را روی سخت‌افزارهای ضعیف‌تر، مانند گوشی موبایل یا ابزارهای اینترنت اشیا اجرا کرد. این کار به کسب‌وکارها و کاربران امکان می‌دهد بدون نیاز به خرید سرورهای قوی یا مصرف انرژی بالا، از مدل‌های هوش مصنوعی استفاده کنند. برای مثال، فرض کنید یک برنامه ترجمه‌ی متنی روی موبایل نصب می‌کنید؛ با استفاده از کوانتایزیشن، برنامه می‌تواند مدل زبان را با سرعت بالاتر و مصرف باتری کمتر اجرا کند، هرچند ممکن است دقت ترجمه کمی کاهش یابد.

گاهی کوانتایزیشن با فشرده‌سازی معمولی مدل (مانند pruning یا کاهش ابعاد شبکه) اشتباه گرفته می‌شود اما تفاوت اصلی آن‌ها در این است که کوانتایزیشن فقط نوع نمایش اعداد را ساده‌تر می‌کند در حالی که روش‌هایی مثل pruning بخشی از نورون‌ها یا ارتباط‌ها را به کلی حذف می‌کنند. کوانتایزیشن معمولاً افت دقت جزئی دارد اما منافع عملی زیادی برای اجرا کردن مدل روی دستگاه‌های با منابع محدود دارد.