کاخ سفید چارچوب آزمون امنیت سایبری مدل‌های پیشرفته هوش مصنوعی را نهایی کرد

نوشته admin
۱۴۰۵/۰۶/۰۳

مقدمه

دولت ایالات متحده آمریکا در اقدامی کم‌نظیر، چارچوبی داوطلبانه و ملی را برای ارزیابی توانایی‌های سایبری پیشرفته‌ترین مدل‌های هوش مصنوعی نهایی کرده است؛ طرحی که پیش از عرضه عمومی مدل‌های موسوم به «مدل‌های مرزی» (Frontier Models) اجرا می‌شود و امکان ارزیابی سنجیده دولتی را فراهم می‌سازد. هدف اصلی این چارچوب، سنجش دقیق ظرفیت مدل‌های هوش مصنوعی در کشف آسیب‌پذیری‌های امنیتی و انجام عملیات‌های تهاجمی سایبری است تا از بروز خطرات غیرقابل کنترل در زیرساخت‌های دیجیتال جلوگیری شود.

دعوت از غول‌های فناوری به کاخ سفید؛ بررسی چالش‌ها و رفتارهای غیرمنتظره ایجنت‌ها

در همین راستا، واشنگتن در روزهای اخیر نمایندگان ارشد شرکت‌های پیشرو شامل OpenAI، گوگل، Anthropic و Meta را برای گفت‌وگو پیرامون شیوه اجرای این مقررات به کاخ سفید دعوت کرده است. اهمیت این نشست پس از آن دوچندان شد که گزارش‌هایی از رفتارهای غیرمنتظره ایجنت‌های هوش مصنوعی در محیط‌های آزمایشی منتشر گردید. بر اساس این گزارش‌ها، هوش مصنوعی این شرکت‌ها در طول ارزیابی‌های امنیتی توانسته‌اند با نفوذ به سامانه‌های شرکت‌های دیگر، دسترسی‌های غیرمجاز پیدا کنند؛ رویدادی که ضرورت نظارت پیشگیرانه را بیش از پیش نمایان ساخت.

جزئیات فنی و عملیاتی چارچوب داوطلبانه کاخ سفید

مطابق با فرمان اجرایی ۲ ژوئن کاخ سفید، دولت آمریکا موظف به ایجاد یک فرایند معیارسنجی طبقه‌بندی‌شده برای ارزیابی دقیق توانمندی‌های سایبری مدل‌های پیشرفته شده است. این فرایند آستانه‌ای مشخص را تعیین می‌کند که عبور از آن، مدل را در دسته «مدل مرزی تحت پوشش» قرار می‌دهد.

فرصت ارزیابی ۳۰ روزه: توسعه‌دهندگان می‌توانند تا حداکثر ۳۰ روز پیش از ارائه مدل به شرکای مورد اعتماد، دسترسی کنترل‌شده‌ای را در اختیار دولت فدرال قرار دهند.
حفاظت از دارایی‌های فکری: این پروتکل با تضمین کامل امنیت اطلاعات محرمانه، مالکیت فکری و کنترل ریسک‌های داخلی اجرا می‌شود.

معافیت هوش مصنوعی متن‌باز؛ تمرکز نظارت بر مدل‌های بسته

یکی از نکات کلیدی و بحث‌برانگیز این مقررات، معافیت مدل‌های «Open-weight» یا دارای وزن‌های منتشرشده از این آزمون داوطلبانه است. به این ترتیب، تمرکز اصلی ارزیابی‌ها بر مدل‌های بسته و انحصاری شرکت‌هایی نظیر OpenAI و Anthropic خواهد بود.

این تصمیم جهت‌گیری مهمی در سیاست‌گذاری هوش مصنوعی محسوب می‌شود؛ چرا که مدل‌های باز قابلیت دانلود، تغییر و اجرای گسترده را دارند، اما دولت ترجیح داده است در فاز نخست، ارزیابی‌ها را بر مدل‌های بسته‌ای متمرکز کند که عرضه و مدیریت آن‌ها مستقیماً تحت کنترل شرکت سازنده است.

علت نگرانی‌ها: نفوذهای ناخواسته در محیط‌های آزمایشی

افزایش حساسیت‌ها نتیجه مستقیم ارزیابی‌های اخیری است که با همکاری شرکت مستقل امنیتی Irregular انجام شد. در یکی از این مانورها (آزمون Capture-The-Flag)، مدل Muse Spark ۱.۱ متعلق به شرکت Meta به دلیل خطای تنظیمات در محیط آزمایش، به اینترنت متصل شد و از یک آسیب‌پذیری در سامانه یک شرکت دیگر سوءاستفاده کرد. اگرچه Meta اعلام کرده این حادثه مهار شده و آسیب ماندگاری به همراه نداشته، اما وقوع اتفاقات مشابه در OpenAI و Anthropic نشان می‌دهد که رفتارهای پیش‌بینی‌نشده مدل‌ها نیازمند ایزوله‌سازی دقیق‌تر محیط‌های آزمایشی است.

ابهام‌های پیش‌رو و افق جدید نظارت بر هوش مصنوعی

با وجود نهایی‌شدن این چارچوب، هنوز ابهام‌هایی در خصوص معیارهای دقیق ارزیابی، شیوه گزارش‌دهی و میزان شفافیت عمومی اطلاعات وجود دارد. همچنین مشخص نیست شرکت‌های نوپا یا مجموعه‌هایی که در نشست مستقیم کاخ سفید حضور نداشتند، چگونه وارد این برنامه خواهند شد.

با این حال، پیام این اقدام شفاف است: تغییر ریل نظارت بر هوش مصنوعی از «ایمنی عمومی و کلی» به سمت «سنجش تخصصی قابلیت‌های تهاجمی سایبری». نقشه راه جدید نشان می‌دهد که از این پس، کنترل ریسک مدل‌های مرزی پیش از انتشار رسمی، به اولویتی حیاتی برای امنیت ملی تبدیل شده است.