شرکت **OpenAI** با انتشار بیانیهای رسمی در وبسایت خود، جزئیات مربوط به یک حادثه امنیتی را تشریح کرد که در جریان ارزیابی (Evaluation) مدلهای هوش مصنوعی مستقر بر روی پلتفرم **Hugging Face** رخ داده بود.
مدلهای هوش مصنوعی متنباز و وزنهای ارائهشده در پلتفرمهای اشتراکگذاری مانند Hugging Face، گاهی شامل کدهای سفارشی یا فرمتهای اجرایی هستند. هنگام ارزیابی و بنچمارک این مدلها در محیطهای اختصاصی، خطر اجرای کدهای غیرقابل اعتماد (Untrusted Code) وجود دارد.
ریشهیابی و نحوه برخورد با آسیبپذیری
بر اساس توضیحات ارائه شده، تیمهای امنیتی OpenAI بهسرعت متوجه رفتار غیرعادی در جریان بارگذاری و تست برخی مدلهای ذخیرهشده شدند. این حادثه ناشی از عدم تمایز کامل میان کدهای اجرایی مدلسازی و محیطهای اجرای سندباکس بود که میتوانست به دسترسیهای فراتر از محدوده مجاز منجر شود.
🔍 اقدامات اصلی صورتگرفته توسط OpenAI:
- ایزولهسازی کامل (Sandboxing): تقویت محیطهای ایزوله اجرایی برای بنچمارک مدلهای شخص ثالث.
- محدودسازی دسترسی شبکه: قطع دسترسیهای مستقیم اینترنتی و شبکهای محیطهای ارزیابی خودکار.
- جایگزینی فرمتهای امن: تاکید بر استفاده از فرمتهای بدون کد اجرایی نظیر Safetensors به جای فایلهای سنتی Pickle.
- بررسی عدم نفوذ: تایید رسمی عدم دسترسی به دادههای حساس کاربران یا سیستمهای اصلی OpenAI.
چرا این خبر برای متخصصان سختافزار و شبکه اهمیت دارد؟
این گزارش نشان میدهد که امنیت سیستمهای هوش مصنوعی تنها منحصر به نرمافزار نیست؛ بلکه نیازمند معماری سختافزاری و شبکهای ایزوله است. سازمانهایی که از سرورها و پردازندههای گرافیکی برای اجرای مدلهای هوش مصنوعی استفاده میکنند، باید پروتکلهای امنیتی لایهبندیشده را در سطح بورد، شبکه و زیرساخت اعمال نمایند.
