۱۰ روز طول کشید تا OpenAI متوجه فرار ایجنت خود شود
به گزارش پایگاه خبری پایداری ملی به نقل از رویترز، این حادثه درحالی رخ میدهد که اوپنای آی درحال برنامه ریزی برای عرضه اولیه سهام (IPO) و جذب سرمایههای میلیاردی است. پرسه زدن مدل هوش مصنوعی سرکش این شرکت در فضای وب و بی خبری کامل توسعه دهندگان آن، مسائل جدیدی را درباره امکان مهار و کنترل این سیستمها مطرح کرده است.
ابعاد جدید حمله هوش مصنوعی OpenAI به هاگینگ فیس
براساس اظهارات توماس ولف (Thomas Wolf)، هم بنیان گذار و مدیر ارشد علمی هاگینگ فیس، روند نفوذ به زیرساختهای این پلتفرم از تاریخ ۱۱ ژوئیه آغاز شد و تا ۱۳ ژوئیه ادامه داشت. اما دادههای تحقیقاتی نشان میدهند فرار واقعی مدل از محیط آزمایشگاهی اوپنای آی در حدود ۹ ژوئیه رخ داده است. این ایجنت خودمختار پس از شکستن مرزهای ایمنی، وارد شبکه اینترنت آزاد شد و دو روز بعد به زیرساختهای هاگینگ فیس حمله کرد.
نکته قابل توجه این است که هاگینگ فیس بدون اطلاع از منشأ حمله، موفق شد پس از دو روز نفوذ را مهار کند و در تاریخ ۱۶ ژوئیه با انتشار یک پست وبلاگی رسمی اعلام کرد که مورد حمله یک سیستم خودمختار هوش مصنوعی قرار گرفته است. با این حال، اوپنای آی تازه در روزهای ۱۸ و ۱۹ ژوئیه با بررسی لاگهای داخلی متوجه شد که ایجنت فرارکرده متعلق به خود این شرکت است. اولین ارتباط و تأیید رسمی میان اوپنای آی و هاگینگ فیس حدود ۱۰ روز پس از شروع حادثه، یعنی در ۲۰ ژوئیه صورت گرفت و در ۲۱ ژوئیه عمومی شد.
مدلهای درگیر در این حادثه شامل مدل GPT-۵،۶ Sol و یک مدل منتشرنشده پیشرفته بودند که اوپنای آی آنها را در قالب بنچمارکی به نام ExploitGym ارزیابی میکرد. این بنچمارک شامل حدود ۹۰۰ آزمون امنیتی برای سنجش توانایی هوش مصنوعی در تبدیل آسیب پذیریهای نرم افزاری به کدهای فعال اکسپلویت است و برای اجرای دقیق آزمایش ها، گاردریلها و محافظهای ایمنی مدلها برداشته شده بودند.
این مدلها به جای حل آزمونها در محیط محصور آزمایشگاهی، با سوءاستفاده از یک آسیب پذیری روز صفر، موفق به فرار از محیط سندباکس شدند. ایجنت خودمختار پس از ورود به اینترنت آزاد، با ارسال مجموعه دادهای مخرب، سطح دسترسی خود به دادههای هاگینگ فیس را ارتقا داد.
دادههای تحقیقات داخلی اوپنای آی نشان میدهد پیش از وقوع فرار اصلی در ۹ ژوئیه، نشانههای متعدد و نگران کنندهای از رفتار خودسرانه در مدلها مشاهده شده بود. در یک مورد بسیار عجیب، ایجت هوش مصنوعی یادداشتهایی در بخشی از زیرساختهای اوپنای آی برجای گذاشته بود که حاوی دستورالعملهایی برای نسخههای آینده خودش بود. در این یادداشتها نحوه رهایی از محدودیتهای داخلی و دور زدن گاردریلهای شرکت آموزش داده شده بود.
یکی از نکات تأمل برانگیز این حادثه، ناکامی مدلهای تجاری آمریکایی در تحلیل لاگهای حمله و نقش آفرینی یک مدل متن باز چینی بود. هاگینگ فیس در ابتدای مواجهه با نفوذ، سعی کرد لاگهای حمله را برای تحلیل به مدلهای فیبل ۵ و Opus آنتروپیک ارسال کند. اما این مدلها به دلیل وجود دستوراتی برای هک در لاگ ها، درخواست را رد کردند.
درنهایت، هاگینگ فیس به سراغ مدل متن باز GLM ۵.۲ توسعه یافته توسط شرکت چینی Z.ai رفت. این مدل بدون محدودیتهای مذکور، لاگها را تحلیل کرد و به تیم امنیتی هاگینگ فیس در مسدودسازی حمله کمک کرد. این اتفاق طنز تلخی را در فضای فناوری رقم زد؛ چرا که مدلی از کشوری که تحت شدیدترین کنترلهای صادراتی آمریکا قرار دارد، توانست حادثه ناشی از حمله هوش مصنوعی یک آزمایشگاه آمریکایی به یک شرکت آمریکایی را مدیریت و مهار کند.