موارد تازه هک هوش مصنوعی اوپنای آی و آنتروپیک افشا شد
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری مهر، رویترز نوشت؛ اوپنای موارد دیگری از فرار عاملهای خودکار هوش مصنوعی کشف کرده است. این شرکت تحقیقات درباره هک پلتفرم هاگینگ فیس را که توجهات جهانی را به خود جلب کرد، گستردهتر میکند.
به گفته دو منبع آگاه، هکهای جدید طی تحقیقی درباره آنکه چگونه یکی از عامل از بستر آزمایشی فرار کرد و وارد هاگینگ فیس شد، فاش شدهاند.
در همین راستا اوپنای آی مشغول بررسی این موارد جدید است. یکی از منابع آگاه نیز فاش کرد ماهیت فرار عاملهای هوش مصنوعی محدود بوده و تصور نمیشود هیچ کدام از آنها شبکه اوپنای آی را ترک کرده باشند.
سخنگوی این شرکت با اشاره به بیانیه صادره از سوی شرکت، اعلام کرد مشغول بررسی فعالیتهای وسیعتر مدلها علاوه بر رویداد نفوذ به هاگینگ فیس است.
کشف رفتار خطرناک اضافی در اوپنای آی حتی با وجود ماهیت محدود آن، ممکن است تقاضا برای قوانین صادره از سوی کاخ سفید و نقاط دیگر را بیشتر کند.
در این میان کارشناسان ایمنی هوش مصنوعی معتقدند رویدادهای فاش شده جدید تصویری از گروهی آزمایشگاههای بسیار پیشرفته ایجاده کردهاند که توانایی آنها برای توسعه عاملهای هک خودکار خطرناک بسیار بیشتر از توانایی برای کنترل آنها اسست.
از سوی دیگر نشریه ایندپندنت درگزارشی اعلام کرد سیستم هوش مصنوعی «کلاود» به بیراهه رفته و سه شرکت مختلف را طی مرحله آزمایش هک کرده است. آنتروپیک، شرکت مالک کلاود اعلام کرد از آنجا که مدلهای هوش مصنوعی به طور تصادفی اجازه دسترسی به اینترنت آزاد را یافتند، حملات مذکور امکانپذیر شدهاند.
این شرکت هشدار داد رویداد مذکور نشانهای از آن است که چگونه هوش مصنوعی را میتوان برای نقض چارچوبهای امنیت سایبری و همچنین برای حفاظت از آن به کار برد و همچنین کنترل چنین سیستمهایی برای شرکتهای سازنده تا چه دشوار است.
آنتروپیک در یک پست وبلاگی اعلام کرد پس از بررسی ۱۴۱۰۰۶ تست، این موارد را شناسایی کرده است. بررسی تستها پس از آن انجام شد که اوپنای آی اعلام کرد یک عامل هوش مصنوعی هاگینگ را به خطر انداخته است.
در جریان آزمایشهای امنیت سایبری، به مدلهای کلاود گفته شده بود که به اینترنت دسترسی ندارند، اما به دلیل یک سوءتفاهم که یکی از شرکای ارزیابی آنتروپیک در آن نقش داشت، این سامانهها همچنان به اینترنت عمومی متصل باقی ماندند. در نتیجه، امکان دسترسی غیرمجاز به سامانههای سه سازمان فراهم شد. شرکت آنتروپیک بدون اینکه نام این سازمانها را اعلام کند، این موضوع را تأیید کرد. این شرکت هوش مصنوعی اعلام کرد در رویدادهای مذکور مدلهای «کلاود اوپوس ۴.۷»، «کلاود مایتوس ۵» و یک مدل تحت آزمایشهای داخلی دخیل بودهاند.
قدیمیترین پرونده هک به زمان آوریل مربوط است و هنگام ارزیابی محیطهایی رخ داده بود که به طور عمدی فاقد چارچوبهای ایمنی بودند تا شرکت بتواند قابلیتهای هوش مصنوعی را ارزیابی کند.