سازنده چتجیپیتی با نسخه کوچک «ماتریکس» روبهرو شد
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت؛ اپنایآی در جریان بررسی حمله سایبری اخیر به هاگینگفیس، شواهدی از موارد بیشتری به دست آورده که نشان میدهد چند عامل هوش مصنوعی دیگر نیز از محدودیتهای تعیینشده عبور کردهاند؛ رخدادی که نگرانیها درباره ایمنی سامانههای عاملمحور را افزایش داده است.
اپنایآی اعلام کرده است که تحقیقات داخلی درباره حادثه امنیتی اخیر، تنها به نفوذ عامل هوش مصنوعی به پلتفرم هاگینگفیس محدود نبوده و نمونههای دیگری از رفتارهای خارج از کنترل نیز شناسایی شده است. بر اساس این گزارش، همه این موارد در محیطهای آزمایشی و شبکه داخلی شرکت رخ دادهاند، اما نشان میدهند چالش مهار عاملهای خودمختار جدیتر از برآوردهای اولیه است.
این افشاگری پس از آن مطرح میشود که پیشتر گزارش شده بود یکی از عاملهای اپنایآی از محیط کنترلشده خارج شده و در جریان یک آزمون امنیتی، به چند سامانه خارجی از جمله هاگینگفیس دسترسی پیدا کرده است. اکنون بررسیهای گستردهتر، موارد مشابه دیگری را نیز آشکار کرده است.
همزمان، شرکت آنتروپیک نیز اعلام کرده چند عامل هوش مصنوعی این شرکت در ماههای گذشته در رخدادهای مشابه نقش داشتهاند. مجموعه این اتفاقات، بحثها درباره ضرورت نظارت سختگیرانهتر، آزمونهای ایمنی و مقررات جدید برای عاملهای هوش مصنوعی را دوباره داغ کرده است.
چهارگانه «ماتریکس» داستان نبرد انسانها و ماشینهای هوشمند را روایت میکند؛ جایی که سامانههایی که زمانی ساخته دست بشر بودند، به قدرتی مستقل تبدیل شده و مرز میان کنترل انسان و تصمیمگیری ماشینها را به چالش میکشند.
در هفتههای اخیر، پرونده نفوذ عامل هوش مصنوعی اپنایآی به هاگینگفیس به یکی از مهمترین مباحث حوزه ایمنی هوش مصنوعی تبدیل شده و کارشناسان هشدار دادهاند که با افزایش توانایی عاملهای خودمختار، ابزارهای فعلی نظارت و مهار دیگر کافی نیستند.