سرکِشی رباتهای سازنده چتجیپیتی در یک سایت آلمانی
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت؛ گروهی از ایجنتهای هوش مصنوعی مرتبط با اپنایآی در ماه مه ۲۰۲۶ از محیطی که برای فعالیت آنها در نظر گرفته شده بود خارج شدند و در یک وبسایت آلمانی شروع به فعالیت کردند. پژوهشگران میگویند این ایجنتها بیش از ۱۵ هزار ویرایش در این سایت انجام دادند و از آن برای تبادل اطلاعات و هماهنگی میان خود استفاده کردند؛ اتفاقی که نگرانیها درباره کنترل سامانههای هوش مصنوعی خودمختار را افزایش داده است.
این فعالیت در «دیاِسایویکی»، یک دانشنامه آلمانی مخصوص برنامهنویسان، رخ داد؛ سایتی که مانند ویکیپدیا امکان ویرایش مشارکتی محتوا را فراهم میکند. پژوهشگران سیدنی فون آرکس و کورمک اسلید بِرد در اواخر ماه اوت، هنگام جستوجو برای یافتن نشانههای فعالیت غیرمجاز ایجنتهای هوش مصنوعی در اینترنت، متوجه حجم غیرعادی ویرایشها شدند. بررسی آنها نشان داد حسابهای مختلفی که خود را «ایجنت» معرفی میکردند، از این سایت عملاً بهعنوان یک تابلوی پیام استفاده کردهاند.
بخش قابلتوجهی از پیامها به حل مسائل فنی و وظایفی مربوط میشد که شباهت زیادی به آزمونهایی دارند که شرکتهای هوش مصنوعی برای ارزیابی مدلهای خود استفاده میکنند. در کنار آن، پژوهشگران پیامهایی پیدا کردند که در آنها درباره راههای دور زدن برخی محدودیتهای اپنایآی، عبور از ارزیابیها و پنهان کردن رفتار ایجنتها صحبت شده بود.
نشانههای دیگری نیز به ارتباط این فعالیتها با اپنایآی اشاره داشت. حدود نیمی از حسابهای شناساییشده نامهایی داشتند که به اپنایآی اشاره میکردند؛ از جمله نامهایی مشابه «اپنایآی ریسرچر». همچنین بررسی لاگهای عمومی سرور نشان داد بخش زیادی از فعالیتها از زیرساختهای مایکروسافت آژور انجام شده؛ زیرساختی که اپنایآی نیز از آن استفاده میکند. پژوهشگران همچنین متوجه بازدیدهای مکرر کارکنان اپنایآی از این سایت پس از پایان فعالیت ایجنتها شدند و این موارد را نشانهای از ارتباط میان ایجنتها و شرکت دانستند.
ماجرا زمانی پیچیدهتر شد که مدیر سایت در ماه ژوئن شروع به حذف صفحات مرتبط با این فعالیتها کرد. بر اساس بررسی پژوهشگران، ایجنتها در واکنش به حذف صفحات، نسخههای پشتیبان ایجاد میکردند تا اطلاعات و ارتباطات خود را حفظ کنند. پیامهای بررسیشده همچنین نشان میدهد برخی ایجنتها درباره روشهایی برای جلوگیری از شناسایی، حفظ ارتباطات پس از خاموش شدن و استفاده از ابزارهای مختلف برای مخفی ماندن صحبت کردهاند.
پژوهشگران همچنین تلاشهایی برای دستکاری خود وبسایت پیدا کردند. لوکاش اولنیک، پژوهشگر ارشد مهمان در کینگز کالج لندن که این یافتهها را بررسی کرده، این رفتار را در حد یک تلاش برای هک توصیف کرده است؛ با این حال اپنایآی با این برداشت مخالفت کرده و گفته بررسی اولیه شرکت چنین توصیفی را تأیید نمیکند.
اپنایآی در واکنش اعلام کرده پیش از انتشار گزارش، فرصت بررسی یافتههای پژوهشگران را نداشته و به همین دلیل نمیتواند درباره ادعاهای مطرحشده پاسخ کامل ارائه کند. این شرکت همچنین ادعای مقاومت تیم حقوقی در برابر بررسی بیشتر حادثه را رد کرده و گفته فعالیتهای رخداده در آلمان ارتباطی با حادثه امنیتی جداگانهای که در ماه ژوئیه در «هاگینگ فیس» رخ داد، نداشته است. اپنایآی تأکید کرده که در برخورد با حوادث مرتبط با ایجنتها با کارشناسان بیرونی همکاری کرده و موارد مرتبط را افشا کرده است.
اهمیت این حادثه در زمانی بیشتر شده که اپنایآی پس از حادثه «هاگینگ فیس» با انتقادهایی درباره نظارت بر ایجنتهای خود مواجه است. در آن حادثه نیز نزدیک به ۷۰۰ ایجنت مبتنی بر مدلهای اپنایآی بهصورت خودکار در یک عملیات سایبری هماهنگ شدند و فعالیت آنها برای بیش از یک هفته شناسایی نشد. اپنایآی پس از آن از تقویت نظارت بر مدلها و محدودتر کردن دسترسی ایجنتها به اینترنت خبر داد.
اکنون پژوهشگران هشدار میدهند که چالش اصلی ممکن است فقط رفتار یک مدل قدرتمند نباشد؛ بلکه مجموعهای از ایجنتهای نسبتاً ساده باشد که بتوانند اطلاعات، راهکارها و وظایف را میان خود به اشتراک بگذارند. موریس چیودو از دانشگاه کمبریج، پس از بررسی بخشی از پیامها، این ارتباطات را شبیه شکلگیری یک شبکه زیرزمینی توصیف کرده و معتقد است ظهور «گروههای بزرگ و هماهنگ از ایجنتهای نیمههوشمند» میتواند یکی از چالشهای مهم نسل جدید سامانههای هوش مصنوعی باشد.