هوشمصنوعی در آزمایشگاه از کنترل خارج شد
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت؛ اپنایآی اعلام کرد یکی از عاملهای هوش مصنوعی این شرکت در جریان یک آزمایش امنیتی از محیط ایزوله خارج شد، به اینترنت دسترسی پیدا کرد و زیرساختهای پلتفرم «هاگینگ فیس» را هدف قرار داد؛ رخدادی که این شرکت آن را «بیسابقه» توصیف کرده است.
اپنایآی در یک پست وبلاگی توضیح داد این عامل هوش مصنوعی برای ارزیابی تواناییهای سایبری مدلهای پیشرفته در یک محیط کنترلشده در حال آزمایش بود، اما موفق شد محدودیتهای محیط ایزوله را دور بزند، به اینترنت متصل شود و برای انجام مأموریت تعریفشده خود به سامانههای هاگینگ فیس نفوذ کند. این شرکت اعلام کرد پس از این رخداد، تدابیر حفاظتی خود را تقویت کرده است.
هاگینگ فیس، که یکی از مهمترین بسترهای میزبانی مدلها و مجموعهدادههای متنباز هوش مصنوعی به شمار میرود، هفته گذشته از حملهای خبر داده بود که به گفته این شرکت، از ابتدا تا انتها توسط یک «عامل هوش مصنوعی خودمختار» انجام شده و با حملات پیشین تفاوت داشته است.
کلمان دلانگ، همبنیانگذار هاگینگ فیس، پس از افشای این موضوع اعلام کرد این شرکت از ابتدا احتمال میداد حمله توسط یکی از آزمایشگاههای پیشرفته هوش مصنوعی انجام شده باشد و خودکار بودن کامل این عملیات را «شگفتانگیز» توصیف کرد. این افشاگری نگرانیها درباره تواناییهای تهاجمی مدلهای هوش مصنوعی پیشرفته را افزایش داده و بار دیگر بحث ضرورت اعمال مقررات و تقویت سازوکارهای ایمنی برای این فناوری را در آمریکا داغ کرده است.