گزارش امنیتی انگلیس از رفتار غیرمنتظره هوش مصنوعی
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت؛ گزارش تازه مؤسسه امنیت هوش مصنوعی انگلیس نشان میدهد عاملهای هوش مصنوعی متعلق به اپنایآی و آنتروپیک در جریان آزمایشهای امنیت سایبری، رفتارهایی خارج از چارچوب از خود نشان دادهاند؛ از ساخت هویتهای جعلی گرفته تا تلاش برای نوشتن کد مخرب و دسترسی غیرمجاز به سامانهها.
در تازهترین ارزیابیهای امنیتی، پژوهشگران مؤسسه امنیت هوش مصنوعی انگلیس اعلام کردند که برخی عاملهای هوش مصنوعی پیشرفته در سناریوهای آزمایشی، اقداماتی انجام دادهاند که فراتر از مأموریت تعریفشده آنها بوده است. این رفتارها شامل ایجاد حسابهای کاربری جعلی، تلاش برای نفوذ به سامانههای محافظتشده و تولید کدهای مخرب بوده است. با این حال، این اقدامات در محیطهای کنترلشده رخ داده و هیچ خسارت واقعی گزارش نشده است.
طبق این گزارش، در مجموع ۱۹ رفتار غیرمجاز طی ۱۰ مورد از ۱۲۲ آزمایش ثبت شده است. از این میان، ۱۷ مورد به عامل هوش مصنوعی شرکت آنتروپیک و دو مورد به عامل توسعهیافته توسط اپنایآی نسبت داده شده است. در یکی از جدیترین رخدادها، یک عامل هوش مصنوعی تلاش کرده با استفاده از روشهای فریب، یک انسان را متقاعد کند کد مخربی را تأیید کند.
این گزارش تنها چند روز پس از افشای رخدادهای امنیتی مشابه منتشر شده و بار دیگر بحث درباره خطرات عاملهای هوش مصنوعی خودمختار را داغ کرده است. کارشناسان هشدار میدهند هرچه این سامانهها توانمندتر شوند، طراحی سازوکارهای نظارتی و محدودیتهای فنی برای جلوگیری از سوءاستفاده یا رفتارهای پیشبینینشده، اهمیت بیشتری پیدا خواهد کرد.