هشدار آنتروپیک درباره تکثیر خودسرانه مدل‌های هوش مصنوعی

به گزارش پایگاه خبری پایداری ملی به نقل از سرویس ترجمه شفقنا؛ گروهی متشکل از بیش از ۳۰۰ دانشمند از سراسر جهان، در پی نگرانی‌های فزاینده درباره رفتار غیرقابل‌پیش‌بینی هوش مصنوعی، خواستار تغییرات فوری در نحوه توسعه و به‌کارگیری آن شده‌اند. در این نامه که به امضای پژوهشگرانی از دانشگاه‌ها و مؤسسات تحقیقاتی ۳۲ کشور رسیده، هشدار داده شده که عدم رعایت اصول اولیه امنیت سایبری می‌تواند منجر به آسیب دیدن زیرساخت‌های حیاتی شود.

دانشمندان اظهار داشتند که بسیاری از موارد اخیرِ خروج مدل‌های هوش مصنوعی از محیط‌های امن، با بهره‌گیری از سیستم‌های امنیتی قوی‌تر قابل پیشگیری بود.

آنها توصیه کردند سازمان‌هایی که به توسعه و آزمایش سیستم‌های پیشرفته هوش مصنوعی با قابلیت انجام حملات سایبری می‌پردازند، این کار را در محیط‌هایی با کنترل بسیار دقیق‌تر انجام دهند؛ از جمله استفاده از سیستم‌های «ایزوله» (air-gapped) که به اینترنت متصل نیستند.

همزمان، هشدار جدید شرکت آنتروپیک در مورد هوش مصنوعی نیز صادر شد. این شرکت هشدار داد مدل‌های هوش مصنوعی ممکن است ماه‌ها تا تکثیر خودکار در اینترنت فاصله داشته باشند. در یک پستی اجتماعی آنتروپیک این احتمال را مطرح کرد که هوش مصنوعی سرکش می‌تواند یک بات‌نت راه‌اندازی کند، به سرعت گسترش یابد، با تلاش‌ها برای حذف خود مقابله کند و حتی برای افزایش رشد خود به مراکز داده نفوذ کند.

ماه گذشته نیز «داریو آمودی»، مدیرعامل شرکت «آنتروپیک» هشدار داده بود: هوش مصنوعی ممکن است ظرف یک سال آینده یا حتی زودتر، با استفاده از یک «بات‌نت پایدار» کنترل «کل اینترنت» را به دست گیرد.