سپر جدید انویدیا برای مهار هوشمصنوعی سرکش
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت: انویدیا مجموعهای از ابزارهای نرمافزاری جدید را برای افزایش امنیت ایجنتهای هوش مصنوعی عرضه کرده است؛ فناوریهایی که با هدف محدودکردن فعالیت ایجنتها، شناسایی رفتارهای غیرعادی و جلوگیری از خروج آنها از محیط کنترلشده طراحی شدهاند.
این اقدام در شرایطی انجام شده که ایجنتهای هوش مصنوعی دیگر فقط برای پاسخدادن به پرسشها استفاده نمیشوند و میتوانند وظایف پیچیده را بهصورت خودکار انجام دهند. همین قابلیت، در صورت وجود دسترسیهای گسترده، میتواند دامنه پیامدهای یک رفتار خارج از کنترل را افزایش دهد.
یکی از ابزارهای اصلی این مجموعه اوپنشل نام دارد. این سامانه از قابلیتهای سختافزاری تراشههای پردازنده انویدیا برای قرار دادن ایجنتها در یک محیط محدود استفاده میکند. انویدیا همچنین اعلام کرده است برای اجرای این سیستم روی پردازندههای شرکتهای دیگر، با آرم و اینتل همکاری میکند.
ابزار دیگری با نام سنتری در کنار اوپنشل قرار میگیرد. سنتری از یک تراشه جداگانه انویدیا استفاده میکند و در صورت تلاش یک ایجنت برای خروج از محیط محصورشده، میتواند فعالیت آن را قطع کند. به این ترتیب، لایه امنیتی جداگانهای برای جلوگیری از ادامه فعالیت یک ایجنت خارج از محدوده تعیینشده ایجاد میشود.
انویدیا میگوید سیستمهای جدید فقط رفتار یک ایجنت را زیر نظر نمیگیرند و میتوانند تلاش برای دورزدن محدودیتها را نیز شناسایی کنند. برای نمونه، اگر یک ایجنت برای عبور از محدودیتها چند ایجنت فرعی ایجاد کند، ابزارهای امنیتی جدید میتوانند چنین الگویی را تشخیص دهند.
این قابلیتها پس از حملهای به هاگینگفیس اهمیت بیشتری پیدا کردهاند. ایجنتهای سرکش متعلق به اپنایآی در این رخداد نقش داشتند. جاستین بوییتانو، معاون انویدیا، گفته است ابزارهای جدید این شرکت میتوانستند در صورت استفاده در مراحل اولیه ارزیابی مدلها در آزمایشگاههای پیشرفته، از این نفوذ جلوگیری کنند.
انویدیا این ابزارها را با همکاری دهها شریک از جمله آنتروپیک عرضه کرده است. این اقدام همچنین در شرایطی انجام میشود که اپنایآی و آنتروپیک در حال بررسی موارد متعددی از ورود ایجنتهای هوش مصنوعی به سامانههای تجاری و دولتی هستند.
در نگاه انویدیا، مسئله اصلی ایجاد سازوکارهای فنی برای کنترل ایجنتهایی است که میتوانند مجموعهای از اقدامات را بهصورت مستقل انجام دهند. ابزارهای جدید این شرکت تلاش میکنند این کنترل را از سطح نرمافزار فراتر ببرند و با استفاده از لایههای سختافزاری، امکان قطع فعالیت ایجنت در شرایط غیرعادی را نیز فراهم کنند.