اتکای بیش از حد به هوش مصنوعی کار مجرمان سایبری را آسان میکند
به گزارش پایگاه خبری پایداری ملی، اعتماد کورکورانه به هوش مصنوعی میتواند خطرات امنیت سایبری را به شکل قابل توجهی افزایش دهد.
امروزه، مهمترین نقاط ضعف امنیتی دیگر صرفاً در نرم افزار یا سخت افزار نیستند، بلکه در نحوه تعامل افراد، به ویژه با عوامل هوش مصنوعی، نهفتهاند.
قابلیتهای هوش مصنوعی با سرعت زیادی در حال توسعه است و این سیستمها اکنون میتوانند برنامه ریزی کنند، از APIها و ابزارهای کنترلی استفاده کنند و وظایف پیچیده را به صورت خودکار و بدون دخالت مستقیم انسان انجام دهند.
با این حال، این پیشرفتها خطر اتکای کامل به راحتی و بهره وری را نیز به همراه دارد.
به گفته یکی از متخصصان تحقیقات امنیتی کسپرسکی، در حالت ایده آل، هر مرحله از توسعه برنامههای هوش مصنوعی باید مورد بررسی قرار گیرد، اما نظارت واقعی بر این فرایندها اغلب به دلیل تمرکز بر سرعت و رعایت مهلتهای زمانی نادیده گرفته میشود. زمانی که اعتماد به هوش مصنوعی به اعتماد کورکورانه تبدیل شود، خطر قابل توجهی برای امنیت سایبری ایجاد خواهد شد.
مجرمان سایبری دیگر لزوماً نیازی به شناسایی پیچیدگیهای فنی برای اجرای حملات ندارند؛ بلکه میتوانند از اعتماد بیش از حد کاربران به هوش مصنوعی سوءاستفاده کنند.
این تهدید تنها کاربران را هدف قرار نمیدهد و به زیرساختهای اصلی شرکتهای فناوری که به نرم افزارهای متن باز وابسته هستند نیز گسترش مییابد. برنامه نویسان و عوامل هوش مصنوعی برای انجام وظایف خود به این نرم افزارها متکی هستند و همین وابستگی میتواند به نقطهای برای اجرای حملات تبدیل شود.
طبق گزارش کسپرسکی، ۳۱ درصد از شرکتها حملاتی را تجربه کردهاند که زنجیره تأمین آنها را هدف قرار داده است. یکی از نمونههای این حملات، حمله به کتابخانه جاوااسکریپت Axios بود که طی آن مهاجمان توانستند کنترل آن را به دست بگیرند و نسخهای مخرب از نرم افزار را مستقر کنند.
علاوه بر این، Kaspersky Container Security هزاران پیکربندی نادرست بالقوه را در جریان فرایندهای یکپارچه سازی و استقرار مداوم در پلتفرم GitHub Actions شناسایی کرده است.
تداوم این تهدیدها نشان میدهد که تأیید، بررسی و نظارت مستمر بر برنامهها و عوامل هوش مصنوعی برای حفظ ایمنی و امنیت آنها اهمیت زیادی دارد.