به گزارش پایگاه اطلاع رسانی پایداری ملی، نخستین همایش ملی هوش مصنوعی و کاربردهای آن در پدافند غیرعامل و افتتاحیه دبیرخانه هوش مصنوعی در سازمان پدافند غیر عامل از سوی سازمان پدافند غیرعامل با همکاری دانشگاه عالی دفاع ملی در محل این دانشگاه با حضور سردار دکتر غلامرضا جلالی رئیس سازمان پدافند غیرعامل کشور، حجت الاسلام و المسلمین دکترسید سعیدرضا عاملی؛ عضو شورای عالی انقلاب فرهنگی، سردار اسماعیل احمدی مقدم، رئیس دانشگاه عالی دفاع ملی، محمد سعید سرافراز، رئیس سازمان ملی هوش مصنوعی و جمعی از اساتید دانشگاه، نخبگان و صاحب نظران در حوزه هوش مصنوعی برگزار شد.
دکتر رسول لطفی، معاون فناوری اطلاعات بانک مسکن در این همایش در سخنانی به تهدیدات و مخاطرات هوش مصنوعی پرداخت و گفت: توسعه هر سیستمی همواره همراه با ظهور تهدیدات جدید است. این موضوع به‌ویژه در زمینه هوش مصنوعی که به‌سرعت در حال رشد و پیشرفت است، بسیار مشهود است. همان‌طور که هوش مصنوعی امکانات و قابلیت‌های جدیدی ارائه می‌دهد، هم‌زمان زمینه‌ساز تهدیدات نوینی نیز می‌شود.
وی در ادامه به چالش‌های امنیتی هوش مصنوعی پرداخت و اظهار داشت: امروزه شاهد پیشرفت حملات فیشینگ هوشمند هستیم که با استفاده از اطلاعات فردی، حملاتی شخصی‌سازی‌شده طراحی می‌کنند. همچنین چت‌بات‌های پیشرفته در پلتفرم‌هایی مانند تلگرام می‌توانند حملات هدفمند و دقیق ایجاد کنند.
لطفی بدافزار‌های هوشمند را یکی دیگر از چالش‌های امنیتی هوش مصنوعی دانست و توضیح داد: بدافزار‌های مبتنی بر هوش مصنوعی به‌گونه‌ای عمل می‌کنند که رفتار خود را متناسب با سیستم دفاعی تغییر دهند. این بدافزار‌ها حتی می‌توانند بدون ذخیره در سیستم، از طریق حافظه رم عمل کنند و شناسایی آن‌ها بسیار دشوار است.
وی از تهدیدات اجتماعی و فرهنگی به عنوان یکی دیگر از چالش‌های امنیتی هوش مصنوعی یاد و خاطرنشان کرد: الگوریتم‌های توصیه‌گر شبکه‌های اجتماعی می‌توانند موجب گسترش خشونت یا افکار رادیکال شوند. همچنین، دسترسی محدود به داده‌ها و سوگیری‌های الگوریتمی می‌تواند تفکرات فرهنگی و ایدئولوژیک ما را تهدید کند.
به گفته معاون فناوری اطلاعات بانک مسکن، هوش مصنوعی به‌عنوان ابزاری برای جاسوسی صنعتی، مزیت‌های رقابتی شرکت‌ها را هدف قرار می‌دهد. داده‌های سرقت‌شده می‌توانند برای تقویت رقابت در بازار‌های جهانی و حتی اعمال تحریم‌های اقتصادی علیه کشور‌ها استفاده شوند.
لطفی در خصوص راهکار‌های مقابله با این چالش‌ها نیز توضیح داد: با روند کنونی رویکرد‌های سنتی پدافند غیرعامل دیگر کارایی کافی ندارند و باید از مدل‌های دفاعی هوشمند و «هایپر اکتیو» استفاده کرد که توانایی پیش‌بینی و مقابله با تهدیدات را داشته باشند.
به گفته وی، تحقیقات نشان می‌دهد که هوش مصنوعی می‌تواند نه‌تن‌ها به ابزار، بلکه به یک خالق جدید تبدیل شود. اگرچه این فناوری فرصت‌های زیادی ایجاد می‌کند، اما لازم است به پیامد‌های آن در زمینه‌های اجتماعی، فرهنگی و امنیتی توجه بیشتری شود.
معاون فناوری اطلاعات بانک مسکن متذکر شد: همچنین، توسعه کامیونیتی‌های مستقل توسط هوش مصنوعی در بازی‌ها و محیط‌های مجازی نشان می‌دهد که این فناوری قادر است ساختار‌ها و ایدئولوژی‌های جدیدی خلق کند که ممکن است در آینده تأثیرات گسترده‌ای بر جوامع انسانی داشته باشد.