هوش مصنوعی؛ قدرت نوظهور و تهدیدات پنهان

به گزارش پایگاه خبری پایداری ملی، نخستین همایش ملی «هوش مصنوعی، فرهنگ و رسانه» از سوی دانشگاه صداوسیما و مرکز طرح، برنامه و بودجه رسانه ملی برگزار شد. هدف از برگزاری این همایش بررسی ابعاد مختلف تأثیر هوش مصنوعی بر حوزه‌های فرهنگ و رسانه و همچنین سیاستگذاری، برنامه‌ریزی و راهبری محتوا در این حوزه با محوریت پژوهشکده سیاست‌گذاری و تنظیم‌گری رسانه بود. هوش مصنوعی و اقتصاد رسانه، هوش مصنوعی و مصرف اثر بخش محتوا، هوش مصنوعی، فرهنگ و علوم اسلامی، هوش مصنوعی در تولید محتوای حرفه‌ای و غیر حرفه‌ای، نقش علوم شناختی و هوش مصنوعی در تولید، مصرف و اثربخشی محتوا، حکمرانی فرهنگ و رسانه ملی و فراملی، هوش مصنوعی و جنگ ترکیبی با محوریت رسانه، آینده پژوهی، هوش مصنوعی و فرهنگ، هوش مصنوعی در رسانه‌ها (مکتوب، صدا پایه و دیداری، فضای مجازی)، هوش مصنوعی و تحول فناوری‌های رسانه‌ای، نقش هوش مصنوعی در رسانه‌های اجتماعی، نقشه راه سازمان‌های رسانه‌ای در بهره‌برداری از هوش مصنوعی، کاربرد هوش مصنوعی در سیاستگذاری و تنظیم گری رسانه، تعالی فرهنگی و هوش مصنوعی، رسانه پاک و هوش مصنوعی، هوش مصنوعی و جنگ روایت‌ها، مهم‌ترین محور‌های این همایش را به خود اختصاص داد.

در حاشیه این همایش دو روزه کارگاه‌های مختلفی برگزار شد. پنل تخصصی «هوش مصنوعی و پدافند غیرعامل» که با حضور، دکتر سیدمحمود محمدی، دستیار رئیس سازمان پدافند غیرعامل کشور، دکتر هادی کریمی نیسیانی، معاون فنی قرارگاه پدافند سایبری کشور، فلسطین یاوری نژاد محقق و پژوهشگر و فارغ التحصیل دکترای هوش مصنوعی از دانشگاه یو‌ام مالزی و دکتر نصر اصفهانی، مدیر گروه مطالعات اخلاقی پژوهشگاه شورای عالی فضای مجازی برگزار شد، حاضرین به بیان نکاتی پیرامون هوش مصنوعی و تاثیرات آن بر زیست بوم فرهنگی جامعه پرداختند.

در ابتدای همایش، دکتر سیدمحمود محمدی، دستیار رئیس سازمان پدافند غیرعامل کشور در حوزه هوش مصنوعی، به مرور تاریخچه این فناوری پرداخت و تهدیدات و مخاطرات هوش مصنوعی به صورت عمومی و تخصصی فرهنگ و رسانه آن را مورد نقد و بررسی قرار داد. وی گفت از سال ۲۰۱۱، تحولات چشمگیری در این حوزه شکل گرفته و اکثر ابزار‌ها و فناوری‌های نوین پس از آن توسعه یافته‌اند.

محمدی در ادامه ضمن تبیین انواع هوش مصنوعی و کاربرد‌های آن، به ضرورت زیرساخت‌های داده‌ای و امنیت سایبری اشاره کرد و هشدار داد: در صورت آسیب‌پذیری این زیرساخت‌ها، مخاطرات جدی در پیش خواهد بود.

وی همچنین به موضوعاتی مانند نقص در طراحی الگوریتم‌ها، وابستگی بیش از حد به داده‌های ناقص گذشته، و چالش‌های مربوط به مسئولیت خطا‌های سیستم‌های هوشمند پرداخت و گفت: در اتحادیه اروپا، موضوع مسئولیت‌پذیری در هوش مصنوعی مورد توجه قرار گرفته و بحث شده که در صورت بروز خطا، آیا دستگاه مقصر است یا فردی که داده‌ها را به آن داده؟

محمدی در ادامه به تهدیدات هوش مصنوعی در حوزه فرهنگ و رسانه با رویکرد پدافند غیرعامل اشاره کرد و گفت: یکی از تهدیدات مهم، نفوذ در فرهنگ عمومی و تغییر سبک زندگی مردم است. امنیت داده و تحریف واقعیت، به‌ویژه از طریق تولید محتوای جعلی، از چالش‌های مهم در این حوزه به شمار می‌آید.

ابعاد فنی هوش مصنوعی و زیرساخت‌های سایبری

در بخش دوم این نشست، هادی کریمی نیسیانی، معاون فنی قرارگاه پدافند سایبری کشور، به بررسی دقیق‌تر ابعاد فنی هوش مصنوعی و زیرساخت‌های سایبری پرداخت.
کریمی با اشاره به فرمایشات مقام معظم رهبری مبنی بر لزوم قرار گرفتن ایران در میان ۱۰ کشور برتر حوزه هوش مصنوعی، گفت: امید است بتوانیم این هدف راهبردی را محقق سازیم.

وی ابتدا به فناوری‌های نوینی مانند «یادگیری عمیق» (Deep Learning) پرداخت که در حوزه امنیت سایبری برای شناسایی تهدیدات پیچیده کاربرد فراوان دارند. سپس به تغییر ماهیت تهدیدات اشاره کرد و افزود: برخلاف گذشته که تهدیدات ساده و تصادفی بودند، اکنون حملات سایبری هدفمند، پیچیده و منعطف هستند و می‌توانند سال‌ها در زیرساخت‌ها پنهان بمانند.

او با تأکید بر وجود حملات پلیمورفیک (دارای رفتار متغیر در هر دستگاه) و بدافزار‌های ماندگار مانند «استاکس‌نت» و «بلک‌انرژی»، افزود: برای مقابله با چنین تهدیداتی، نیازمند الگوریتم‌ها و سیستم‌های هوشمندی هستیم که با همکاری تولیدکنندگان، سیاست‌گذاران و پژوهشگران توسعه یابند.

کریمی همچنین به خطرات ناشی از آسیب‌پذیری نرم‌افزار‌ها و استفاده از ابزار‌هایی مانند VPN‌های رایگان اشاره کرد که می‌توانند موجب تشکیل شبکه‌های بات‌نت شوند. این شبکه‌ها در زمان‌های مشخص، زیرساخت‌ها را هدف حمله قرار می‌دهند.

در پایان تأکید شد که برای بهره‌برداری مؤثر و مسئولانه از ظرفیت‌های هوش مصنوعی، درک صحیح از مفاهیمی مانند «اتوماسیون»، «هوشمندسازی» و «هوش مصنوعی واقعی» ضروری است و تنها از طریق آموزش، توسعه زیرساخت‌های امن، و سیاست‌گذاری مدبرانه می‌توان از فرصت‌های این فناوری بهره برد و با تهدیدات آن مقابله کرد.