خطری جدید در معادلات جنگ/ هوش مصنوعی در برابر فریب؛ چه کسی در این بازی برنده خواهد شد؟

فریب در عصر داده های بزرگ؛ گول زدن مغز و ماشین
به گزارش پایداری ملی به نقل از عصرایران، گفته دو افسر ارتش آمریکا، عملیات موفقیت آمیز اکنون باید نه تنها فرماندهان انسانی، بلکه هوش مصنوعی مشاور آنها را نیز فریب دهد. و روسیه و چین - با ساختار فرماندهی و کنترل متمرکز و سختگیرانه خود - اگر هوش مصنوعی آنها فریب بخورد، ممکن است به طور ویژه ای آسیب پذیر باشند.

مارک اسکیو و آنتونیو سالیناس در مقاله ای برای موسسه جنگ مدرن در وست پوینت استدلال می کنند: "فرماندهان دیگر نمی توانند به روش های سنتی فریب مانند پنهان کردن نقل و انتقالات نیرو یا تجهیزات متکی باشند. در عوض، شکل دادن به ادراکات در محیط های مملو از حسگر، نیازمند تغییری در تفکر است - از پنهان کردن اطلاعات تا دستکاری نحوه تفسیر آن توسط دشمن، از جمله سیستم ها و ابزارهای هوش مصنوعی."

از لحاظ تاریخی، فرماندهان تلاش زیادی می کردند تا با استفاده از گمراهی، ارتش های طعمه و درز دادن نقشه های جنگی نادرست، فرماندهان دشمن را فریب دهند. این مقاله می گوید: "امروزه، کشورها باید بر تغذیه کردن دشمنان با داده های دقیق اما گمراه کننده که می تواند تفسیر آنها از اطلاعات را دستکاری کرده و فعالیت آنها را منحرف کند، تمرکز کنند."

ایده این است که هوش مصنوعی را به پاشنه آشیل فرمانده دشمن و ستادهایش تبدیل کنیم. این مقاله پیشنهاد می کند که این کار با بی اثر کردن سیستم های هوش مصنوعی آنها و از بین بردن اعتمادشان به آن سیستم ها و ابزارها انجام می شود.

فرماندهان می توانند سیستم های هوش مصنوعی را با سیگنال های نادرست غرق کرده و داده های غیرمنتظره یا جدیدی به آنها ارائه دهند؛ ابزارهای هوش مصنوعی در تشخیص الگوها عالی هستند، اما در درک چگونگی اطلاع رسانی یا تغییر زمینه یک وضعیت توسط متغیرهای جدید (خارج از داده های آموزشی آنها) مشکل دارند.

به عنوان نمونه، اسکیو و سالیناس گفتند: "تغییرات جزئی در ظاهر یک پهپاد ممکن است باعث شود هوش مصنوعی آن را اشتباه شناسایی کند. احتمالاً افراد با تغییرات کوچک یا ظریف فریب نمی خورند، اما هوش مصنوعی اینگونه نیست."

هوش مصنوعی؛ سلاحی دو لبه در زرادخانه فریب نظامی
ارتش های مدرن امروزی برای تعیین اهداف دشمن یا هدف قرار دادن سلاح ها، به مقادیر عظیمی از داده ها از منابع مختلف، از پهپادها و ماهواره ها گرفته تا گشت های پیاده نظام و سیگنال های رادیویی رهگیری شده، متکی هستند. این اطلاعات آنقدر زیاد است که می تواند تحلیلگران انسانی را درمانده کند.

آنچه هوش مصنوعی را بسیار جذاب می کند، سرعت آن در تجزیه و تحلیل مقادیر زیادی از داده ها است. این امر برای شرکت هایی مانند اسکیل ای آی (Scale AI)، که قراردادهای پرسودی با پنتاگون منعقد کرده اند، یک مزیت بزرگ بوده است.

با این حال، قدرت هوش مصنوعی، آسیبی را که می تواند وارد کند نیز بزرگتر می کند. اسکیو و سالیناس گفتند: "هوش مصنوعی می تواند پاسخ های معیوب را بسیار سریع تر از انسان ها به تنهایی هماهنگ و اجرا کند."

"فریب هوش مصنوعی می تواند به تخصیص نادرست منابع دشمن، تأخیر در پاسخ ها، یا حتی حوادث شلیک به نیروهای خودی منجر شود، اگر هوش مصنوعی اهداف را اشتباه شناسایی کند. با تغذیه داده های نادرست، می توان ادراک دشمن از میدان نبرد را دستکاری کرد و فرصت هایی برای غافلگیری ایجاد کرد."

روسیه و چین در برابر فریب هوش مصنوعی
روسیه و چین در حال حاضر تلاش های زیادی را برای توسعه هوش مصنوعی نظامی اختصاص داده اند. روسیه از هوش مصنوعی در پهپادها و جنگ سایبری استفاده می کند، در حالی که ارتش چین از سیستم دیپ سیک (DeepSeek) برای برنامه ریزی و تدارکات استفاده می کند.

اما ساختار فرماندهی سختگیرانه روسیه و چین، هرگونه اتکا به هوش مصنوعی را به یک نقطه ضعف تبدیل می کند. نویسندگان مقاله گفتند: "در چنین سیستم هایی، تصمیمات اغلب به شدت به جریان اطلاعات از بالا به پایین متکی هستند، و اگر هوش مصنوعی در بالا با داده های فریبنده تغذیه شود، می تواند منجر به قضاوت های اشتباه گسترده شود. افزون بر این، ساختارهای متمرکز ممکن است فاقد انعطاف پذیری لازم برای تطبیق سریع یا تأیید متقابل اطلاعات باشند، و اگر نتوانند از سیستم های خود محافظت کنند، در برابر فریب آسیب پذیرتر خواهند بود."

به عبارت دیگر، تصاویر نادرست به حسگرهای دشمن، مانند دوربین های فیلمبرداری، داده می شود تا هوش مصنوعی را وادار به نتیجه گیری اشتباه کند و در نتیجه، فرمانده انسانی را بیشتر کور کند.

طبیعتاً، چین و روسیه - و دیگر دشمنان - به دنبال بهره برداری از نقاط ضعف هوش مصنوعی آمریکا خواهند بود. از این رو، ارتش آمریکا باید اقدامات احتیاطی، مانند محافظت از داده هایی که هوش مصنوعی آن را تغذیه می کنند، انجام دهد.

در هر صورت، حضور دائمی پهپادها در اوکراین نشان می دهد که مانورهای گسترده و حملات غافلگیرانه در حال تبدیل شدن به یادگارهای گذشته هستند. اما همانطور که مقاله اخیر اشاره می کند، نظارت می تواند قدرت دشمن را تعیین کند، اما نه قصد دشمن را.

این مقاله می گوید: "این بدان معناست که فریب باید بر شکل دادن به آنچه دشمن فکر می کند در حال وقوع است تمرکز کند، نه اجتناب کامل از شناسایی. فرماندهان با ایجاد یک روایت فریبنده باورپذیر - از طریق سیگنال ها، ستادهای فرماندهی جعلی و گمراهی لجستیکی - می توانند هوش مصنوعی دشمن و تصمیم گیرندگان انسانی را به اتخاذ تصمیمات بی اثر سوق دهند."

درس هایی از تاریخ برای جنگ های آینده
درست مانند هر کلاهبرداری دیگری، فریب نظامی زمانی مؤثرتر است که باورهای قبلی دشمن را تقویت کند. این مقاله به نبرد کانای (the Battle of Cannae) در سال ۲۱۶ پیش از میلاد اشاره می کند، زمانی که ارتش روم تقریباً توسط کارتاژ نابود شد.

مشکل اطلاعات نبود: رومی ها می توانستند نیروهای کارتاژی را که برای نبرد آرایش گرفته بودند، ببینند. اما هانیبال، فرمانده افسانه ای کارتاژ، فرماندهان رومی را فریب داد تا باور کنند مرکز جبهه کارتاژ ضعیف است. هنگامی که رومی ها به مرکز حمله کردند، سواره نظام کارتاژ از جناحین در یک مانور گازانبری حمله کرد که به محاصره و نابودی لژیون ها منجر شد.

دو هزار سال بعد، متفقین از عملیات های فریب پیچیده ای استفاده کردند تا آلمانی ها را در مورد محل وقوع حمله روز دی (D-Day) فریب دهند. هیتلر و ژنرال هایش معتقد بودند که حمله آبی خاکی در منطقه کاله، نزدیک ترین منطقه به بنادر و پایگاه های هوایی متفقین، رخ خواهد داد، نه منطقه دورتر نرماندی. ارتش های جعلی در بریتانیا، به همراه تانک ها و هواپیماهای ساختگی، نه تنها آلمانی ها را متقاعد کردند که کاله هدف واقعی است، بلکه فرماندهی عالی آلمان معتقد بود که فرود در نرماندی یک عملیات دروغین است، و از این رو پادگان های قوی را در کاله برای دفع حمله ای که هرگز رخ نداد، حفظ کرد.

پهپادها و ماهواره ها اطلاعات میدان نبرد را به حدی بهبود بخشیده اند که هانیبال هرگز نمی توانست تصور کند. هوش مصنوعی می تواند مقادیر زیادی از داده های حسگر را غربال کند. اما هنوز هم مه جنگ وجود دارد. مقاله اخیر نتیجه می گیرد: "هوش مصنوعی هرج و مرج، فریب و عدم قطعیت جنگ را از بین نخواهد برد - بلکه فقط نحوه ظهور این عوامل را تغییر خواهد داد. در حالی که سیستم های اطلاعاتی، نظارتی و شناسایی ممکن است وضوح مقطعی ارائه دهند، اما هرگز درک کامل و بی درنگ از قصد ارائه نخواهند کرد."