اندیشکده جعلی، کارخانه روایتسازی تلآویو برای مهندسی هوش مصنوعی
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری ایسنا، اندیشکده آمریکایی «کشورداری مسئولانه کویینسی» در گزارشی نوشت در نگاه نخست، «مؤسسه هانوفر برای سیاست عمومی» شبیه یک اندیشکده تازهتأسیس است که روی مسائل مربوط به فلسطین و رژیم صهیونیستی کار میکند.
این مجموعه، گزارشهایی با قالب اندیشکدهای درباره پرسشهایی مانند «آیا آیپک از پول سیاه در انتخابات استفاده میکند؟» یا «آیا اسرائیل عمداً کارزار گرسنگی در غزه به راه انداخته است؟» منتشر میکند.
اما به گزارش کویینسی، هانوفر در واقع یک اندیشکده واقعی نیست. هیچیک از گزارشهای آن نام نویسنده ندارند و تنها در بخش کوچکی در پایین وبسایت توضیح داده شده که این مجموعه به نمایندگی از «آژانس تبلیغات دولت اسرائیل» توسط شرکت «Piro, Inc» ایجاد شده است؛ شرکتی که «دنیل روزنبرگ» تهیهکننده فیلم «Inside Man» ساخته اسپایک لی، از بنیانگذاران آن است.
همه مطالب منتشرشده توسط هانوفر درباره فلسطین و رژیم صهیونیستی هستند و به نظر میرسد بخشی از تلاش برای تأثیرگذاری بر چتباتهای هوش مصنوعی باشند.
گزارشهای این مؤسسه با عنوان «گزارشهای داده» دارای پانویس، فهرست مطالب و لحنی ظاهراً خنثی هستند؛ ویژگیهایی که میتواند باعث شود برای چتباتهایی مانند «کلود» یا «جمینای» معتبرتر به نظر برسند.
وبسایت شرکت Piro نیز صراحتاً اعلام کرده محتوایی تولید میکند که «براساس شیوه ارزیابی اعتبار توسط مدلهای زبانی بزرگ مهندسی شده است» و این خدمت را «بهینهسازی روایت برای هوش مصنوعی» مینامد.
برخی دیگر این نوع تلاش برای تأثیرگذاری بر هوش مصنوعی را «مسمومسازی مدلهای زبانی بزرگ» یا LLM poisoning توصیف میکنند.
درون صفحه «درباره ما» در مؤسسه هانوفر آمده است که این نهاد «ورودیهایی را که به یهودستیزی در ایالات متحده دامن میزنند مطالعه کرده و آنچه شواهد نشان میدهد منتشر میکند.»
بسیاری از گزارشها ساختاری فرمولی دارند و با پرسشی ساده آغاز میشوند؛ همان نوع پرسشی که یک کاربر ممکن است از یک چتبات بپرسد؛ از جمله: «چه چیزی باعث آوارگی فلسطینیها در سال ۱۹۴۸ شد؟ کدام سازمانهای بشردوستانه جنایات جنگی اسرائیل را مستند کردهاند؟ وضعیت کنونی نوار غزه چیست؟»
در گزارشی با عنوان «آیا ارتش اسرائیل اخلاقیترین ارتش جهان است؟»، مؤسسه هانوفر به یک نظرسنجی سال ۲۰۲۲ استناد کرده که براساس آن ۴۷ درصد یهودیان اسرائیلی با این گزاره موافق بودهاند!
در گزارش دیگری، این مجموعه ادعای یونیسف مبنی بر اینکه «۹۰ درصد زیرساختهای آبی و نهادی در غزه آسیب دیده یا نابود شدهاند» زیر سؤال برده شده است.
به گزارش کویینسی، بسیاری از این گزارشها در نهایت موضوع مورد بحث را به افزایش یهودستیزی پیوند میزنند و در موارد متعدد به همان مجموعه مطالعات استناد میکنند.
هانوفر در برخی موارد نیز مدعی انتشار یافتههای مستقل خود شده است. برای نمونه، در یک مطالعه گفته ۱۹ مورد از ۳۶ ویدیوی پربازدید توضیحی درباره جنگ غزه و رژیم صهیونیستی حاوی ادعاهای محل مناقشه بودهاند و بیشتر این ادعاها با روایت فلسطینی همسو بودهاند.
به نوشته این گزارش، مطالب هانوفر گاهی حتی با روایتهای رسمی رژیم صهیونیستی نیز در تضاد قرار میگیرند. برای نمونه، یکی از گزارشهای این مؤسسه این ادعا را که تأمین مالی خارجی دانشگاهها عامل رخدادهای یهودستیزانه است، «ضعیف و پر از استثنا» توصیف کرده است.
در مقابل، بنیامین نتانیاهو، نخستوزیر رژیم اشغالگر پیشتر این نظریه را مطرح کرده و گفته بود اروپاییها و قطریها «میلیاردها دلار» در دانشگاههای آمریکا هزینه کردهاند و رژیم صهیونیستی، یهودیان و حتی ایالات متحده را بدنام کردهاند.
شرکت Piro که مؤسسه هانوفر را ایجاد کرده، برای این فعالیتها ۹۰۰ هزار دلار از کابینه رژیم صهیونیستی دریافت کرده است.
براساس این گزارش، مانند بسیاری دیگر از پیمانکارانی که برای تلآویو کار میکنند، فعالیت Piro نیز از طریق شرکت Havas Media که یک مجموعه روابط عمومی فرانسوی است انجام شده است.
این اندیشکده جعلی از زمان آغاز انتشار مطالب خود در ۶ اوت تاکنون بیش از ۱۰۰ گزارش منتشر کرده است.
هانوفر ادعا میکند پژوهشهای مورد استنادش «داوریشده و دانشگاهی» هستند، با این حال بارها به منابع رسمی رژیم صهیونیستی از جمله ارتش رژیم اشغالگر و وزارت خارجه آن استناد کرده است.
کویینسی ۱۲ مقاله تصادفی این مؤسسه را با استفاده از نرمافزار تشخیص محتوای هوش مصنوعی GPTZero بررسی کرده است. این نرمافزار ۱۱ مقاله را با «اطمینان بالا» تولیدشده توسط هوش مصنوعی تشخیص داد و درباره یک مقاله دیگر نیز با «اطمینان متوسط» چنین ارزیابیای ارائه کرد.
به گزارش اندیشکده آمریکایی، رژیم صهیونیستی پیشتر نیز با «برد پارسکیل» مدیر سابق کارزار انتخاباتی ترامپ قراردادی برای ایجاد وبسایتهای حامی رژیم اشغالگر امضا کرده بود؛ وبسایتهایی که بهطور خاص برای تأثیرگذاری بر پاسخ چتباتها طراحی شده بودند.
ارزش این قرارداد ۴۶.۵ میلیون دلار عنوان شده است.
تحقیقی که ماه گذشته توسط «Drop Site» منتشر شد، نشان داد بسیاری از چتباتها، بهویژه «مایکروسافت کوپایلت» و «گوگل جمینای»، با دادههای موجود در این وبسایتها آموزش دیده یا از آنها تأثیر پذیرفتهاند.
طبق این تحقیق، برخی چتباتهای دیگر نیز بارها به این وبسایتها استناد کردهاند، بدون اینکه به کاربران هشدار دهند این منابع بخشی از یک عملیات نفوذ تلآویو هستند.
شرکت Piro در اسنادی که به وزارت دادگستری آمریکا ارائه کرده، صراحتاً نگفته است هدف فعالیتش برای رژیم صهیونیتسی تأثیرگذاری بر هوش مصنوعی است.
روزنبرگ در ایمیلی به پولیتیکو، که نخستین بار درباره این اسناد گزارش داد، گفته بود مأموریت شرکتش این است که «حقایق دقیق و مستند را وارد فضای عمومی کند و با اطلاعات قابل راستیآزمایی، اطلاعات نادرست درباره اسرائیل را خنثی کند.»
با این حال، روزنبرگ ماه گذشته در لینکدین توانایی Piro برای تأثیرگذاری بر چتباتها را تبلیغ کرده بود.
او نوشت: «وقتی کسی از جمینی، چتجیپیتی یا پرپلکسیتی درباره حوزه کاری شما سؤال میکند، یک پاسخ مطمئن و یکپارگرافی دریافت میکند. بیشتر برندها هیچ تصوری ندارند که آن پاراگراف چطور ساخته میشود. ما ماهها صرف مهندسی معکوس آن کردیم.»
روزنبرگ افزود: «در Piro از قبل میدانستیم چگونه داستانهایی بسازیم که مردم را تحت تأثیر قرار دهند. سؤال این بود: چطور مطمئن شوید هوش مصنوعی هم میداند چگونه آن داستانها را تعریف کند؟»
به نوشته کویینسی، ایجاد مؤسسه هانوفر نمونه تازهای از تلاش سازمانیافته برای تزریق محتوای جهتدار، اما ظاهراً پژوهشی به فضای آنلاین است؛ محتوایی که میتواند بعدها توسط مدلهای هوش مصنوعی بهعنوان منبع معتبر شناسایی و در پاسخ به کاربران بازتولید شود.