به گزارش پایداری ملی به نقل از کسپرسکی آنلاین با رشد قدرت رایانش، کامپیوتر‌ها یاد گرفتند ابتدا اجسام در تصاویر را از هم تمیز دهند و گیم Go را بهتر از انسان‌ها بازی کنند. سپس توانستند بر اساس توصیفات متنی تصاویری کشیده و چتی منسجم را حفظ کنند. پیشرفت‌های علمی‌در سال‌های ۲۰۲۱ و ۲۰۲۲ برای همه قابل دسترسی بود. برای مثال شما می‌توانید در MidJourney عضو شوید و فرضاً فوراً کتاب‌های خود را به تصویر بکشید و OpenAI نیز در نهایت از مدل زبان بزرگ GPT-۳ خود را از طریق ChatGPT در اختیار عموم مردم قرار داد. این بات در سایت chat.openai.com–جایی که می‌توانید خودتان ببینید چطور یک مکالمه منسجم حفظ می‌شود- موجود است و در واقع مفاهیم علمی‌پیچیده را بهتر از بسیاری از معلمین توضیح می‌دهد. هچنین به طور هنرمندانه‌ای متون را به زبان‌های مختلف برمی‌گرداند و قابلیت‌های بسیار دیگری نیز دارد.
اگر ChatGPT را به موارد ضروری خرد کنیم، مدل زبان مذکور روی مجموعه عظیمی‌از متون آنلاین آموزش داده می‌شود که از آن می‌تواند به یاد بیاورد چه کلماتی، جملاتی و پاراگراف‌هایی بیشتر با هم ترکیب می‌شوند و چطور با هم ارتباط دارند. این مدل به کمک چندین ترفند فنی و راند‌های اضافی آموزشی بویژه برای دیالوگ بهینه‌سازی می‌شود. از آنجایی که در اینترنت می‌توانید هر چیزی را به طور قطع پیدا کنید، این مدل فی‌الذات قادر است دیالوگ را عملاً در هر بستر و موضوعی پیش برده و حمایت کند. از فشن و مد گرفته تا تاریخ و هنر و برنامه‌ریزی و فیزیک کوانتوم! دانشمندان، ژورنالیست‌ها و صرفاً افراد مشتاق حتی برای ChatGPT کاربردهای دیگری نیز پیدا کرده‌اند. وبسایت Awesome ChatGPT لیستی دارد از فرمان‌ها (عباراتی برای شروع مکالمه با بات) که اجازه‌ی سوئیچ کردن ChatGPT را می‌دهد تا به سبک گاندالف یا هر شخصیت ادبی دیگری پاسخ دهد، با کد پیتون بنویسد، نامه‌های اداری و رزومه تولید کند و حتی از ترمینال لینوکس تقلید نماید. با این همه ChatGPT هنوز یک مدل زبان است پس همه موارد فوق چیزی بیش از ترکیب‌های کلمات نیستند- هیچ دلیل یا منطقی برای آن نیست. گاهی ChatGPT کاملاً چرند می‌گوید (مثل خیلی از انسان‌ها). برای مثال به مطالعات علمی‌که اصلاً وجود ندارد اشاره می‌کند. پس همیشه باید با محتوای ChatGPT با احتیاط برخورد کرد. با این حال حتی در فرم کنونی‌اش هم این بات را می‌توان در صنایع و پروسه‌های عملی به کار برد. در ادامه نمونه‌هایی از این بات را در بستر امنیت سایبری بررسی می‌کنیم.
ایجاد بدافزار
مجرمان سایبری تازه‌کار در تالار‌های گفت‌وگوی هکری زیرزمینی گزارش می‌دهند چطور برای ایجاد تروجان‌های جدید از ChatGPT استفاده می‌کنند. این بات می‌تواند کد بنویسد پس اگر به طور مختصر عملکرد مطلوب خود را شرح دادید (ذخیره همه پسورد‌ها در فایل X و ارسال از طریق HTTP POST به سرور Y) می‌توانید بدون داشتن مهارت برنامه‌نویسی (حتی ذره‌ای) یک سارق اطلاعات داده داشته باشید. با این حال کاربران صادق چیزی برای ترسیدن ندارند. اگر کد نوشته‌شده توسط بات دارد استفاده می‌شود، راهکار‌های امنیتی آن را طوری که انگار بدافزار ساخت دست انسان باشد با سرعت و به طور مؤثری شناسایی و خنثی می‌کنند. افزون بر این، اگر چنین کدی توسط برنامه‌نویس مجربی چک نشود، بدافزار احتمالاً حاوی خطا‌هایی جزئی و نواقص منطقی خواهد شد که این از کارا بودنش می‌کاهد. دست کم برای الان، بات‌ها فقط یارای رقابت با ویروس‌نویسان تازه‌کار را دارند.
تحلیل بدافزار
وقتی تحلیلگران InfoSec اپ‌های جدید مشکوک را بررسی می‌کنند، شبه‌کد یا کد ماشین را مهندسی معکوس می‌کنند و سعی دارند از ساز و کار آن سر دربیاورند. گرچه این کار می‌تواند تماماً به ChatGPT محول شود، اما این روبات چت همین الانش هم قادر است با سرعت وظیفه‌ی یک تکه کد خاص را توضیح دهد. همکار ما ایوان کیاتکوفسکی برای IDA Pro پلاگینی توسعه داده که دقیقاً همین کار را انجام می‌دهد. این مدل زبان در بنیادی‌ترین بخش‌های سازنده‌اش یک ChatGPT واقعی نیست بلکه پسرعمویش davinci-۰۰۳ است. اما در نظر داشته باشید که این یک تفاوت تماماً فنی است. برخی‌اوقات این پلاگین کار نمی‌کند یا خروجی‌اش افتضاح است، اما برای آن دسته از مواردی که خودکار نام‌های قانونی را برای کارکرد‌ها معین می‌کند و الگوریتم‌های رمزنگاری را در کد و پارامترهایشان شناسایی می‌نماید داشتنش در کیت‌بگ خالی از لطف نخواهد بود. این در شرایط SOC خودش را نشان می‌دهد، جایی که تحلیلگران دائماً باید حداقل زمان را به هر رخداد اختصاص دهند، بنابراین هر ابزاری برای سرعت بخشیدن به فرآیند مورد استقبال قرار می‌گیرد.
جست‌وجوی آسیب‌پذیری
سویه‌ی رویکرد فوق سرچ خودکار است برای کد آسیب‌پذیر. این چت‌بات شبه‌کدِ اپِ دی‌کامپایل‌شده را می‌خواند و جا‌هایی که ممکن است حاوی آسیب‌پذیری باشد را شناسایی می‌کند. افزون بر این، بات کد پیتون را که برای اکسپلویت آسیب‌پذیری (poc) طراحی شده ارائه می‌دهد. مطمئناً این بات می‌تواند هر نوع اشتباهی بکند (هم در بخش سرچ آسیب‌پذیری‌ها و هم نوشتن کد poc)، اما حتی در فرم کنونی‌اش هم این ابزار می‌تواند هم توسط مهاجمین هم مدافعین استفاده گردد.
مشاوره امنیتی
از آنجایی که ChatGPT می‌داند مردم در فضای انلاین در مورد امنیت سایبری چه می‌گویند، توصیه‌اش برای این بستر متقاعدکننده است. اما در مورد توصیه‌ی هر چت‌باتی هرگز نخواهید دانست دقیقاً از کجا آمده.
فیشینگ و دستکاری ایمیل سازمانی
متون مجاب‌کننده نقطه قوت GPT-۳ و ChatGPT هستند پس حملات خودکار اسپیر فیشینگ که از چت‌بات‌ها استفاده می‌کنند شاید همین الان هم دارند اتفاق می‌افتند. مشکل اصلی در مورد ایمیل‌های فیشینگ عمده این است که به نظر درست نمی‌آیند و کلی متن هست که ربطی به دریافت‌کننده ندارد. در مورد اسپیر فیشینگ: وقتی مجرم سایبری ایمیلی را به قربانی واحد می‌فرستند بسیار هزینه‌بردارتر است. از این رو فقط برای حملات هدف‌دار به کار می‌رود. ChatGPT طوری تنظیم شده که به شدت تعادل قدرتی را تغییر دهد، زیرا این به مهاجمین اجازه می‌دهد تا در مقایس صنعتی دست به تولید ایمیل‌های مجاب‌کننده وشخصی‌سازی‌شده بزنند. با این وجود برای اینکه ایمیلی همه اجزای لازم را داشته باشد چت‌بات اید دستورالعمل‌های جزئی‌ای را در اختیار داشته باشد.
اما حملات اصلی فیشینگ معمولاً شامل یک سری ایمیل‌ها می‌شود که هر کدام به تدریج اعتماد قربانی را جلب می‌کنند؛ بنابراین برای ایمیل‌های دوم، سوم و n امین، ChatGPT واقعاً در وقت مجرمان سایبری صرفه جویی می‌کند. از آنجایی که روبات چت زمینه مکالمه را به خاطر می‌آورد، ایمیل‌های بعدی می‌توانند به زیبایی از یک دستور بسیار کوتاه و ساده ساخته شوند. علاوه بر این، پاسخ قربانی می‌تواند براحتی به مدل داده شود و در چند ثانیه یک پیگیری قانع کننده ایجاد کند. از جمله ابزار‌هایی که مهاجمین می‌توانند استفاده کنند، مکاتبات سبک‌مند است. با توجه به نمونه کوچکی از یک سبک خاص، جعبه گفتگو به راحتی می‌تواند آن را در پیام‌های بعدی اعمال کند. این امکان ایجاد ایمیل‌های جعلی قانع‌کننده ظاهراً از یک کارمند به کارمند دیگر را فراهم می‌کند. متأسفانه، این بدان معنی است که تعداد حملات فیشینگ موفقیت آمیز افزایش خواهد یافت؛ و چت بات در ایمیل، شبکه‌های اجتماعی و پیام رسان‌ها به همان اندازه قانع کننده خواهد بود.
چگونه مبارزه کنیم؟
کارشناسان تحلیل محتوا به طور فعال در حال توسعه ابزار‌هایی هستند که متون چت بات را شناسایی می‌کنند. زمان نشان خواهد داد که این فیلتر‌ها چقدر موثر خواهند بود. اما در حال حاضر، ما فقط می‌توانیم دو نکته استاندارد خود (آموزش هوشیاری و آگاهی از امنیت سایبری) را به اضافه یک نکته جدید توصیه کنیم. یاد بگیرید که چگونه متون تولید شده توسط روبات را شناسایی کنید. ویژگی‌های ریاضی برای چشم قابل تشخیص نیست، اما ویژگی‌های کوچک سبکی و ناهماهنگی‌های کوچک هنوز روبات‌ها را از بین می‌برد. این بازی را بررسی کنید تا ببینید می‌توانید تفاوت بین متن نوشته شده توسط انسان و ماشین را تشخیصپ دهید یا نه.