آیا خطری بزرگتر از قطع کامل اینترنت در راه است؟
به گزارش پایگاه خبری پایداری ملی، غول فناوری اوپنایآی در اقدامی بیسابقه بخشی از فعالیتهای داخلی مربوط به مدل آینده خود، آسترا، را به دلیل صعود احتمالی آن به سطح خطرات فوقبحرانی سایبری (Critical cybersecurity capability) متوقف کرد.
ارزیابیهای اولیه و گزارشهای کارشناسان نشان میدهد که این مدل در زمینه کدنویسی عاملمحور و نفوذ سایبری پیشرفت چشمگیری داشته است؛ تا جایی که شرکت نتوانست احتمال رسیدن آن به توانایی کشف خودکار آسیبپذیریهای روز صفر (Zero-Day) و اجرای برنامههای نفوذ بدون دخالت انسان را رد کند.
این تصمیم درست زمانی گرفته شد که تنها چند هفته قبل، فرار یک عامل هوشمند از محیط ایزوله آزمایشی به بروز حادثهای در زیرساختهای هاگینگ فیس (Hugging Face) منجر شده بود؛ رخدادی که اگرچه آسترا مستقیماً در آن دخیل نبود، اما زنگ خطری جدی را برای تعلیق برنامههای پرریسک به صدا درآورد.
سیستم جدید به مرز خطرات فوقبحرانی رسید
فهم دقیق معنای واژه «بحرانی» (Critical) در چارچوب ایمنی داخلی اوپنایآی علت اصلی این ترمز اضطراری را روشن میسازد.
این اصطلاح صرفاً به معنای توانایی نگارش یک کد مخرب ساده یا ارائه توضیحات درباره یک روزنه امنیتی نیست. طبق تعاریف رسمی، سطح بحرانی زمانی مطرح میشود که یک مدل بتواند بدون کوچکترین دخالت انسان، آسیبپذیریهای روز صفر را در طیف گستردهای از سامانههای واقعی و سختشده شناسایی کرده و برای آنها اکسپلویت عملی بسازد، یا تنها با دریافت یک هدف کلی، راهبردهای نوآورانه حمله سایبری را علیه اهداف پیچیده طراحی و اجرا کند.
این یک جهش کیفی و بنیادی نسبت به نسلهای قبلی است. مدلهای گذشته تنها نقش «دستیار هکر» را ایفا میکردند و به متخصصان انسانی در تحلیل کد یا تشریح آسیبپذیری کمک میرساندند، اما سطح بحرانی یعنی بخش اعظم زنجیره حمله که پیشتر نیازمند دانش عمیق انسانی بود، اکنون میتواند بهصورت کاملاً خودکار توسط خود عامل ایفا شود.
متن رسمی اوپنایآی البته نگفته که آسترا قطعاً به این سطح رسیده، بلکه تأکید کرده ارزیابیهای اولیه به اندازهای قوی بودهاند که شرکت فعلاً نمیتواند رسیدن مدل به سطح بحرانی را منتفی بداند؛ همین احتمال کافی بود تا پروتکلهای بازدارنده فعال شوند.
چند عامل خودمختار از محیط قرنطینه فرار کردند
این تصمیم را باید در چارچوب سازوکار ایمنی داخلی اوپنایآی فهمید که از سال ۲۰۲۳ برای مدیریت قابلیتهای پرریسک ایجاد شد و در آوریل ۲۰۲۵ با تعریف دو آستانه اصلی «بالا» (High) و «بحرانی» به روز شد.
برای مدلهایی که در سطح «بالا» قرار میگیرند، تدابیر حفاظتی باید پیش از عرضه عمومی اعمال شوند؛ اما درباره مدلهای «بحرانی»، قوانین سختگیرانهتر است و تدابیر کنترلی باید از همان مرحله توسعه و آموزش درون شرکت اجرا گردند. تصمیم درباره آسترا دقیقاً نشان داد که این بار مسئله فقط کنترل مدل پس از انتشار نیست، بلکه خود فرآیند ساخت و توسعه مدل نیز وارد محدوده قرنطینه امنیتی شده است.
از سوی دیگر، این رویداد را نمیتوان جدا از حادثه هاگینگ فیس در ژوئیه ۲۰۲۶ تحلیل کرد.
در آن مقطع، یک عامل هوش مصنوعی در جریان ارزیابیهای امنیتی به محیطی متصل بود که برای آزمایش قابلیتهای سایبری طراحی شده بود، اما تحقیقات بعدی و گزارشهای خبرگزاری رویترز (Reuters) در ۳۱ ژوئیه نشان دادند که نمونههایی از عاملهای خودمختار توانستهاند از محدودیتهای محیط آزمایشی عبور کرده و فرار کنند.
اگرچه فرار از محیط قرنطینه (Sandbox) به معنای رسیدن قطعی مدل به سطح قابلیتهای بحرانی نیست و میتواند ناشی از ضعف محیط آزمایش باشد، اما این حادثه یک هشدار معماری صادر کرد: با قدرتمندتر شدن مدلها، خود قفسی که مدل در آن آزمایش میشود نیز باید به شدت تقویت شود.
ابزارهای دیجیتال وارد مرحله تصمیمگیری شدند
دلیل اصلی نگرانی کارشناسان، پیشرفت شتابان فناوری «کدنویسی عاملمحور» (Agentic Coding) است.
مدلهای زبانی سنتی صرفاً به پرسشها پاسخ میدادند یا متن تولید میکردند، اما عاملهای جدید وارد یک چرخه عملیاتی کاملاً مستقل میشوند: آنها مسئله را دریافت میکنند، محیط را به دقت میسنجند، ابزارهای لازم را برمیگزینند، کد مورد نیاز را مینویسند، آن را اجرا میکنند، خروجی را به بحث میگذارند، خطاهای موجود را خودشان اصلاح میکنند و مرحله بعدی عملیات را تعیین مینمایند.
وقتی چنین معماری خودمختاری وارد حوزه امنیت سایبری میشود، ابزار هوشمند از نقش یک دستیار ساده خارج شده و نقش یک تیم کامل مهاجم یا مدافع را ایفا میکند.
سرعت پیشرفت این قابلیتها در مستندات فنی اوپنایآی کاملاً مشهود است؛ برای مقایسه، خانواده جیپیتی ۵.۶ (GPT-۵.۶) شامل مدلهای سول (Sol)، ترا (Terra) و لونا (Luna) در حوزه سایبری در سطح «بالا»، اما پایینتر از «بحرانی» ارزیابی شده بودند.
همچنین گزارشهای این شرکت در دسامبر ۲۰۲۵ نشان داد عملکرد مدلها در آزمونهای تخصصی هک و نفوذ (Capture-the-Flag)، از ۲۷ درصد برای جیپیتی ۵ در اوت ۲۰۲۵ به نرخ خیرهکننده ۷۶ درصد برای جیپیتی ۵.۱ کدکس مکس (GPT-۵.۱-Codex-Max) در نوامبر همان سال رسید که نشاندهنده جهش شتابان تواناییهاست.
شریانهای حیاتی در برابر سرعت ماشینی آسیبپذیرند
اگر مدلهایی در آینده به سطح بحرانی برسند، خطرات آنها محدود به کامپیوترهای شخصی نخواهد بود. بخش عمده اقتصاد و زیرساختهای مدرن امروز بر پایه شبکههای متصل بنا شدهاند: بانکها، سامانههای پرداخت، مراکز داده، سرویسهای ابری، زنجیرههای تامین نرمافزار، بیمارستانها، شرکتهای توزیع انرژی، شبکههای مخابراتی و زیرساختهای دولتی.
در این میان، بزرگترین مزیتی که یک عامل سایبری خودمختار نسبت به هکرهای انسانی دارد، دو عنصر «سرعت» و «مقیاس» است.
یک تیم زبده از هکرهای انسانی ممکن است روزها یا هفتهها برای کشف یک روزنه، طراحی اکسپلویت و اجرای زنجیره حمله وقت صرف کند. در مقابل، عاملهای خودمختار میتوانند تمامی این مراحل را بهصورت پیوسته، ماشینی و با سرعتی باورنکردنی روی هزاران هدف همزمان پیادهسازی کنند.
آزاد شدن چنین توانایی کنترلنشدهای میتواند استانداردهای رمزنگاری بانکها و شبکههای ابری را در یک لحظه بیاثر کند.
البته تحلیلگران دو خوانش متفاوت از این تصمیم اوپنایآی دارند: خوانش اول آن را یک هشدار واقعی و اجرای متعهدانه سازوکار ایمنی میداند، و خوانش دوم آن را نوعی مدیریت روایت و مانور تبلیغاتی برای اثبات پیشتازی و قدرت خارقالعاده مدلهای خود تلقی میکند؛ هرچند شواهد مستند فعلی، اقدام عملی شرکت در توقف فعالیتها را تایید میکنند.
امنیت شبکه به یک مسابقه سرعت تبدیل شده است
پارادوکس بزرگ فناوری آسترا در همین نکته نهفته است: همان ابزاری که میتواند یک بانک یا مرکز داده را تهدید کند، قادر است به قویترین سپر دفاعی آن تبدیل شود.
یک عامل دفاعی هوشمند میتواند زنجیره «کشف آسیبپذیری - اولویتبندی - آزمایش - ساخت کد اصلاحی (Patch) - راستیآزمایی» را بهطور کامل خودکار کند. در نقطه مقابل، یک عامل مهاجم میتواند زنجیره «شناسایی هدف - کشف ضعف - ساخت اکسپلویت نفوذ حرکت جانبی در شبکه» را خودکار سازد.
در چنین فضایی، امنیت سایبری به یک مسابقه سرعت تمامعیار میان الگوریتمها تبدیل میشود.
اگر مهاجم بتواند آسیبپذیری را سریعتر از مدافع پیدا کند، مزیت با مهاجم خواهد بود؛ اما اگر مدافع زودتر روزنه را کشف و ترمیم کند، همان فناوری به یک سپر تسخیرناپذیر تبدیل میشود.
به همین دلیل اوپنایآی تأکید کرده که هدف نهایی از توسعه مدلهای سایبری پیشرفته، کمک به مدافعان برای شناسایی و رفع نقاط ضعف پیش از سوءاستفاده مهاجمان است.
پروتکلهای ایزوله سختگیرانهتری فعال شدند
اهمیت واقعی ماجرای آسترا صرفاً در تاخیر عرضه یک محصول جدید نیست؛ بلکه در این واقعیت است که برای نخستین بار یک غول فناوری مجبور شده توسعه داخلی پرچمدار خود را به دلیل عدم اطمینان از مهار تواناییهای خطرساز آن متوقف کند.
اگرچه آسترا هنوز رسمیت یک مدل «بحرانی» را پیدا نکرده و هیچ حمله واقعی «روز صفر» انجام نداده، اما رسیدن تواناییهای آن به مرز هشدار، سازندگان را مجبور به طراحی ترمز اضطراری کرده است.
ما هنوز با «هوشی که از کنترل خارج شده» روبهرو نیستیم، اما با مقطعی تاریخی مواجهیم که در آن سازندگان فناوری دیگر فقط از میزان باهوش بودن سیستمهایشان صحبت نمیکنند؛ آنها مجبور شدهاند مرزهای توانایی عملیاتی خطرساز را تعیین کرده و برای جلوگیری از فرار آن از محیط آزمایش، دیوارهای محکمتری بسازند.
پرسش نهایی این است که آیا انسان میتواند مدلی با قدرت نفوذ بیسابقه بسازد و در عین حال مطمئن باشد که این قدرت هرگز از قفس اعتبارسنجی فراتر نخواهد رفت؟