مدل هوش مصنوعی چین به دلیل توانایی هکری قدرتمند، فعلاً عمومی نمیشود
به گزارش پایگاه خبری پایداری ملی، در تازهترین تحول، آزمایشگاه چینی Z.ai اعلام کرده مدل جدید GLM-۵،۳ در برخی آزمونهای امنیت سایبری به سطح مدلهای پیشرفته آمریکایی نزدیک شده و حتی در یک معیار از آنها عبور کرده است.
مقایسه دو مدل GLM-۵.۳ و Mythos ۵
GLM-۵.۳ در آزمون CyberGym که توانایی مدلهای هوش مصنوعی در بررسی کد، شناسایی آسیب پذیریهای امنیتی و تأیید واقعی بودن آنها را ارزیابی میکند، امتیاز ۸۴.۵ درصد به دست آورده است.
این امتیاز اندکی بالاتر از امتیاز ۸۳.۸ درصدی Mythos ۵، مدل امنیت سایبری Anthropic، بوده است. با این حال، نتایج اعلام شده از سوی Z.ai هنوز به طور مستقل تأیید نشدهاند.
GLM-۵.۳ در زمینه تبدیل آسیب پذیریهای شناسایی شده به حملات عملی همچنان فاصله محسوسی با Mythos ۵ دارد.
این مدل در آزمون ExploitBench امتیاز ۵۴.۴ درصد را به دست آورده، در حالی که امتیاز گزارش شده برای Mythos ۵ برابر با ۷۸ درصد بوده است.
در آزمونهای زمان محور نیز GLM-۵.۳ توانسته در دو ساعت ۱۰۵ و در شش ساعت ۱۳۰ وظیفه توسعه حمله را تکمیل کند؛ اعدادی که پایینتر از عملکرد Mythos ۵ در همین آزمون هاست.
با وجود این محدودیت ها، توانایی مدل در کشف ضعفهای امنیتی آن قدر قابل توجه بوده که به گزارش سایت AXIOS، شرکت Z.ai تصمیم گرفته عرضه عمومی وزنهای GLM-۵.۳ را حدود دو هفته به تعویق بیندازد.
این شرکت میخواهد در این فاصله، ارزیابیهای امنیتی بیشتری انجام دهد و سازوکارهای حفاظتی مدل را تقویت کند.
این تصمیم اهمیت ویژهای دارد، زیرا انتشار وزنهای یک مدل متن باز یا دارای وزنهای باز، امکان اجرای مدل روی زیرساختهای مختلف و تغییر یا سفارشی سازی آن را فراهم میکند؛ در نتیجه، پس از انتشار وزن ها، کنترل سازنده بر نحوه استفاده از مدل بسیار محدودتر خواهد شد.
Z.ai نیز اذعان کرده است که پس از عمومی شدن وزن ها، دیگر نمیتواند به طور کامل نحوه تغییر یا استفاده از GLM-۵.۳ را کنترل کند.
Z.ai تلاش دارد قابلیتهای سایبری این مدل را بیشتر در چارچوب دفاع سایبری معرفی کند. این شرکت اعلام کرده مدلهای خانواده GLM تاکنون بیش از ۲۴۰۰ آسیب پذیری امنیتی را شناسایی کردهاند که بیش از هزار مورد از آنها در دسته آسیب پذیریهای بحرانی یا با شدت بالا قرار میگیرند.
اهمیت GLM-۵.۳ فقط به امنیت سایبری محدود نمیشود. این مدل در اصل یک مدل عمومی برای کدنویسی است و طبق توضیحات Z.ai، قابلیتهای امنیتی آن نه از طریق ساخت یک سامانه تخصصی هک، بلکه با آموزش تکمیلی گستردهتر و یادگیری تقویتی به دست آمده است. همین موضوع نشان میدهد که تواناییهای سایبری میتوانند به عنوان یک قابلیت جانبی در مدلهای عمومی قدرتمند نیز ظاهر شوند.
این تحول در شرایطی رخ میدهد که مدلهای متن باز و دارای وزنهای باز چینی در ماههای اخیر توجه بیشتری در میان توسعه دهندگان خارج از چین به دست آوردهاند.
مدل قبلی GLM-۵.۲ نیز به دلیل قابلیتهای کدنویسی و اجرای وظایف عامل محور مورد توجه قرار گرفته بود و حتی شرکت Hugging Face اعلام کرده بود از آن برای مقابله با یک حمله سایبری استفاده کرده است.
از سوی دیگر، پیشرفت مدلهای متن باز در حوزههای حساس، بحث نظارت دولتی بر این فناوریها را نیز جدیتر کرده است. در آمریکا، افزایش توانایی مدلهای متن باز و نزدیک شدن آنها به مدلهای بسته و تجاری، توجه دولت را به مسئله نحوه ارزیابی، استفاده و نظارت بر این مدلها جلب کرده است.
در واقع، GLM-۵.۳ نمونهای از یک چالش جدید در صنعت هوش مصنوعی است: هرچه مدلهای دارای وزن باز قدرتمندتر شوند، مزیت دسترسی آزاد به فناوری با ریسک استفاده مخرب از همان قابلیتها همراهتر میشود. این مسئله به ویژه درباره مدلهایی اهمیت دارد که میتوانند آسیب پذیریهای نرم افزاری را در مقیاس بالا شناسایی یا برای توسعه حملات سایبری مورد استفاده قرار گیرند.
در مجموع، عملکرد GLM-۵.۳ نشان میدهد فاصله میان برخی مدلهای پیشرفته چینی و آمریکایی در حوزههای تخصصی هوش مصنوعی، از جمله امنیت سایبری، در حال کاهش است. با این حال، برتری این مدل در شناسایی آسیب پذیریها به معنای برتری کلی آن در تواناییهای سایبری نیست و نتایج اعلام شده نیز هنوز نیازمند ارزیابی مستقل هستند.