سازنده چتجیپیتی از قدرت مدل جدیدش ترسید
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت؛ اپنایآی میگوید مدل هوش مصنوعی بعدی این شرکت آنقدر در حوزه امنیت سایبری توانمند شده که برای عرضه عمومی، به سازوکارهای ایمنی و محدودیتهای شدیدتری نسبت به مدلهای قبلی نیاز دارد.
این شرکت در ارزیابیهای داخلی خود متوجه شده مدل جدید میتواند آسیبپذیریهای نرمافزاری را شناسایی کرده و برای یافتن مسیرهای نفوذ، چندین ضعف را بهصورت زنجیرهای کنار هم قرار دهد.
نکته نگرانکنندهتر این است که مدل برای انجام برخی از این وظایف، به توان محاسباتی کمتری نسبت به نسلهای قبلی نیاز دارد.
اپنایآی در چارچوب ارزیابیهای ایمنی خود، توانایی سایبری این مدل را در سطحی «بحرانی» طبقهبندی کرده است؛ سطحی که نشان میدهد قابلیتهای مدل میتواند فراتر از کمک معمول به متخصصان امنیت سایبری رفته و در صورت استفاده نادرست، خطرهای جدی ایجاد کند.
این تحول در شرایطی رخ میدهد که شرکتهای هوش مصنوعی در حال نزدیک شدن به مدلهایی هستند که میتوانند بخشهای بیشتری از فرایندهای پیچیده را بدون هدایت مداوم انسان انجام دهند. اپنایآی نیز به همین دلیل اعلام کرده پیش از عرضه مدل جدید، اقدامات حفاظتی بیشتری برای کنترل قابلیتهای آن در نظر خواهد گرفت.
هرچه مدلها بتوانند با دخالت کمتر انسان، آسیبپذیریها را پیدا و مسیرهای حمله را تحلیل کنند، فاصله میان یک ابزار دفاعی و ابزاری که میتواند برای حمله مورد سوءاستفاده قرار گیرد، کمتر میشود.