تیم تخصصی ارزیابی خطرات فاجعهبار هوش مصنوعی منحل شد
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، ورج نوشت؛ شرکت اپنایآی، سازنده چتجیپیتی، تیم تخصصی «Preparedness» را که مسئول ارزیابی برخی از جدیترین خطرات مدلهای پیشرفته هوش مصنوعی بود، منحل کرده است. این تیم تهدیدهایی مانند حملات سایبری، خطرات زیستی و شیمیایی و سایر ریسکهای بالقوه فاجعهبار را بررسی میکرد.
مسئولیتهای تیم Preparedness قرار است میان بخشهای تخصصی دیگر اپنایآی، از جمله تیمهای مرتبط با امنیت سایبری و ایمنی زیستی، توزیع شود.
تیم Preparedness در سال ۲۰۲۳ با هدف بررسی خطرات ناشی از مدلهای قدرتمندتر هوش مصنوعی شکل گرفت. این تیم در چارچوب کاری خود، پیش از عرضه مدلهای جدید، توانایی آنها در ایجاد یا تشدید تهدیدهای جدی را ارزیابی میکرد.
نگرانی درباره استفاده نوجوانان از چتجیپیتی فقط به بحثهای نظری محدود نمانده و پژوهشها از خطرهایی مانند وابستگی عاطفی به چتبات، استفاده افراطی و کاهش تعاملات واقعی خبر دادهاند. همچنین در پروندههای قضایی، آدام رین، نوجوان ۱۶ ساله آمریکایی، در آوریل ۲۰۲۵ خودکشی کرد. خانواده او در شکایتی علیه اپنایآی گفتند که گفتوگوهای طولانی او با چتجیپیتی درباره خودکشی، در ماههای پایانی زندگیاش نقش داشته است.