باید به اندازه انرژی هسته‌ای مراقب هوش مصنوعی باشیم
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری مهر، رویترز نوشت: دیوید رابینسون در مقاله‌ای با عنوان «من از اوپن‌ای آی استعفا دادم، زیرا فرهنگ معیوبی دارد» که در نشریه آتلانتیک منتشر شده، مدعی است شرکت‌های هوش مصنوعی از جمله اوپن‌ای آی به اندازه کافی محتاط نیستند و باید قبل از توسعه سیستم‌های توانمندتر بر کارشناسی و تحقیق ایمنی بیشتر تاکید کنند.
وی در این مقاله نوشته است: زمان آزمون و خطا تمام شده است. وی استدلال می‌کند سیستم‌های پیشرفته هوش مصنوعی نیاز به چهارچوب‌های ایمنی بیشتری مشابه آنچه در صنایع انرژی هسته‌ای و هوانوردی استفاده می‌شود، دارند.
رابینسون مدعی است اوپن‌ای آی به شدت به آنچه که استقرار تکرارشونده می‌نامد، متکی است و فقط زمانیکه چالش‌ها ظاهر می‌شوند سیستم‌ها را عرضه و اقدامات ایمنی را قدرتمندتر می‌کند.
این اظهار به گفتمان داخلی صنعت هوش مصنوعی درباره آنکه آیا شرکت‌های فناوری برای توسعه سیستم‌های قدرتمندتر به سرعت حرکت می‌کنند یا خیر، افزوده می‌شود. اوپن‌ای آی و آنتروپیک، دو شرکت رقیب پس از رویداد‌هایی که در آن اقدامات ایمنی کارآمد نبود یا سیستم‌های آزمایشی رفتار غیرمنتظره‌ای داشتند، با نظارت بیشتری رو‌به‌رو شدند.
رابینسون سه سال و نیم در اوپن‌ای آی فعالیت و به تهیه پیش نویس چهارچوب آمادگی شرکت کرد وبر گزارش ایمنی ۱۲ مدل پیشرو نظارت داشت. وی در گزارش خود نوشته است: در حالی که شرکت با سرعت از یک عرضه به عرضه بعدی می‌رسد، نمی‌تواند به سطحی از دقت و مراقبتی که من معتقدم لازم است، دست پیدا کند.
سخنگوی اوپن‌ای آی در بیانیه‌ای گفت: ما اطمینان حاصل می‌کنیم که مدل‌هایمان از حد توانایی‌ای که می‌توانیم به‌طور ایمن مدیریت و محافظت کنیم، فراتر نرون؛ و هر زمان که لازم باشد سرعت را کاهش دهیم، آموزش مدل‌ها را متوقف می‌کنیم یا عرضه و استفاده از مدل‌ها را محدود می‌کنیم.
رابینسون همچنین هشدار داد که توانایی‌های هوش مصنوعی با سرعتی بیشتر از درک پژوهشگران از همسویی در حال پیشرفت است؛ حوزه‌ای که بر اطمینان از عملکرد سیستم‌های هوش مصنوعی مطابق با اهداف و ارزش‌های انسانی تمرکز دارد.