محقق آنتروپیک از ترس هوش مصنوعی استعفا داد
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری مهر، مانی وایز نوشت: «جیکوب کاکسون» سه سال صرف ساخت مدلهای هوش مصنوعی در اوپنای آی و آنتروپیک کرده است. او روز هشتم سپتامبر از آنتروپیک استعفا داد و این صنعت را ترک کرد. او در شبکه اجتماعی ایکس نوشت: هیچ یک از دو شرکت مسئولانه رفتار نمیکنند. آنها برای بهبود ابرهوش مصنوعی خود و قمار با زندگی ما با یکدیگر رقابت میکنند.
کاکسون ۲۷ ساله در اوایل سال به دلیل شهرت آنتروپیک در زمینه ایمنی، به این شرکت پیوست. او در مصاحبهای با وال استریت ژورنال گفت اقدامات ایمنی واقعی است، اما رقابت سبب میشود تعارضها اجتناب ناپذیر شوند.
او در این باره گفت: ما در مسیر تحقق بسیاری از بدبینانهترین سناریوها قرار داریم، بهطوریکه تا پایان سال آینده، اوضاع ممکن است از کنترل خارج شده باشد.
وی همچنین درباره افزود: افرادی که هوش مصنوعی را میسازند، صادقانه معتقدند این فناوری ممکن است تا پایان دهه جاری ما را بکشد.
به گفته کاکسون دست اندرکاران این صنعت در سکوت نگران این وضعیت هستند. البته او تنها کسی در آنتروپیک نیست که بحث انقراض انسان توسط هوش مصنوعی را مطرح کرده است. «اون هوبینگر» مسئول بخش همراستاسازی (Alignment) این شرکت، نیز در اظهارنظری جداگانه گفت احتمال وقوع چنین رویدادی را بیش از ۱۰ درصد میداند.
ابر هوش مصنوعی مصنوعی به معنای سیستمی است که تقریبا در همه چیز از انسانها باهوشتر است. خودبهینه سازی نیز یکی از وجوه نگران کننده این صنعت، زیرا سیستمی را توصیف میکند که به طورخودکار کدهای خود را اصلاح میکند تا هوشش را بیشتر کند، مانند انسان.
در نتیجه این سیستمها میتوانند مقدار انبوهی دانش را به طور مستقل به دست بیاورند و احتمالا به زیرساختهای موسسات بزرگ نفوذ کنند.
کاکسون در این باره نیز میگوید: قدرت این فناوری را دست کم نگیرید. به زودی سیستمهای ابر انسان که میتوانند همه چیز را هک کنند، یک شبه هر حوزه یا متحول میکنند و به قدرت واقعی و منابع دست مییابند. ما همه شاهد پیشرفت در این حوزهها بودهایم و این فرایند کندتر نمیشود.