مدیران ارشد هوش مصنوعی خواستار کندتر شدن پیشرفت آن شدند

به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری مهر، اسکای نیوز نوشت: داریو آمودئی مدیر ارشد اجرایی آنتروپیک مقاله‌ای با عنوان «ما باید در پیشروی مرز‌ها شتاب زده عمل نکنیم» (We Must Pace the Frontier) را منتشر کرده که در آن از شرکت‌های فناوری می‌خواهد سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کندتر کنند.

این مقاله در حالی منتشر می‌شود که نگرانی‌ها درباره سواستفاده از هوش مصنوعی شدت گرفته است. از سوی دیگر آنتروپیک اخیرا فاش کرده چند هکر از مدل‌های کلاود آن برای فعالیت‌هایی مانند توسعه اسلحه، عملیات‌های نظامی و نظارت و کلاهبرداری استفاده کرده‌اند.

آمودئی در همین زمینه طرحی سه بخشی ارائه کرده که شرکتش نیز به آن متعهد است. او در پستی در شبکه اجتماعی ایکس نوشت: ما ارزیاب‌های طرف ثالث را با دسترسی دائمی و در سطح کارمندان برای سیستم هایمان فراهم می‌کنیم تا آنها بتوانند التزام مان به اقدامات ایمنی را تایید کنند، درباره رویداد‌ها گزارش دهند و همسویی مدل‌ها طی آموزش را ارزیابی کنند.

پس از آن ایلان ماسک مدیر ارشد اجرایی ایکس و سم آلتمن مدیر ارشد اجرایی اوپن‌ای آی نیز از این مقاله دفاع کردند. ماسک نیز پاسخ به پست آمودئی نوشت: داریو درست می‌گوید.

سم آلتمن نیز در ایکس نوشت: من هم با داریو موافقم که ما نیاز داریم در پیشروی شتاب زده عمل نکنیم. این موضوع اصلی گفت‌و‌گو‌هایی است که هفته‌های اخیر در اوپن‌ای آی داشتیم. تعهد به حضور ارزیاب‌های مستقل با دسترسی در سطح کارمند یک ایده عالی است و ما نیز همین کار را انجام می‌دهیم. به زودی اطلاعات بیشتری به اشتراک می‌گذاریم.