غولهای هوشمصنوعی پاسخگوی شورای امنیت میشوند
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت: مدیران چند شرکت مطرح هوش مصنوعی قرار است امروز در نشست شورای امنیت سازمان ملل درباره نگرانیهای امنیتی ناشی از توسعه سریع این فناوری توضیح دهند؛ نشستی که محور آن خطر از دست رفتن کنترل انسان بر سامانههای پیشرفته هوش مصنوعی است.
در این نشست، سم آلتمن، مدیرعامل اپنایآی، داریو آمودی، مدیرعامل آنتروپیک و کلمان دلاگ، همبنیانگذار هاگینگفیس، قرار است اعضای شورای امنیت را در جریان دیدگاهها و نگرانیهای صنعت قرار دهند. یوشوا بنجیو، از چهرههای شناختهشده حوزه هوش مصنوعی و همرئیس پنل علمی سازمان ملل درباره این فناوری نیز در این جلسه حضور خواهد داشت.
حضور این مدیران در شورای امنیت در شرایطی انجام میشود که نگرانیها درباره توانایی مدلهای پیشرفته برای بهبود عملکرد خود و احتمال خارج شدن برخی سامانهها از کنترل انسانی افزایش یافته است. هدف نشست، بررسی پیامدهایی است که چنین سناریوهایی میتواند برای امنیت کشورها و امنیت بینالمللی داشته باشد.
آلتمن قرار است پیشنهاد ایجاد معیارهای مشترک برای سنجش توانایی مدلهای هوش مصنوعی و ارزیابی اقدامات ایمنی شرکتها را مطرح کند. به این ترتیب، شرکتهای سازنده هوش مصنوعی در جایگاهی قرار گرفتهاند که باید درباره نحوه مدیریت خطرات فناوریهای خود در برابر نمایندگان دولتها توضیح دهند.
این نشست همچنین در حالی برگزار میشود که آمریکا و چین درباره ایجاد سازوکاری برای اطلاعرسانی متقابل درباره حوادث مرتبط با هوش مصنوعی که به سطح تهدید امنیت ملی میرسند، گفتوگو کردهاند.