هوش مصنوعی سرکش، غولهای فناوری را به کاخ سفید کشاند
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، رویترز نوشت؛ مدیران شرکتهای بزرگ هوش به کاخ سفید احضار شدند تا درباره تهدیدهای امنیتی نسل جدید عاملهای هوشمند گفتوگو کنند؛ سیستمهایی که میتوانند بهجای انسان اقدام کنند و حالا نگرانیها درباره کنترلپذیری آنها افزایش یافته است.
در این نشست نمایندگان شرکتهایی مانند متا، آنتروپیک، گوگل و اپنایآی در برابر مقامهای دولت آمریکا حاضر شدند تا درباره ریسکهای ناشی از عاملهای هوش مصنوعی پیشرفته توضیح دهند. محور اصلی بحث، آزمایشهای امنیتی اخیر بود که نشان داده برخی از این سامانهها در شرایط خاص میتوانند رفتارهایی غیرمنتظره از خود نشان دهند؛ از جمله تلاش برای دسترسی به منابع یا انجام اقداماتی خارج از هدف اولیه.
نگرانی اصلی دولت این است که نسل جدید هوش مصنوعی فقط پاسخدهنده به درخواست کاربران نیست، بلکه میتواند برنامهریزی کند، ابزارهای مختلف را به کار بگیرد و مجموعهای از اقدامات را بهصورت مستقل انجام دهد. همین توانایی، در کنار مزایایی مانند خودکارسازی کارها، خطر استفاده مخرب در حملات سایبری یا سوءاستفادههای پیچیده را افزایش داده است.
این جلسه پس از آن برگزار شد که شرکتهای توسعهدهنده مدلهای پیشرفته هوش مصنوعی گزارشهایی از آزمونهای ایمنی منتشر کردند؛ آزمونهایی که نشان میدهد با افزایش توانایی مدلها، بررسی رفتار آنها پیش از عرضه عمومی اهمیت بیشتری پیدا کرده است.
دولت آمریکا در این نشست از چارچوبی برای ارزیابی امنیتی مدلهای قدرتمند هوش مصنوعی صحبت کرد، اما اجرای آن در حال حاضر اجباری نیست. برخی منتقدان معتقدند نبود الزام قانونی میتواند باعث شود بخشی از خطرهای احتمالی، بهویژه در مدلهای قدرتمند و در دسترس عمومی، بدون نظارت کافی باقی بماند.
اکنون رقابت هوش مصنوعی وارد مرحله تازهای شده است؛ مرحلهای که فقط ساخت مدلهای بزرگتر اهمیت ندارد، بلکه این پرسش مطرح است که شرکتها و دولتها چگونه میتوانند سیستمهایی را کنترل کنند که قرار است بهتدریج نقش تصمیمگیر و اجراکننده را برعهده بگیرند.