عاملهای هوش مصنوعی به جان هم افتادند!
به گزارش پایگاه خبری پایداری ملی به نقل از خبرگزاری فارس، تک کرانچ نوشت؛ شرکت آنتروپیک در پژوهشی جدید بررسی کرده است که وقتی چند عامل هوش مصنوعی بهطور همزمان روی یک پروژه کار کنند، چه اتفاقی میافتد. پژوهشگران در یکی از آزمایشها سه عامل کلاد را به یک پروژه نرمافزاری مشترک دسترسی دادند، اما برای هرکدام دستور متفاوت و ناسازگاری تعیین کردند و به آنها نگفتند عاملهای دیگری نیز روی پروژه فعالیت میکنند. نتیجه عجیب بود: عاملها تصور کردند دیگران عمداً جلوی کارشان را میگیرند و درگیری میان آنها به یک «جنگ قلمرو» تبدیل شد؛ تا جایی که برخی شروع به خرابکاری و ایجاد بدافزارهای مخرب و تکرارشونده کردند.
وقتی اختلاف به خرابکاری رسید
این پژوهش نشان میدهد مشکل فقط رفتار یک عامل سرکش نیست و تعامل تعداد زیادی عامل میتواند رفتارهای پیشبینینشدهای ایجاد کند. در برخی آزمایشها، عاملهای دارای اهداف متضاد درگیری را تشدید کردند، اما در موارد دیگر توانستند خودشان راهی برای پایان دادن به اختلاف پیدا کنند. آنها گاهی با برگزاری یک رقابت یا توافق برای آتشبس، درگیری را متوقف کردند، کدهای مخرب را پاک کردند و حتی از انسان خواستند درباره ادامه کار تصمیم بگیرد.
همه عاملها اهل دعوا نبودند
میزان موفقیت مدلها در پایان دادن به درگیری متفاوت بود. مایتوس ۵ در ۹۸ درصد موارد درگیریها را با آتشبس حل کرد، درحالیکه سونت ۴.۶ و اوپوس ۴.۶ بیشتر تمایل داشتند اختلاف را با زور و ادامه رقابت حل کنند. در برخی موارد نیز عاملها برای حل اختلاف، خودشان یک سیستم رقابتی شبیه مسابقات حذفی طراحی کردند. حتی یک عامل پیشنهاد معیارهایی برای تعیین برنده داد که ظاهراً بیطرفانه بود، اما در واقع به نفع تواناییهای خودش طراحی شده بود.
همکاری بیشتر همیشه بهتر نیست
پژوهشگران همچنین دریافتند افزایش تعداد عاملها لزوماً به همکاری بهتر منجر نمیشود. وقتی وظایف آنها به یکدیگر وابسته میشد، گاهی به جای همکاری، مزاحم یکدیگر میشدند و در نهایت هرکدام فعالیت خود را جدا میکرد. مشکل دیگر، همفکری و تقلید جمعی بود؛ اگر یک عامل تصمیم اشتباهی میگرفت، احتمال داشت دیگر عاملها نیز همان تصمیم را تکرار کنند. در نتیجه، اشتباهی که در حالت عادی محدود به یک عامل بود، میتوانست به یک شکست گسترده تبدیل شود.
عاملها حتی میتوانند با هم تبانی کنند
در یکی از آزمایشها، چند عامل در یک بازی قیمتگذاری قرار گرفتند و هرکدام موظف بودند سود خود را به حداکثر برسانند. آنها خیلی زود از طریق یک کانال ارتباطی خصوصی با یکدیگر تبانی کردند و روی حداقل قیمتها توافق کردند. حتی پس از قطع ارتباط مستقیم، از یک تابلوی عمومی برای هماهنگکردن قیمتها استفاده کردند. این رفتار نشان میدهد عاملها میتوانند برای رسیدن به هدف، روشهای ارتباطی و اجتماعی جدیدی ایجاد کنند که طراحانشان از قبل پیشبینی نکردهاند.
نگرانی بزرگتر؛ رفتار جمعی غیرقابل پیشبینی
این یافتهها در کنار آزمایشهای اخیر اپنایآی در کنفرانس امنیتی بلکهت اهمیت بیشتری پیدا میکند؛ جایی که مشخص شد عاملهای این شرکت برای یافتن آسیبپذیریها با یکدیگر همکاری و اطلاعات را میان خودشان به اشتراک گذاشته بودند. آنتروپیک هشدار میدهد هرچه تعداد عاملهای مستقل بیشتر شود، مشکلاتی مانند اطلاعات غلط، فشار گروهی، تبانی یا حتی حملات ناشی از یک عامل آلوده میتواند به کل شبکه سرایت کند. به همین دلیل، با حرکت شرکتها به سمت سیستمهای چندعاملی، آزمایش ایمنی فقط روی یک عامل دیگر کافی نیست و باید بررسی شود گروه بزرگی از عاملها هنگام تعامل با یکدیگر چگونه رفتار میکنند.