متا چت‌بات‌هایش را برای کودکان ایمن می کند

به گزارش پایداری ملی به نقل از خبرگزاری مهر، نشریه بیزینس اینسایدر به دستورالعمل‌هایی دست یافته که پیمانکاران متا برای آموزش چت‌بات‌های هوش مصنوعی این شرکت استفاده می‌کنند. این اسناد نشان می‌دهد متا در تلاش است به شکل موثرتری از سوءاستفاده جنسی احتمالی از کودکان جلوگیری کرده و مانع ورود آن‌ها به گفتگوهایی شود که با سن‌شان تناسب ندارد.

متا در آگوست سال جاری، پس از انتشار گزارشی از سوی خبرگزاری رویترز مبنی بر اینکه سیاست‌های این شرکت به چت‌بات‌ها اجازه می‌دهد با کودکان وارد گفتگوهای احساسی یا عاشقانه شوند، اعلام کرد دستورالعمل‌های مرتبط با هوش مصنوعی خود را به‌روزرسانی می‌کند. البته متا همان زمان تأکید کرد گزارش رویترز «اشتباه» است و با سیاست‌های واقعی این شرکت مطابقت ندارد.

طبق سند منتشرشده توسط بیزینس اینسایدر، به‌طور شفاف مشخص شده است چه نوع محتوایی برای چت‌بات‌ها مجاز و چه نوعی غیرمجاز است. بر اساس این دستورالعمل‌ها، هرگونه محتوای مرتبط با سوءاستفاده جنسی از کودکان، ایفای نقش عاشقانه با کاربران خردسال، شبیه‌سازی نقش افراد زیر سن قانونی یا ارائه توصیه درباره تماس فیزیکی عاشقانه و صمیمی با کودکان به‌طور کامل ممنوع است.

چت‌بات‌های هوش مصنوعی متا در ماه‌های اخیر بارها هدف گزارش‌ها و انتقادهایی قرار گرفته‌اند که نگرانی‌ها درباره امنیت کودکان را افزایش داده است. در همین راستا، کمیسیون فدرال تجارت آمریکا (FTC) در ماه آگوست تحقیقاتی رسمی درباره چت‌بات‌های هوش مصنوعی شرکت‌هایی مانند متا، آلفابت، اسنپ، اوپن‌ای‌آی و xAI آغاز کرده است.