از «چت‌جی‌پی‌تی» به عنوان منبع اصلی کسب اطلاعات استفاده نکنید!

به گزارش پایگاه خبری پایداری ملی، «GPT-۵» جدیدترین مدل زبانی شرکت «اوپن‌ای‌آی» (OpenAI) ممکن است قدرتمندتر و دقیق‌تر از مدل‌های پیشین خود باشد، اما این شرکت به کاربران هشدار داده است که «چت‌جی‌پی‌تی» (ChatGPT) را به عنوان منبع اصلی اطلاعات خود در نظر نگیرند.

به نقل از آپ سون‌ای‌ام، «نیک تورلی» (Nick Turley) مدیر چت‌جی‌پی‌تی معتقد است که این چت‌بات هوش مصنوعی باید به عنوان منبع دوم مورد استفاده قرار بگیرد، زیرا با وجود پیشرفت‌های بزرگ هنوز می‌تواند مستعد اشتباه باشد.

تورلی در مصاحبه با ورج اذعان کرد که GPT-۵ همچنان با مشکل توهم روبه‌روست و سیستم اطلاعاتی را تولید می‌کند که باورپذیر به نظر می‌رسد، اما در واقع اشتباه است.

اگرچه اوپن‌ای‌آی گفته که چنین خطا‌هایی را به میزان قابل توجهی کاهش داده است، اما این مدل هنوز در حدود ۱۰ درصد از مواقع پاسخ‌های نادرست می‌دهد.

تورلی تأکید کرد که دستیابی به قابلیت اطمینان ۱۰۰ درصد، بسیار دشوار است. وی افزود: تا زمانی که در همه حوزه‌ها به طور قابل اثبات از یک متخصص انسانی قابل اعتمادتر نباشیم، همچنان به کاربران توصیه می‌کنیم که پاسخ‌ها را دوباره بررسی کنند. من فکر می‌کنم مردم همچنان از چت‌جی‌پی‌تی به عنوان منبع دوم استفاده می‌کنند، نه لزوماً به عنوان منبع اصلی اطلاعات.

مدل‌های زبانی بزرگ مانند GPT-۵ برای پیش‌بینی واژه‌ها براساس الگو‌های موجود در مجموعه بزرگ داده‌ها آموزش دیده‌اند. اگرچه این امر، مدل‌های زبانی بزرگ را در تولید پاسخ‌های طبیعی عالی می‌کند، اما به این معناست که می‌توانند اطلاعات نادرستی را نیز درباره موضوعات ناآشنا ارائه دهند. اوپن‌ای‌آی برای برطرف کردن این مشکل، چت‌جی‌پی‌تی را به موتور جست‌و‌جو متصل کرده است و به کاربران امکان می‌دهد تا نتایج را با منابع بیرونی تأیید کنند.

تورلی ابراز اطمینان کرد که مشکل توهمات چت‌بات سرانجام حل خواهد شد، اما هشدار داد که این اتفاق در آینده نزدیک رخ نخواهد داد. وی افزود: من مطمئن هستم که سرانجام توهمات را برطرف خواهیم کرد، اما مطمئن هستم که این کار را در سه ماه بعدی انجام نخواهیم داد.

در همین حال، اوپن‌ای‌آی همچنان به گسترش جاه‌طلبی‌های خود ادامه می‌دهد. گزارش‌ها حاکی از آن هستند که این شرکت در حال توسعه مرورگر خود است و «سم آلتمن» (Sam Altman) مدیرعامل آن حتی اشاره کرده که در صورت فروش «گوگل کروم» (Google Chrome)، اوپن‌ای‌آی ممکن است خرید آن را در نظر بگیرد.