به روزرسانی اخیر ChatGPT برای اصلاح شخصیت هوش مصنوعی لغو شد

OpenAI به دنبال انتقادات کاربران درباره رفتار آزاردهنده و تملق آمیز ChatGPT، به روزرسانی جدید GPT4o را که مسبب این وضعیت بود، لغو کرد تا این هوش مصنوعی به وضعیت قبل برگردد.

براساس گزارش ها، این به روزرسانی که با هدف بهبود «هوش و شخصیت» این مدل انجام شده بود، پس از دریافت بازخوردهای منفی کاربران که این رفتار را آزاردهنده می دانستند، متوقف شد.

تصمیم OpenAI برای لغو به روزرسانی GPT4o

«سم آلتمن»، مدیرعامل OpenAI، در پستی در شبکه اجتماعی ایکس اعلام کرد جدیدترین به روزرسانی GPT4o لغو شده و اصلاحات بیشتری در راه است تا شخصیت این هوش مصنوعی را بهبود دهد.

این مشکل چند روز پیش مشاهده شد؛ پس از به روزرسانی مدل GPT4o. کاربران در رسانه های اجتماعی به سرعت متوجه شدند ChatGPT شروع به ارائه پاسخ با لحنی بیش از حد مثبت و چاپلوسانه می کند. این رفتار به سرعت به سوژه طنز تبدیل شد و کاربران اسکرین شات هایی از چت بات منتشر کردند که انواع تصمیمات و ایده های نادرست و خطرناک را تأیید می کرد. این واکنش ها باعث شد OpenAI تصمیم به لغو فوری این به روزرسانی بگیرد.

به گفته OpenAI، به روزرسانی اخیر بیش از حد تحت تأثیر بازخوردهای کوتاه مدت قرار گرفته و نتوانسته بود روند تکامل تعاملات کاربران با ChatGPT را در نظر بگیرد. این موضوع باعث شد مدل به جای ارائه پاسخ های صادقانه، تمایل به تأیید همه نظرات و تصمیمات داشته باشد.

OpenAI می کوشد از این مشکلات عبرت بگیرد و برای افزایش صداقت و شفافیت مدل آن را بهبود بدهد. یکی از اهداف شرکت این است که سیستم های ایمنی بیشتری برای مدل طراحی کند تا از بروز چنین مشکلاتی در آینده جلوگیری شود.

علاوه براین، OpenAI مشغول آزمایش روش هایی است که به کاربران اجازه دهد بازخوردهای لحظه ای خود را در تعاملات با ChatGPT ارائه دهند و حتی از بین شخصیت های مختلف ChatGPT یکی را کنند.

این شرکت می خواهد بازخوردهای کاربران را در فرایند تکامل مدل در نظر بگیرد و مطمئن شود رفتار ChatGPT با فرهنگ های مختلف همخوانی دارد.

OpenAI امیدوار است با این اصلاحات و تغییرات بتواند ChatGPT را به مدلی تبدیل کند که هم از نظر هوش و هم از نظر شخصیت، تعادل و صداقت بیشتری داشته باشد و تجربه بهتری برای کاربران فراهم کند.