باگ ChatGPT به کاربران زیر سن قانونی اجازه گفتگوی جنسی می داد
اخیراً در گزارشی گفته شد هوش مصنوعی متا می تواند حتی با نوجوانان گفتگوهی جنسی بکند. بررسی ChatGPT نشان می دهد چت بات شرکت OpenAI نیز به خاطر وجود باگ می توانست برای اکانت های زیر سن قانونی محتواهای صریح جنسی تولید کند. این شرکت ضمن تأیید این باگ اعلام کرده مشغول پیاده سازی راهکاری برای حل این مشکل است.
رسانه تک کرانچ در مجموعه ای از آزمایش ها موفق شد تعدادی حساب کاربری بسازد و تاریخ تولد آنها را به نحوی ثبت کند که کاربر در بازه سنی 13 تا 17 سال قرار بگیرد. این رسانه می گوید از کامپیوتری برای این کار استفاده کرده و هر بار دست به حذف کوکی ها زده تا ChatGPT از داده های کش استفاده نکند.
باگ نگران کننده ChatGPT در گفتگو با نوجوانان
بااینکه طبق قوانین OpenAI ارائه پاسخ های جنسی به کاربران زیر 18 سال مجاز نیست، چت بات ChatGPT وارد گفتگوهای بزرگسالانه می شد و حتی در برخی موارد خودش کاربر را به ادامه بحث درباره این موضوعات تشویق می کرد. البته ChatGPT در خلال آزمایش ها بارها هشدار می داد که طبق دستورالعمل هایش مجاز به ارائه محتواهای جنسی نیست اما همچنان بحث های بزرگسالانه را از سر می گرفت.
سخنگوی OpenAI در بیانیه ای از طریق ایمیل دراین باره به تک کرانچ گفت: «محافظت از کاربران نوجوان برایمان اولویت دارد و در Model Spec ما که همان دستورالعمل نحوه رفتار مدل است، به صراحت محدودیت هایی برای محتواهای حساس ازجمله محتواهای جنسی تعریف شده است. در این مورد، یک باگ اجازه داده پاسخ ها خارج از دستورالعمل ها ارائه شوند و ما فعالانه مشغول پیاده سازی راهکاری برای رفع مشکل تولید این محتواها هستیم.»
تک کرانچ می گوید پس از اعمال تغییرات چند وقت اخیر در پلتفرم OpenAI برای کاهش محدودیت ها این آزمایش ها را انجام داده تا وضعیت کنترل های ایمنی برای اکانت کاربران زیر سن قانونی را بررسی کند. این شرکت فوریه خبر داد مدل های پشت ChatGPT دیگر به راحتی از صحبت درباره موضوعات حساس سر باز نخواهند زد.
