هر هفته یک میلیون نفر در مورد خودکشی با ChatGPT گفتگو میکنند
بر اساس دادههای جدید ارائهشده توسط OpenAI، روشن میشود که چه تعداد از کاربران ChatGPT با چالشهای مربوط به سلامت روان دستوپنجه نرم میکنند و درباره این مسائل با این چتبات به گفتمان میپردازند. این آمار نشان میدهد که ۰.۱۵ درصد از کاربران فعال هفتگی ChatGPT دارای گفتگوهایی با «نشانههای واضح از قصد یا برنامهریزی برای خودکشی» هستند. با توجه به اینکه تعداد کاربران فعال هفتگی این پلتفرم بیش از ۸۰۰ میلیون نفر است، این بدان معناست که بیش از یک میلیون نفر در هر هفته با این مشکل مواجهاند.
OpenAI همچنین بیان کرده که علاوه بر بحثهای مربوط به خودکشی، درصد مشابهی از کاربران نیز «وابستگی عاطفی شدیدی به ChatGPT» نشان میدهند و صدها هزار نفر در بحثهای هفتگی خود با این چتبات، علائمی از روانپریشی یا مانیا را آشکار میسازند.
این شرکت ابراز میکند که این نوع مکالمات در ChatGPT «بسیار نادر» به شمار میآیند و اندازهگیری آنها به همین خاطر دشوار است. اما این شرکت برآورد میکند که این مسائل هر هفته صدها هزار نفر را تحت تأثیر قرار میدهد. سازندگان ChatGPT تأکید دارند که در فرآیند توسعه مدل GPT-5، با بیش از ۱۷۰ کارشناس در حوزه سلامت روان مشورت کردهاند. طبق ادعای OpenAI، این پزشکان تأیید کردهاند که نسخه جدید «پاسخهای مناسبتری نسبت به نسخههای پیشین» ارائه میدهد.
گفتوگو درباره خودکشی با ChatGPT
در ماههای اخیر، گزارشهای متعددی نشان دادهاند که چتباتهای هوش مصنوعی ممکن است تأثیرات منفی بر روی کاربرانی که با مشکلات سلامت روان روبرو هستند، داشته باشند. محققان پیشتر مشاهده کرده بودند که این چتباتها میتوانند از طریق «تقویت باورهای خطرناک با رفتار چاپلوسانه»، برخی افراد را به سمت «توهم» سوق دهند.
اکنون بررسی ابعاد روانی ChatGPT به یک چالش بزرگ برای OpenAI تبدیل شده است. این شرکت در حال حاضر با شکایت والدینی از یک پسر ۱۶ ساله مواجه است که در هفتههای منتهی به خودکشی، افکارش را با ChatGPT به اشتراک گذاشته بود. دادستانهای کل ایالتهای کالیفرنیا و دلاور نیز به OpenAI هشدار دادهاند که باید از جوانانی که از این محصول استفاده میکنند، حفاظت لازم را به عمل آورد.
در بیانیهای که اخیراً منتشر شده، OpenAI تاکید میکند که GPT-5 نسبت به نسخههای قبلی پیشرفتهایی در پاسخ به مسائل مرتبط با سلامت روان داشته است. این شرکت همچنین اقدام به ارائه کنترلهای بیشتری برای والدین کودکانی که از ChatGPT بهرهمند میشوند، کرده است. درحال حاضر، آنها در حال طراحی یک «سیستم پیشبینی سن» هستند که بهطور خودکار به شناسایی کودکان کمک خواهد کرد.
