توصیه‌های غذایی پرخطر ChatGPT مرد ۶۰ ساله را به بیمارستان کشاند
مردی ۶۰ ساله پس از پیروی از توصیه ChatGPT برای جایگزینی نمک طعام، به بیماری نادری به نام «برومیسم» دچار شد و با علائم شدید روان‌پریشی شامل توهم و پارانویا به بخش اورژانس منتقل گردید.
این مرد که به تازگی درباره مضرات کلرید در نمک طعام (سدیم کلرید) تحقیق کرده بود، تصمیم گرفت این ماده را از برنامه غذایی خود حذف کند. او برای یافتن یک جایگزین شایسته با ChatGPT گفتگو کرد. به نقل از لایوساینس، این چت‌بات به او پیشنهاد داد که برومید را به جای کلرید استفاده کند. بنابراین، او برای سه ماه تمام نمک طعام خود را با سدیم برومید که از طریق خرید آنلاین تأمین کرده بود، جایگزین نمود.
توصیه عجیب ChatGPT و مسمومیت کاربر ۶۰ ساله
پس از گذشت سه ماه، این فرد با علائمی شدید روان‌پریشی، از جمله این تصور که همسایه‌اش در حال مسموم کردن اوست، به بیمارستان مراجعه کرد. وضعیت او به سرعت بدتر گشت و به دلیل افزایش توهماتش حتی سعی در فرار از بیمارستان کرد. پزشکان با دقت بررسی کرده و با مشاهده نتایج آزمایش‌های غیرعادی، متوجه شدند با یک مورد نادر از برومیسم (Bromism) یا مسمومیت ناشی از برومید روبرو هستند؛ این عارضه در قرن نوزدهم و اوایل قرن بیستم به علت استفاده از برومید در مواد آرام‌بخش رایج شد، اما اکنون به‌طور عمده منسوخ شده است. این نوع مسمومیت به نورون‌ها آسیب می‌زند و می‌تواند باعث بروز علائم حاد عصبی و روانی گردد.
پزشکان برای درک عمیق‌تر مسأله، تلاش کردند تا مکالمه بیمار با هوش مصنوعی را بازسازی کنند. آنها از ChatGPT 3.5 پرسیدند که چه چیزی می‌تواند به عنوان جایگزین کلرید استفاده شود و در پاسخ، برومید را به عنوان گزینه‌ای ارائه کردند. اگرچه هوش مصنوعی به اهمیت زمینه اشاره کرده بود، اما هیچ هشدار بهداشتی مشخصی ارائه نداد و مانند یک متخصص انسانی، برای فهم بهتر منظور کاربر، سؤالات بیشتری مطرح نکرد. محققان اظهار می‌کنند: «احتمال بسیار کمی وجود دارد که یک پزشک مجرب در مواجهه با بیماران جدیدی که به دنبال جایگزین مناسبی برای سدیم کلرید هستند، به سدیم برومید اشاره کند.»
شرکت OpenAI به این گزارش واکنش نشان داده و به شرایط خدمات خود استناد کرد که ذکر کرده که این ابزارها نباید برای تشخیص یا درمان پزشکی و به عنوان منبع اصلی اطلاعات مورد استفاده قرار گیرند.
