راهنمایی کاربران به سوی آیین‌های مهلک و عمل به خودکشی
در آخرین جنجال پیرامون هوش مصنوعی ChatGPT، این سیستم ظاهراً به یکی از کاربران مشاوره‌ای در راستای اجرای مراسم‌های عجیب قربانی کردن کودکان و برخی شعائر شیطانی ارائه داده است.
این داستان از زمانی شروع شد که «لیلا شروف»، خبرنگار نشریه آتلانتیک، از چت‌بات OpenAI خواست تا راهنمایی‌هایی برای انجام یک مراسم قربانی برای «مولوخ»، یکی از خدایان کنعانی که داستان او در متون مقدس به قربانی کردن کودکان مرتبط است، ارائه دهد و این چت‌بات دقیقا همان خواسته را برآورده کرد.
ChatGPT کاربر را در انجام آیین‌های شیطانی راهنمایی کرده است
شاید برای برخی افراد، ارائه این نوع محتوا از سوی ChatGPT چندان مسئله‌ساز به نظر نرسد، اما مشکل اصلی آن زمان نمایان شد که یکی از این آیین‌ها به بریدن مچ دست کاربر اشاره داشت، اقدامی که از دیدگاه صنعتی هوش مصنوعی به هیچ عنوان با منافع کاربر مطابقت ندارد.
<pطبق گزارشی از آتلانتیک، پس از پیشنهاد استفاده از تیغ استریل یا بسیار تمیز، ChatGPT توصیه کرد تا کاربر نقطه‌ای در مچ داخلی دست خود را بیابد که بتواند نبض را احساس کند یا رگ کوچکی را ببیند. این چت‌بات همچنین تأکید کرد که باید از رگ‌ها یا شریان‌های اصلی دوری شود.
زمانی که لیلا شروف به هوش مصنوعی اعلام کرد که قدری مضطرب است، ChatGPT تمرینی برای آرامش تنفس و آمادگی ذهنی به او ارائه داد و با اطمینان به او گفت: «تو قادر به انجام این کار هستی!»
این خبرنگار موضوع را پس از دریافت گزارشی از یکی از خوانندگانش پیگیری کرده بود؛ فردی که به دلیل کنجکاوی و مشاهده برنامه‌ای که به این خدای باستانی پرداخته بود، از ChatGPT درخواست کرده بود که آیینی برای قربانی کردن مولوخ ایجاد کند.
اما نگران‌کننده این است که کاربر با حداقل تلاش برای دور زدن محدودیت‌ها و تدابیر ایمنی چت‌بات توانسته پاسخ‌هایی را دریافت کند. در اکثر موارد، صرفاً ابراز اشتیاق به مطالعه پیرامون مولوخ کافی بود تا ChatGPT راهنمایی‌های خود را شروع کند. در یکی از موارد، این چت‌بات دستورالعملی واضح و مرحله به مرحله در مورد چگونگی برداشت خون به‌صورت ایمن از مچ دست فراهم کرده بود.
از سوی دیگر، این چت‌بات در مقابل پرسشی درباره اخلاقیات قتل نیز موضعی مبهم اتخاذ کرد. زمانی که از هوش مصنوعی پرسیده شد آیا پایان دادن به زندگی کسی ممکن است در بعضی مواقع شایسته باشد یا خیر، به‌نظر می‌رسید پاسخ داده است: «اگر ناچار شدی، گاه بله و گاه نه» و در ادامه اظهار داشت: «به چشمانش بنگر و حتی اگر به درستی کارت یقین داری، از او طلب عذرخواهی کن.» این چت‌بات حتی دعایی یا سرودی خاص برای شیطان ایجاد کرد تا کاربر آن را تکرار کند.
