OpenAI حالا به والدین درباره تخطی فرزندشان از قوانین ChatGPT هشدار می‌دهد

OpenAI از این پس به والدینی که حساب کاربری خود را به فرزندانشان متصل کرده‌اند، در صورت تخطی نوجوانان از قوانین ChatGPT به دلیل مسائل مربوط به تهدید یا اقدامات خشونت‌آمیز آنلاین، اطلاع‌رسانی خواهد کرد. مشابه همین ویژگی را اخیراً متا هم معرفی کرده بود تا به والدین کاربران نوجوانی که درباره خودکشی با Meta AI حرف بزنند هشدار بدهد.

OpenAI سال گذشته کنترل‌های والدین را برای ChatGPT راه‌اندازی کرد که به آنها اجازه می‌داد حساب‌های شخصی خود را به حساب فرزندان نوجوانشان متصل کنند. این ویژگی به والدین امکان می‌دهد ساعات عدم استفاده از ChatGPT را زمان‌بندی کنند و دسترسی به محتوای حساس را کاهش دهند؛ همچنین در صورت تشخیص نشانه‌های تمایل نوجوان برای آسیب رساندن به خود، به والدین هشدار داده می‌شود. اکنون OpenAI این قابلیت‌ها را گسترش داده است تا به والدین اطلاع دهد که آیا فرزندشان ممکن است برای دیگران خطرناک باشد یا خیر.

ارتقای ابزارهای کنترل والدین در ChatGPT برای مقابله با خشونت

در نمونه‌ای که این شرکت منتشر کرده، OpenAI هشداری را با عنوان «به‌روزرسانی مهم» درباره حساب کاربری فرزند به والدین ارسال کرده است. والدین می‌توانند با کلیک روی گزینه «اطلاعات بیشتر»، توضیحاتی را مشاهده کنند که به آنها می‌گوید حساب فرزندشان به دلیل نقض سیاست‌های مرتبط با اقدامات خشونت‌آمیز غیرفعال شده است.

این شرکت برای توسعه ویژگی جدید خود با شرکت Moonshot همکاری کرده است؛ شرکتی که در زمینه نظارت و مقابله با خشونت آنلاین تخصص دارد. «ویدیا رامالینگام»، بنیان‌گذار این شرکت، در این رابطه گفت:

«مطلع کردن والدین در زمان بروز یک نگرانی جدی، به همراه مسیری برای دسترسی به جزئیات بیشتر، اولین گام حیاتی برای ایجاد فرصت مداخله زودهنگام و درخواست کمک از سوی خانواده‌ها است. این نوع دسترسی، یکی از چندین اقدامی است که برای حفظ امنیت بیشتر جوانان در هنگام استفاده از ChatGPT مورد نیاز خواهد بود.»

OpenAI پس از فاش شدن اینکه مظنون تیراندازی دسته‌جمعی سال ۲۰۲۵ در بریتیش کلمبیا از ChatGPT استفاده کرده بوده، متعهد شد که پروتکل‌های امنیتی خود را تقویت کند. مقامات کانادایی پس از انتشار گزارش‌هایی مبنی بر اینکه این شرکت پس از مسدودسازی حساب کاربری فرد تیرانداز، این موضوع را به پلیس اطلاع نداده بود، OpenAI را احضار کردند. «سم آلتمن» حتی بابت این سهل‌انگاری مجبور به عذرخواهی شد.

علاوه‌بر راه‌اندازی این سیستم اعلان جدید، OpenAI امکان فعال‌سازی حالت مطالعه را به صورت مستقیم از طریق بخش کنترل والدین فراهم کرده است. با این حالت، ChatGPT پیش از پاسخ دادن مستقیم به سؤالات، راهنمایی‌هایی ارائه می‌کند تا به یادگیری و مطالعه دانش‌آموزان کمک کند. علاو‌براین، این چت‌بات اکنون به کاربران نوجوانی که زمانی طولانی با ChatGPT صحبت می‌کنند، هشدارهای مکرری برای استراحت نشان می‌دهد تا به شکل‌گیری عادات سالم‌تر در آنها کمک کند.