چت‌بات‌های متا با تدابیر جدیدی در ارتباط با کودکان مواجه شدند

متا اقدام به به‌روزرسانی دستورالعمل‌های مربوط به عملکرد چت‌بات‌های هوش مصنوعی خود کرده است تا از بروز گفت‌وگوهای نامناسب با کودکان جلوگیری کند. بر اساس دستورالعمل‌های جدید که با همکاری Business Insider منتشر شده، این شرکت تعیین کرده است که کدام موضوعات برای این ربات‌ها مناسب و کدامیک غیرقابل پذیرش هستند.

محدودیت‌های جدید چت‌بات‌های متا در تعامل با کاربران خردسال

این راهنماها که به‌منظور آموزش بات‌های هوش مصنوعی توسط پیمانکاران متا طراحی شده‌اند، نشان‌دهنده تلاش این شرکت برای محافظت از کودکان در برابر خطرات سوءاستفاده جنسی و جلوگیری از ورود آنها به گفت‌وگوهایی غیرمتناسب است. متا در ماه اوت اعلام کرد که با انتشار گزارشی از سوی رویترز که نشان می‌داد ربات‌ها با کودکان در زمینه‌های عاشقانه یا احساسی صحبت کرده‌اند، این دستورالعمل‌ها را به‌روزرسانی کرده است. متا تأکید کرد که این فعالیت‌ها مخالف با سیاست‌های داخلی شرکت بوده و به همین دلیل اقدام به تغییر دستورالعمل‌ها کرد.

متن بخشی از دستورالعمل جدید که توسط Business Insider منتشر شده، به‌وضوح مشخص می‌کند که کدام محتوا برای این ربات‌ها مجاز یا غیرمجاز است. به طور مشخص، ربات‌ها اجازه ندارند محتوایی تولید یا ترویج کنند که شامل سوءاستفاده جنسی از کودکان، بازی‌های نقش‌آفرینی در زمینه‌های عاشقانه با کاربران خردسال، یا بحث در مورد روابط صمیمی با کودکان باشد. با این حال، آنها می‌توانند در مورد موضوعاتی نظیر سوءاستفاده و خطرات ناشی از آن اطلاعاتی را ارائه دهند، ولی مجاز به ورود به گفت‌وگوهایی نیستند که بتواند به تشویق یا تسهیل این رفتارها منجر شود.

در ماه‌های اخیر، چت‌بات‌های هوش مصنوعی متا بارها در کانون بحث‌های نگران‌کننده‌ای قرار گرفته‌اند که بر خطرات احتمالی استفاده از آنها توسط کودکان تأکید دارد. به همین خاطر، کمیسیون تجارت فدرال (FTC) در ماه اوت تحقیقات رسمی درباره چت‌بات‌های هوش مصنوعی را آغاز کرد که علاوه بر متا، شامل شرکت‌های دیگری نظیر آلفابت، Snap ،OpenAI و X.AI نیز می‌شود.

این راهنماهای جدید با هدف تقویت ایمنی کودکان و جلوگیری از هرگونه تعامل زیان‌بار طراحی شده‌اند، به‌طوری‌که ربات‌ها بتوانند در مورد موضوعات حساس و آموزشی گفتگو کنند، اما باید از هرگونه تشویق به رفتارهای خطرناک برای کودکان اجتناب کنند. اقدام متا نشان‌دهنده تلاش‌های این شرکت برای هم‌راستایی سیاست‌های هوش مصنوعی با استانداردهای ایمنی دیجیتال و پاسخ به انتقادات عمومی است.