پلی‌استیشن در تلاش است تا با استفاده از هوش مصنوعی کاربران مشکل‌ساز را شناسایی کند

با اینکه چالش‌ها و تبعات منفی هوش مصنوعی به وضوح در دنیای امروز وجود دارد، بعضی شرکت‌ها در تلاشند تا از این تکنولوژی در روش‌های سازنده و موثر بهره ببرند. یکی از نمونه‌های جالب توجه، پتنت جدید منتشر شده پلی‌استیشن به شماره 18/314775 است که به نام “سیستم یکپارچگی اجتماعی برپایه مدل زبانی بزرگ” (Large Language Model Powered Social Integrity System) به ثبت رسیده است.

به عبارتی ساده‌تر، این فناوری به نوعی حساب کاربری جعلی (Pseudo Account) اشاره دارد که به منظور شناسایی کاربران بالقوه خطرناک طراحی شده است. در انشای این پتنت، به این مورد اشاره شده که این حساب مجازی قادر است:

رفتارهای پیام‌رسانی و ویژگی‌های جمعیت‌شناختی یک قربانی بالقوه را تقلید کند و در عین حال برای یک کاربر ضداجتماعی (AS) به شکل کاملاً واقعی جلوه کند.

این سیستم حتی می‌تواند رفتار پیام‌رسانی افراد کم‌سن و سال را شبیه‌سازی کند و آن را در محیط‌هایی که کاربران ضداجتماعی بدنبال چنین تعاملاتی هستند، به نمایش بگذارد. آنگاه حساب کاربری ضداجتماعی با این حساب جعلی وارد تعامل می‌شود. در ادامه توضیحات پتنت آمده است:

حساب کاربری ضداجتماعی ممکن است به‌عنوان یک حساب مشکوک علامت‌گذاری شود. سپس سیستم می‌تواند منتظر بماند تا کاربر ضداجتماعی نخستین اقدام نامناسبی را علیه یک حساب واقعی انجام دهد و قبل از شکل‌گیری هر نوع ارتباط نامناسب، این اقدام را گزارش کند.

حساب جعلی تحت کنترل یک مدل زبانی بزرگ (LLM)، نظیر مدل‌های مبتنی بر GPT، عمل می‌کند.

چه رفتارهایی در زمرهٔ مشکوک قرار می‌گیرند؟

این سیستم که مورد نظر پلی‌استیشن است، قابلیت مانیتورینگ طیف وسیعی از فعالیت‌ها را دارد؛ که از جمله آن‌ها می‌توان به موارد زیر اشاره کرد:

• ارسال پیام‌های اسپم
• درخواست اطلاعات شخصی
• ارسال پیام‌های نامناسب
• تقلب در بازی‌ها
• کلاهبرداری
• تلاش برای ارتباط با افراد کم‌سن و سال

بدین ترتیب این سیستم قرار نیست به‌صورت فوری کاربرانی با این ویژگی‌ها را مسدود یا مجازات کند و تعاملات عادی کاربران نیز در نظر گرفته نخواهند شد. با این وجود، حساب‌هایی که رفتارهایی مشکوک از خود نشان دهند، علامت‌گذاری می‌شوند و افرادی که با آن‌ها در ارتباط بوده‌اند، هشدار دریافت خواهند کرد.

در واقع، هدف پلی‌استیشن ایجاد یک سیستم نظارتی و مدیریت محتواست که یک مزیت مهم دارد: کاربر خطرناک هرگز متوجه نخواهد شد که در حال تعامل با یک حساب کاربری جعلی زیر نظر هوش مصنوعی است.

در میان کاربردهای گوناگون هوش مصنوعی، چنین سیستمی می‌تواند به‌عنوان یک نمونه نسبتاً مثبت از این فناوری به شمار آید. اما سوال اساسی این است که آیا سونی واقعاً قصد دارد این ایده را در پلی‌استیشن پیاده‌سازی کند یا خیر؛ چرا که بسیاری از پتنت‌هایی که شرکت‌ها در طول سال‌ها به ثبت می‌رسانند، هرگز به محصولات یا قابلیت‌های تجاری تبدیل نمی‌شوند. بنابراین باید ببینیم آیا این فناوری در نهایت به کنسول‌های پلی‌استیشن راه خواهد یافت یا خیر.

در خصوص تصمیمات اخیر پلی‌استیشن، چنین فناوری‌ای می‌تواند به این شرکت یاری رساند تا محیطی امن‌تر برای کاربران خود فراهم آورد؛ به ویژه پس از تصمیم بحث‌برانگیز این شرکت مبنی بر توقف تولید دیسک‌های فیزیکی بازی‌های جدید از ژانویه ۲۰۲۸. با وجود واکنش‌های منفی گسترده به این تصمیم، لین تائو (Lin Tao)، مدیر مالی سونی، بیان کرده است که این شرکت قصد دارد این پروسه را با احتیاط انجام دهد.