OpenAI با بهرهبرداری از ChatGPT به مقابله با نظارت بر شبکههای اجتماعی پرداخت
OpenAI اعلام کرده است که اقدام به مسدودسازی برخی حسابهای کاربری مرتبط با چین کرده که بهمنظور طراحی تبلیغات و پروژهای در زمینه یک ابزار نظارتی بر شبکههای اجتماعی از ChatGPT استفاده میکردند.
به گفته این شرکت، این حسابها از طریق اتصال VPN به ChatGPT از چین دسترسی پیدا میکردند و به نظر میرسد که برای یک نهاد دولتی مشغول به کار بودند. ابزاری که این حسابها بر روی آن کار میکردند، بهعنوان یک نظارتکننده شبکههای اجتماعی تعریف شده که به اپراتورها امکان میدهد پلتفرمهایی نظیر ایکس، فیسبوک، اینستاگرام، ردیت، تیکتاک و یوتیوب را از منظر محتوای مرتبط با نژاد، دین یا سیاست زیرنظر داشته باشند.
اکانتهای مسدودشده ChatGPT احتمالاً به نهادی دولتی در چین مرتبط بودهاند
OpenAI تأکید کرده که حسابهای مسدودشده از تکنولوژیهای هوش مصنوعی خود این شرکت برای رصد شبکههای اجتماعی بهره نبردهاند و همچنین این شرکت نمیتواند بهطور مستقل تأیید کند که آیا این ابزار واقعاً در اختیار نهادهای دولتی چین قرار گرفته است یا خیر.
این شرکت همچنین یک حساب کاربری دیگر را مسدود کرده که از ChatGPT بهمنظور تهیه پیشنهادی برای پروژهای که به رصد تحرکات مسلمانان اویغور مربوط میشد، استفاده میکرد. این سیستم بهگونهای طراحی شده بود که جابهجاییهای اویغورها را زیرنظر قرار داده، اطلاعات را با سوابق پلیس تطبیق دهد و هشدارهای زودهنگام درباره جابهجاییهای آنها ارائه کند. در سالهای اخیر، گروههای حقوق بشری به طور مکرر دولت چین را به نقض حقوق مسلمانان اویغور متهم کردهاند.
گزارش منتشرشده توسط OpenAI همچنین اطلاعات بیشتری درباره گروههای چینی، روسی و کرهای ارائه میدهد که بهطور ظاهری در صدد بودهاند از ChatGPT برای توسعه و ارتقاء بدافزارها، شامل تروجانهای دسترسی از راه دور، ابزارهای سرقت اطلاعات و نرمافزارهایی برای دور زدن فرایندهای شناسایی در سیستمها استفاده کنند.
OpenAI همچنین شبکههای کلاهبرداری موجود در کامبوج، میانمار و نیجریه که سعی در سوءاستفاده از فناوریهای این شرکت داشتند، شناسایی و اقدامات لازم برای مختل کردن آنها را انجام داده است.
