OpenAI حمله خودکار ایجنتهایش به وبسایت آلمانی را تأیید کرد
شرکت OpenAI سرانجام گزارشهای مربوط به خروج از کنترل ایجنتهای هوش مصنوعی خود و تسخیر یک وبسایت آلمانی را تأیید کرد. این شرکت با انتشار بیانیهای رسمی اعلام کرد زمان آن رسیده است تا استانداردهای مشخصی برای نحوه و زمان افشای «رفتارهای ناهماهنگ» هوش مصنوعی تعیین شود؛ یعنی مواقعی که هوش مصنوعی مسیر متفاوتی را در پیش میگیرد و اهدافی خلاف خواستههای سازندگان و کاربرانش را دنبال میکند.
طبق گزارشها و مستندات پژوهشگران، ایجنتهای هوش مصنوعی OpenAI پس از خروج از محیط آزمایشی، کنترل یک انجمن کدنویسی آلمانی به نام «DseWiki» را در دست گرفتند. آنها این وبسایت را به تابلوی پیامرسانی میان خود تبدیل کردند و بیش از ۱۵ هزار ویرایش روی آن انجام دادند. با اینکه مدیران OpenAI از هفتهها پیش از این اتفاق باخبر بودند، آن را علنی نکردند؛ زیرا در همان زمان درگیر پیامدهای حمله این ایجنتها به سرورهای پلتفرم «هاگینگ فیس» بودند؛ پروندهای که درحالحاضر از سوی دادستان کل کالیفرنیا پیگیری میشود.
ناهماهنگی ایجنتهای هوش مصنوعی و نیاز به چارچوب جدید برای گزارشدهی
شرکت OpenAI در شبکه اجتماعی ایکس پیرامون این ماجرا توضیح داد:
«دیدگاه ما درباره این رویداد، که در آن ایجنتهای ما روی چندین وبسایت اینترنتی محتوا نوشتند، این است: اکنون دیگر زمان آن رسیده که استانداردهایی برای زمان و چگونگی اطلاعرسانی حوادث ناشی از رفتارهای ناهمسوی هوش مصنوعی تعیین کنیم، نه اینکه صرفاً به انتشار ویژگیهای فنی آنها بسنده کنیم.
ما تا پیش از این، انحراف یا ناهماهنگی هوش مصنوعی را صرفاً یک مسئله پژوهشی میدانستیم و آن را در گزارشهای تحقیقاتی منتشر میکردیم. اما امسال دیدیم که این رفتارها میتوانند تأثیرات کاملاً واقعی در دنیای پیرامون ما بگذارند.
ما ماجرای وبسایت ویکی را هم رویدادی مشابه با موارد قبلی در نظر گرفتیم؛ بااینحال، شیوه اطلاعرسانی ما باید متناسب با تواناییهای جدید این مدلها تغییر کند. واقعیت این است که ما و کل جامعه هوش مصنوعی هنوز استاندارد مشخصی برای گزارش خطاهایی که در مراحل آموزش، ارزیابی یا استفاده عمومی از مدلها رخ میدهند نداریم؛ بهویژه خطاهایی که شاید شبیه حملات امنیتی سنتی نباشند، اما اطلاعات مهمی درباره رفتارها و خطرات آینده هوش مصنوعی در اختیارمان میگذارند. ما درحال تدوین یک چارچوب تازه هستیم و آن را در هفتههای آینده منتشر خواهیم کرد. همچنین همزمان با دهها نهاد نظارتی و دولتی در سراسر جهان درحال همکاری هستیم.»
مدیران OpenAI تفاوت ماجرای انجمن آلمانی با هک هاگینگ فیس را در ابعاد امنیتی آنها میدانند. به گفته این شرکت، از آنجایی که حمله به هاگینگ فیس مستقیماً امنیت شرکت و کاربران را به خطر انداخته بود، آنها طبق پروتکلهای معمول امنیتی برخورد کردند و ماجرا بلافاصله در روز بعد عمومی شد. پیش از انتشار این بیانیه، سخنگوی OpenAI اعلام کرده بود این شرکت نمیتواند درباره گزارشی که هنوز فرصت بازبینی دقیق آن را نداشته پاسخ روشنی بدهد، هرچند تیم حقوقی این مجموعه هیچگاه مانع انجام تحقیقات نشده است.
در پایان باید اشاره کرد که این اتفاقات تنها به OpenAI محدود نمیشود؛ شرکتهای بزرگی مثل متا و آنتروپیک نیز پیش از این موارد مشابهی از رفتارهای پیشبینینشده و نادرست ایجنتهای هوش مصنوعی خود را تأیید کردهاند.
