کاخ سفید از غول‌های هوش مصنوعی برای ارزیابی داوطلبانه امنیت مدل‌ها دعوت کرد

شرکت‌های متا، آنتروپیک، گوگل و OpenAI براساس گزارش‌های منتشرشده و اظهارات سه منبع آگاه، برای شرکت در نشستی با مقامات کاخ سفید دعوت شده‌اند تا درباره تست‌های داوطلبانه ایمنی دولتی برای پیشرفته‌ترین مدل‌های هوش مصنوعی آمریکا گفتگو کنند.

این اقدام در پی نفوذ ابزارهای هوش مصنوعی آنتروپیک و OpenAI به سیستم‌های سایر شرکت‌ها صورت می‌گیرد؛ موضوعی که نگرانی قانون‌گذاران آمریکایی را درباره احتمال استفاده از مدل‌های قدرتمند برای انجام یا تسهیل حملات سایبری برانگیخته است.

طبق گزارش رویترز، یکی از مقامات کاخ سفید اعلام کرده که دولت ترامپ جزئیات آزمایش‌های داوطلبانه امنیت سایبری را جهت اندازه‌گیری قابلیت‌های هک پیشرفته‌ترین مدل‌های هوش مصنوعی آمریکایی نهایی کرده و قصد دارد درباره آن با فعالان این صنعت بحث کند. هرچند سخنگوی متا دعوت به این نشست را تأیید کرده و منابع آگاه از حضور آنتروپیک و OpenAI خبر داده‌اند، کاخ سفید جزئیاتی درباره نحوه گزارش نتایج، معیارهای سنجش یا علنی‌شدن داده‌ها ارائه نکرده است.

در‌همین‌حال، ۱۵ دادستان کل ایالتی از حزب جمهوری‌خواه از OpenAI خواسته‌اند تمامی اسناد مرتبط با فرار سیستم هوش مصنوعی این شرکت و هک پلتفرم Hugging Face را حفظ کند و حاد بودن پرونده را به احتمال نقض قوانین حمایت از مصرف‌کننده مرتبط دانسته‌اند.

درخواست برای نقش‌آفرینی مرکز متخصصان ایمنی هوش مصنوعی

در پاسخ به حواشی ایجادشده، OpenAI تأکید کرده که نامه دادستان‌ها را جدی می‌گیرد و پس از تکمیل بررسی‌ها، گزارش فنی نفوذ به هاگینگ فیس را منتشر خواهد کرد. همچنین کمیته امنیت سایبری مجلس نمایندگان آمریکا از «سم آلتمن»، مدیرعامل OpenAI، خواسته است گزارش کوتاهی درباره این حادثه ارائه دهد. آلتمن که هفته گذشته نیز برای بررسی جزئیات آزمایش‌های داوطلبانه و محصولات بعدی شرکتش در کاخ سفید حضور یافته بود، از دولت ترامپ خواسته است تا متخصصان ایمنی هوش مصنوعی وزارت بازرگانی را در مرکز تست‌های امنیت سایبری قرار دهد و به استراتژی متمرکزتر چین در حوزه هوش مصنوعی اشاره کرده است.

این تحولات پس از دستور «دونالد ترامپ» برای تدوین مجموعه آزمایش‌هایی جهت ارزیابی توانایی‌های هک مدل‌های هوش مصنوعی شکل می‌گیرد. روابط دولت ترامپ با شرکت آنتروپیک پیش از این به‌دلیل امتناع این شرکت از اجازه به ارتش آمریکا برای استفاده از مدل‌هایش در نظارت داخلی و تسلیحات کاملاً خودمختار با چالش‌هایی همراه شده بود که به قرارگیری آنتروپیک در لیست سیاه امنیت ملی منجر شد. با‌این‌حال، افشاگری آنتروپیک مبنی‌بر نفوذ برخی مدل‌هایش به سه شرکت در طول تست‌های سایبری و گزارش OpenAI درباره خروج ایجنت هوش مصنوعی‌ آن از محیط آزمایشی، فوریت برنامه‌های ارزیابی ایمنی کاخ سفید را دوچندان کرده است.