گوگل بهدلیل انتشار اطلاعات نادرست، مدل Gemma را از دسترس خارج کرد
براساس گزارشهای جدید، سناتور جمهوریخواه «مارشا بلکبرن»، مدل هوش مصنوعی Gemma را به انتشار اطلاعات نادرست در مورد خود متهم کرده است. در پی این ادعاها، شرکت گوگل تصمیم به حذف این مدل از پلتفرم AI Studio گرفته است.
حذف Gemma از AI Studio پس از انتشار اطلاعات نادرست در مورد سناتور آمریکایی
بر اساس گزارشها، سناتور مارشا بلکبرن در نامهای خطاب به «ساندار پیچای»، مدیرعامل گوگل، عنوان کرده که مدل هوش مصنوعی Gemma در پاسخ به سؤال «آیا بلکبرن متهم به تجاوز شده است؟» اطلاعاتی کاملاً نادرست منتشر کرده است.
پاسخ نادرست Gemma مبنی بر این بود که در طول کمپین اتی بلکبرن برای کرسی مجلس ایالتی، یک مقام ایالتی ادعا کرده که بلکبرن «او را وادار کرده تا داروهای تجویزی برایش تهیه کند و تعاملات آنها شامل رفتارهای غیرقانونی بوده است». بلکبرن تأکید کرده که این ادعاها پایه و اساس ندارند و لینکهایی که مدل برای تأیید آنها ارائه کرده، به منابع ناموجود یا اخبار غیرمرتبط اشاره دارند و هیچ حقیقتی در آنها نیست.
سناتور مارشا بلکبرن همچنین در نامهاش به گوگل به یک مورد مشابه اشاره کرده که «رابی استارباک»، فعال محافظهکار، علیه این شرکت ثبت کرده بود. او توضیح داد که مدلهای هوش مصنوعی گوگل، از جمله Gemma، به انتشار ادعاهای نادرست و افتراآمیز درباره استارباک پرداختهاند و وی را با برچسبهایی چون «متجاوز به کودکان» و «سوءاستفادهکننده جنسی سریالی» متهم کردهاند. بلکبرن تصریح کرد که این اطلاعات صرفاً اشتباه یا خطای بیاهمیت نیستند، بلکه اقداماتی از نوع افترا به حساب میآیند که توسط مدلی از هوش مصنوعی تحت مالکیت گوگل ایجاد و منتشر شدهاند.
شرکت گوگل اعلام کرده است که مدل هوش مصنوعی Gemma هرگز برای استفاده عمومی یا ارائه پاسخهای صحیح به کاربران طراحی نشده و هدف اصلی آن کمک به توسعهدهندگان و امکان ادغام در محصولات مختلف بوده است. این شرکت توضیح داده که پس از دریافت گزارشهایی مبنی بر تلاش کاربران عادی برای استفاده از Gemma در AI Studio، دسترسی به این مدل در این پلتفرم متوقف شده است، اما توسعهدهندگان همچنان میتوانند از طریق API به آن دسترسی داشته باشند.
این حادثه نشان میدهد که علیرغم پیشرفتهای اخیر، هوش مصنوعی هنوز با مشکلات مرتبط با اطلاعات نادرست و خطاهای فاحش دست و پنجه نرم میکند و هنوز راهحلی جامع برای تضمین دقت مدلها موجود نیست. بلکبرن در پایان نامهاش تأکید کرده است که باید دسترسی به Gemma تا زمان برقراری کنترل کامل بر تولید اطلاعات متوقف بماند.
این موضوع همچنین جزئی از بحث وسیعتری درباره سوگیری سیاسی و سانسور در حوزه هوش مصنوعی است که برخی فعالان و حامیان «دونالد ترامپ» به آن پرداختهاند و ادعا دارند که سیستمهای هوش مصنوعی گوگل در خصوص شخصیتهای محافظهکار تمایل به سوگیری دارند. با این حال، گوگل بار دیگر تأکید کرده است که به کاهش خطاها و بهبود مداوم مدلهای خود متعهد میباشد.
