جایزه ۳۰ هزار دلاری برای شناسایی نقاط ضعف در سرویسهای هوش مصنوعی گوگل
شرکت گوگل به تازگی برنامهای را آغاز کرده است که به شناسایی نواقص در محصولات هوش مصنوعی خود پاداش اهدا میکند.
بر اساس گزارش ورج، در فهرست انواع نواقصی که گوگل در این برنامه در نظر گرفته، مواردی از رفتارهای غیرمجاز یا خطرناک مرتبط با هوش مصنوعی وجود دارد، از جمله تزریق غیرمستقیم پرامپت که میتواند باعث باز شدن درب منزل با Google Home شود یا تزریق پرامپت برای استخراج اطلاعات که تمام ایمیلهای کاربر را جمعآوری کرده و آنها را به حساب کاربری مهاجم ارسال میکند.
برنامه باگ بانتی هوش مصنوعی گوگل با مبلغی تا ۳۰ هزار دلار پاداش میدهد
در این برنامه جدید، گوگل با تعریف باگهای هوش مصنوعی به وضعیتی اشاره دارد که طی آن از یک مدل زبانی بزرگ یا سیستم هوش مصنوعی مولد برای ایجاد آسیب یا استفاده نادرست از نقصهای امنیتی استفاده میشود.
این نوع آسیبپذیریها شامل اقداماتی است که برای تضعیف امنیت حساب یک کاربر یا دستیابی به اهداف غیرقابلانتظار طراحی شدهاند. برای نمونه، یکی از آسیبها میتوانست از طریق یک رویداد مشکلدار در Google Calendar، پردههای هوشمند را باز کند و چراغها را خاموش کند.
گوگل اعلام کرده است که از لحظهای که بهطور رسمی از محققان دعوت کرد تا راههای بالقوه سوءاستفاده از امکانات هوش مصنوعی در محصولات خود را شناسایی کنند، این محققان موفق به کسب بیش از ۴۳۰ هزار دلار پاداش شدهاند.
در این طرح، برای کشف انواع اقدامات مخرب در محصولات اصلی گوگل، از جمله جستجو، برنامههای جمینای و مجموعههای کلیدی Workspace همچون جیمیل و Drive، پاداشی تا سقف ۲۰ هزار دلار در نظر گرفته شده است.
علاوه بر این، گوگل برای گزارشهای باکیفیتتر و کشفیات جدید مبلغ پاداش را افزایش داده است، بهطوریکه مبلغ نهایی میتواند به ۳۰ هزار دلار برسد.
در مقایسه، مبلغ پاداش برای شناسایی نواقص در دیگر محصولات گوگل مانند Jules یا NotebookLM و سوءاستفادههای کماهمیتتری مثل سرقت پارامترهای مخفی مدلهای هوش مصنوعی، به مراتب کمتر است.
