آنتروپیک از افزونه Claude برای مدیریت مرورگر کروم پرده‌برداری کرد و ویدیو آن را منتشر نمود

شرکت آنتروپیک به تازگی از یک افزونه نوین برای مرورگر کروم پرده‌برداری کرده است که به دستیار هوش مصنوعی اختصاصی خود، Claude، این امکان را می‌دهد تا کنترل مرورگر را در دست بگیرد و انواع وظایف پیچیده را به شکل خودکار انجام دهد. این گام، آغاز حضور جدی‌تر آنتروپیک در عرصه پرچالش «هوش مصنوعی عاملی» (Agentic AI) را نشان می‌دهد؛ حوزه‌ای که در آن، سیستم‌های هوش مصنوعی قابلیت تعامل مستقیم با رابط‌های کاربری کامپیوتر را دارند.

افزونه جدید «Claude برای کروم» به کاربران این امکان را می‌دهد تا به هوش مصنوعی دستور دهند کارهایی را در مرورگر از طرف آن‌ها انجام دهد؛ به عنوان مثال، شما می‌توانید از هوش مصنوعی بخواهید تا جلسه‌ای تنظیم کند یا به ایمیل‌های شما سرکشی کند و به دنبال اطلاعات خاصی بگردد. این سیستم قادر است آنچه را که بر روی صفحه ظاهر می‌شود ببیند، بر روی دکمه‌ها کلیک کند، فرم‌ها را تکمیل کند و همچنین بین وب‌سایت‌ها جابه‌جا شود.

اگرچه آنتروپیک اعلام کرده است که این افزونه را تنها برای ۱۰۰۰ کاربر مورد اعتماد و در یک نسخه بتای محدود ارائه کرده، اما علت اصلی احتیاط آن‌ها، نگرانی‌های جدی در خصوص امنیت، به ویژه حملات «تزریق پرامپت» (Prompt Injection)، عنوان شده است.

افزونه هوش مصنوعی Claude برای کروم

افزونه جدید کروم می‌تواند به طرز چشمگیری اتوماسیون سازمانی را دگرگون سازد. به جای نیاز به APIهای پیچیده، این عامل‌های هوش مصنوعی می‌توانند با هر نرم‌افزاری که دارای رابط کاربری گرافیکی است، تعامل داشته باشند.

با این حال، آنتروپیک در مراحل آزمایش داخلی خود مشکلی امنیتی بسیار جدی را شناسایی کرده است. در این نوع حمله به نام «تزریق پرامپت»، یک دستور مخرب ممکن است دستورات پنهانی را به وب‌سایت، ایمیل یا سندی اضافه کند تا هوش مصنوعی را فریب دهد و بدون اطلاع کاربر، او را وادار به اتخاذ اقدامات مضر کند.

آزمایش‌های خود آنتروپیک نشان می‌دهد که در غیاب تدابیر ایمنی، این حملات موفقیت‌آمیز در حدود ۲۳.۶ درصد از موارد بوده است. به عنوان مثال، محققان آنتروپیک متوجه شدند که یک ایمیل مخرب که خود را به عنوان یک دستورالعمل امنیتی معرفی کرده بود، به Claude دستور می‌دهد تا تمامی ایمیل‌های کاربر را «به منظور بهداشت صندوق پستی» حذف کند و هوش مصنوعی نیز بدون دریافت هیچ‌گونه تأیید از او، به این خواسته پاسخ می‌دهد.

برای برخورد با این خطرات، آنتروپیک چندین لایه محافظتی را طراحی کرده است؛ از جمله مجوزهای دسترسی در سطح وب‌سایت، تأییدیه الزامی برای اقدامات خطرناک همچون خرید یا اشتراک‌گذاری اطلاعات شخصی و مسدود کردن دسترسی به وب‌سایت‌های حساس مانند خدمات مالی. این تدابیر توانسته‌اند نرخ موفقیت حملات «تزریق پرامپت» را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش دهند، اگرچه خود شرکت اذعان دارد که این سطح هنوز برای ارائه عمومی کافی نیست.

رویکرد محتاطانه آنتروپیک نسبت به رونمایی این افزونه، در تضاد کامل با رویکردهای تهاجمی‌تر رقبا قرار دارد. به عنوان مثال، OpenAI پیشتر ایجنت خود به نام «اپراتور» (Operator) را برای کاربران ChatGPT Pro معرفی کرده است؛ همچنین مایکروسافت قابلیت‌های مشابهی را در پلتفرم Copilot Studio خود گنجانیده است.