هکرهای چینی به بهرهبرداری از هوش مصنوعی Claude برای انجام حملات پرداختهاند
روز پنجشنبه، شرکت Anthropic اعلام کرد که هکرهایی تحت حمایت دولت چین در سپتامبر، از مدل هوش مصنوعی Claude این شرکت به منظور خودکارسازی تقریباً 30 حمله به سازمانها و نهادهای دولتی بهره بردهاند.
سوءاستفاده هکرها از هوش مصنوعی Claude
طبق گزارشی از والاستریتژورنال، آنتروپیک بیان کرده که حدود 80 تا 90 درصد از عملیات حملات به طور خودکار با استفاده از هوش مصنوعی صورت گرفته است که این درصد نسبت به حملات مشابه قبلی افزایش یافته است. «جیکوب کلاین»، رئیس بخش تهدیدات اطلاعاتی Anthropic، در خصوص این حملات توضیح داده که «عملیات به سادگی با یک کلیک و با کمترین نیاز به دخالت انسان انجام میشوند.»
او در ادامه افزود:
«کاربر تنها در چند نقطه کلیدی وارد عمل میشود و از دستوراتی همچون «بله، ادامه بده»، «ادامه نده»، «متشکرم از این اطلاعات»، «اوه، این درست به نظر نمیرسد» و «Claude، مطمئنی؟» استفاده میکند.»
Anthropic به والاستریتژورنال اطلاع داده که یقین دارد هکرها تحت حمایت دولت چین فعالیت داشتهاند. در این اقدام سایبری، دادههای حساسی از چهار قربانی به سرقت رفته است، اما مشابه با حملات پیشین، نام اهداف و نتیجه موفقیت یا شکست حمله بهدقت اعلام نشده است.
استفاده از مدلهای هوش مصنوعی برای انجام هکها به یک پدیده رایج در دنیای امروز تبدیل شده و راهبردهای جدیدی برای این مقصود به کار گرفته میشود. به تازگی، گوگل هکرهای روسی را شناسایی کرد که از مدلهای بزرگ زبانی برای تولید دستورات لازم برای بدافزارهای خود استفاده میکردند.
دولت ایالات متحده برای سالها در حال هشدار درباره این موضوع بوده که چین از هوش مصنوعی به منظور سرقت اطلاعات شهروندان و شرکتهای آمریکایی بهره میبرد. ادعایی که از سوی چین رد شده است.
آنتروپیک بهتازگی گزارشی منتشر کرده که در آن به تکنیک جدیدی به نام «وایب هکینگ» (Vibe hacking) اشاره شده است. این شرکت در گزارش خود بیان کرده که سیستمهای هوش مصنوعی عاملمحور به سرعت در حال تبدیل شدن به ابزارهایی برای حملات سایبری هستند و قادر به اجرای عملیات پیچیدهای هستند.
