راه مقابله با نفوذ هوش مصنوعی، استفاده بیشتر از هوش مصنوعی است

«گرگ براکمن»، رئیس OpenAI، در یادداشتی هشدار داد که پیشرفت سریع قابلیت‌های کدنویسی هوش مصنوعی، تهدیدهای سایبری را افزایش داده است و سازمان‌ها برای جلوگیری از نفوذ، باید روش‌های امنیت سایبری خود را با سرعتی بسیار بیشتر ارتقا دهند؛ به عبارتی یعنی بیشتر به هوش مصنوعی روی بیاورند.

براکمن در وبلاگ شخصی خود می‌نویسد هوش مصنوعی می‌تواند در حوزه دفاعی نیز بسیار مؤثر باشد و ساختار اقتصادی امنیت سایبری را به نفع مدافعان تغییر دهد. تولید کدهای دارای امنیت فوق‌بشری و ایجاد اثبات‌های ریاضی برای سیستم‌های رمزنگاری از جمله کارکردهای دفاعی این فناوری هستند.

نظرات رئیس OpenAI درباره تهدیدهای سایبری هوش مصنوعی

رئیس اوپن‌ای‌آی به تیم‌های امنیتی توصیه کرده است که استفاده از ایجنت‌های هوش مصنوعی را در اولویت قرار دهند و آن‌ها را به ابزارهایی به منظور بررسی امنیتی کدها، تحلیل آسیب‌پذیری و ارزیابی ریسک زنجیره تأمین نرم‌افزار مجهز کنند.

البته براکمن می‌گوید این اقدامات باید تدریجی و پله‌به‌پله باشد و پیشنهاد داده است که فرایندها ابتدا از اسکن‌های ساده آغاز شود و سپس به اسکن‌های عملیاتی و رفع خودکار هشدارهای نادرست گسترش یابد.

مدل‌های پیشرو مثل میتوس آنتروپیک توجه کارشناسان امنیت و مقام‌های دولتی را در ماه‌های اخیر به خود جلب کرده‌اند. این مدل‌ها به‌صورت برنامه‌هایی با دسترسی محدود عرضه می‌شوند و فقط در اختیار شرکای تأییدشده قرار دارند.

تفاوت اصلی این مدل‌ها در توانایی آن‌ها برای شناسایی سریع حفره‌های امنیتی و پیکربندی‌های نادرست و همچنین ایجاد زنجیره‌های حمله جدید است. توسعه هوش مصنوعی اکنون بر ایجنت‌‌های هوش مصنوعی متمرکز شده است که می‌توانند به نرم‌افزارها متصل شوند.

برخی پژوهشگران حوزه‌های امنیتی بر این باورند که سرعت ارتقای نرده‌های حفاظتی در مدل‌های زبانی بزرگ با سرعت رشد قابلیت‌های آن‌ها همگام نبوده است. البته شرکت‌های دارای دسترسی به مدل‌های پیشرو اصلاحیه‌های امنیتی متعددی منتشر کرده‌اند؛ برای مثال اوراکل در ماه گذشته نزدیک به ۱۴۵۰ وصله امنیتی عرضه کرد.