هوش مصنوعی میتواند منجر به بروز تهدیدهای روز صفر در علم زیستشناسی گردد
یک گروه تحقیقاتی در مایکروسافت با افتخار اعلام کرده است که با بهرهگیری از هوش مصنوعی، موفق به شناسایی یک آسیبپذیری «روز صفر» در سیستمهای زیستامنیتی شدهاند که هدف آنها جلوگیری از سوءاستفاده از دادههای ژنتیکی است.
این سیستمهای غربالگری به منظور ممانعت از خرید توالیهای ژنتیکی طراحی شدهاند که میتوانند مورد استفاده برای تولید سموم کشنده یا عوامل بیماریزا قرار گیرند. اما حالا گروهی از پژوهشگران به رهبری «اریک هورویتز»، دانشمند ارشد مایکروسافت، از کشف راهی برای دور زدن این تدابیر امنیتی خبر دادهاند. روش آنان پیشتر برای مدافعان ناشناخته باقی مانده بود. نتایج این تحقیق در نشریه Science منتشر شده و برای عموم در دسترس قرار دارد.
هوش مصنوعی به دروازههای زیستشناسی وارد شده است
هورویتز و همکارانش بر روی الگوریتمهای هوش مصنوعی مولد تمرکز کردهاند که قادر به پیشنهاد اشکال نوین پروتئینی هستند. این دسته از برنامهها در شناسایی داروهای نوآورانه به استارتاپهای ثروتمند مانند Generate Biomedicines و Isomorphic Labs یاری میرسانند.
اما چالش اصلی زمانی آغاز میشود که چنین سیستمهایی کاربردهای دوگانه دارند، به این معنا که میتوانند از دادههای آموزشی خود هم برای تولید مولکولهای سودمند و هم مولکولهای مضر بهره ببرند.
در سال ۲۰۲۳، مایکروسافت یک آزمایش «رد-تیمینگ» مربوط به پتانسیل دوگانه هوش مصنوعی آغاز کرده است تا بررسی کند آیا هوش مصنوعی میتواند به زیستـتروریستها در طراحی پروتئینهای خطرناک کمک کند یا خیر.
ابزاری که مایکروسافت برای این حمله کرده، نرمافزاری است که به عنوان سیستم غربالگری زیستامنیتی شناخته میشود. برای ایجاد یک پروتئین، پژوهشگران معمولاً به توالی DNA تطابقی که از یک فروشنده تجاری سفارش دادهاند نیاز دارند، که سپس میتوانند آن را به داخل یک سلول انتقال دهند. این فروشندگان نیز برای پردازش سفارشهای دریافتی خود، از نرمافزارهای غربالگری استفاده میکنند تا آن سفارشها را با توالیهای شناختهشده سموم یا عوامل بیماریزا مقایسه کنند و در صورت وجود تطابق نزدیک، هشدار بدهند.
به نقل از محققان، این آزمایش به طور کامل دیجیتال انجام شده و آنها هیچ پروتئین سمی تولید نکردهاند. این اقدام به منظور جلوگیری از هر گونه سوءتفاهم مبنی بر اینکه شرکت در حال توسعه سلاحهای بیولوژیک است، انجام شده است.
مایکروسافت اعلام کرده است که پیش از انتشار نتایج به دولت ایالات متحده و توسعهدهندگان نرمافزار اطلاع داده است. با این حال، همچنان برخی از مولکولهای تولیدشده با هوش مصنوعی قادرند از شناسایی فرار کنند.
