آنتروپیک و OpenAI خواستار پیشگیری از ساخت سلاحهای بیولوژیک با AI شدند
مدیران ارشد بزرگترین شرکتهای توسعهدهنده هوش مصنوعی با ارسال یک نامه عمومی به اعضای کنگره آمریکا، خواستار تصویب قوانین جدیدی شدهاند تا از دسترسی افراد شرور به فناوریهای لازم برای ساخت سلاحهای بیولوژیک جلوگیری شود.
در میان امضاکنندگان این نامه، نامهای برجستهای همچون «دِمیس هاسابیس» از گوگل دیپمایند، «سم آلتمن» از OpenAI، «داریو آمودی» از آنتروپیک و «مصطفی سلیمان» از بخش هوش مصنوعی مایکروسافت به چشم میخورد. این افراد خواهان وضع قوانینی هستند که شرکتهای فروشنده DNA و RNA سنتز شده یا مصنوعی را ملزم به غربالگری و احراز هویت دقیق مشتریان و سفارشها کند تا جلوی سوءاستفاده از مواد ژنتیکی گرفته شود.
این نامه که توسط مؤسسه «انستیتو برای پیشرفت» و بنیاد «نوآوری برای آمریکا» سازماندهی شده، هشدار میدهد که با توجه به سرعت بالای توسعه هوش مصنوعی، احتمال زیادی وجود دارد که موانع علمی پیشین که مانع دسترسی افراد خطرناک به سلاحهای بیولوژیک میشدند، به شکل معناداری از بین بروند.
فرآیند ساخت DNA که اولین بار در دهه ۱۹۵۰ میلادی توسط دانشمندی به نام «آرتور کورنبرگ» انجام شد، امروزه کاملاً خودکار شده است. درحالحاضر دهها شرکت در سراسر جهان با استفاده از دستگاههای چاپگر تجاری، توالیهای ژنتیکی سفارشی را برای تحقیقات علمی، توسعه دارو و تشخیص بیماریها تولید کرده و به فروش میرسانند. هرچند بسیاری از این تامینکنندگان تنها به محققان واجد شرایط، شرکتهای بیوتکنولوژی و موسسات آموزشی خدمات میدهند، اما همه آنها اقدام به غربالگری مشتریان یا بررسی توالیهای ژنتیکی سفارشدادهشده نمیکنند.
پیش از این و در سال ۲۰۱۷، محققان کانادایی با استفاده از DNA سفارشی توانسته بودند ویروس منقرضشده آبله اسب (Horsepox) را بازسازی کنند. منتقدان در آن زمان هشدار دادند که از همین روش میتوان برای بازسازی ویروس مرگبار آبله انسانی استفاده کرد.
امروز ترکیب این فناوری با پیشرفتهای هوش مصنوعی و مدلهای زبانی بزرگ، طراحی سموم و عوامل بیماریزای جدید مانند ویروسها و باکتریها را تسهیل کرده است. هرچند هنوز برای ساخت یک ویروس فعال از صفر به مقداری آموزش و دانش بیولوژی نیاز است، اما نگرانی اصلی این است که یک پاتوژن طراحیشده توسط هوش مصنوعی، چه به صورت عمدی و چه غیرعمدی، جرقهبخش یک همهگیری جهانی و مرگبار شود.
«دیوید رلمان»، میکروبیولوژیست و متخصص امنیت زیستی دانشگاه استنفورد که خود این نامه را امضا کرده، میگوید:
«ابزارهای هوش مصنوعی به کاربر اجازه میدهند تا به سرعت شرکتهایی را که فاقد سیستم غربالگری سفارشها هستند، شناسایی کند. این ابزارها حتی در صورت درخواست مناسب میتوانند راهکار تغییر ساختار سفارش را آموزش دهند تا شرکتهای دارای سیستم غربالگری نیز نتوانند ماهیت خطرناک سفارش را تشخیص دهند.»
علاوهبر دانشمندان و کارشناسان امنیت ملی، مدیران شرکتهای بزرگی همچون Twist Bioscience و Ansa Biotechnologies نیز این نامه را امضا کردهاند. این شرکتها عضو «کنسرسیوم بینالمللی سنتز ژن» هستند که در سال ۲۰۰۹ برای اجرای روشهای غربالگری داوطلبانه شکل گرفت و اکنون نیز از نرمافزارهایی برای شناسایی توالیهای خطرناک استفاده میکنند. بااینحال، تحقیقات نشان داده ابزارهای هوش مصنوعی طراحی پروتئین میتوانند توالیهای خطرناکی را پیشنهاد دهند که با ساختاری مشابه مواد مرگبار، سیستمهای غربالگری فعلی شرکتها را دور میزنند.
