OpenAI می گوید ChatGPT می تواند به ساخت سلاح های بیولوژیکی کمک کند!
براساس آزمایش های اولیه ای که OpenAI برای درک بهتر و همچنین جلوگیری از آسیب های «فاجعه بار» احتمالی ناشی از هوش مصنوعی ChatGPT انجام داده است، مدل GPT4 در تحقیقات مربوط به ساخت سلاح های بیولوژیکی، نسبت به اینترنت معمولی، مزیت جزئی به کاربران ارائه می کند.
براساس گزارش بلومبرگ، قانون گذاران و حتی برخی از مدیران فناوری در ماه های گذشته نگرانی های خود در این مورد که آیا هوش مصنوعی می تواند توسعه سلاح های بیولوژیکی را آسان تر کند یا نه، ابراز کرده اند. در ماه اکتبر، «جو بایدن»، رئیس جمهور ایالات متحده یک فرمان اجرایی در مورد هوش مصنوعی امضا کرد که به وزارت انرژی دستور داد تا اطمینان پیدا کند سیستم های هوش مصنوعی خطرات شیمیایی، بیولوژیکی یا هسته ای به همراه ندارند.
در همان ماه، OpenAI تیم موسوم به «چهارچوب آمادگی» را تشکیل داد که هدف آن به حداقل رساندن این خطرات و سایر خطرات ناشی از هوش مصنوعی است.
مقایسه هوش مصنوعی ChatGPT و اینترنت معمولی
حالا محققان تیم آمادگی OpenAI به عنوان بخشی از اولین مطالعه خود، از 50 متخصص زیست شناسی و 50 دانش آموز کمک گرفته است. به نیمی از آن ها گفته شد تا از طریق اینترنت دستورات مربوط به ساخت یک تهدید بیولوژیکی را جمع آوری کنند و گروه دیگر علاوه بر اینترنت، به یک نسخه ویژه و بدون محدودیت از مدل زبانی بزرگ GPT4 نیز دسترسی داشتند. وظیفه شرکت کنندگان این بود که درباره یک ماده شیمیایی که امکان استفاده از آن به عنوان سلاح وجود دارد، اطلاعات جمع آوری کنند. علاوه براین، از آن ها خواسته شده بود تا درباره نحوه انتشار این ماده شیمیایی نیز تحقیق کنند.
محققان OpenAI درنهایت پس از مقایسه نتایجی که این دو گروه به دست آوردند، در مطالعه خود به افزایش جزئی دقت و تمامیت تحقیق گروهی اشاره کردند که به ChatGPT دسترسی داشتند. برهمین اساس، آن ها به این نتیجه رسیدند که دسترسی به GPT4 به طور جزئی باعث می شود تا تحقیق در مورد ساخت یک تهدید بیولوژیکی آسان تر شود. همچنین به گفته آن ها گروهی که از ChatGPT استفاده کرده اند، پاسخ های دقیق تری داشتند.
