آیا هوش مصنوعی می‌تواند بدون دخالت انسان، نسل بعدی خودش را بسازد؟

پژوهشگران چینی در تحقیقی جدید بررسی کردند که برای رسیدن به هوش مصنوعی خودبهبوددهنده (Self-improving AI) چه مراحلی باید طی شود؛ یعنی سیستمی که بتواند ضعف‌های خود را بشناسند، روش بهبود عملکردش را ارتقا دهد و درنهایت نسل‌های قدرتمندتری از هوش مصنوعی بسازد. چنین قابلیتی می‌تواند راهی برای کاهش هزینه‌های فزاینده توسعه مدل‌های پیشرفته باشد، اما هنوز مشخص نیست که دستیابی به آن از نظر فنی امکان‌پذیر باشد.

این ایده که گاهی از آن با عنوان «آخرین هوش مصنوعی ساخته‌شده به دست انسان» یاد می‌شود، برپایه مفهومی به نام خودبهبودی بازگشتی (RSI) شکل گرفته است. در این رویکرد، مدل‌های هوش مصنوعی می‌توانند بخشی از فرایند آموزش و توسعه خود را به عهده بگیرند و از نتایج هر مرحله برای هدایت دور بعدی بهبود استفاده کنند.

در صورت تحقق چنین چرخه‌ای، سیستم‌های هوش مصنوعی شاید به‌تدریج بتوانند نسل‌های جدیدتر و قدرتمندتری از مدل‌ها را با دخالت کمتر یا اصلاً بدون دخالت انسانی توسعه دهند. بااین‌حال، فاصله میان آزمایش‌های محدود امروزی و سیستمی که واقعاً بتواند به‌طور مستقل خودش را بهبود دهد، همچنان زیاد است.

پنج سطح برای خودبهبودی هوش مصنوعی

پژوهشگران در مقاله خود، چارچوبی برای طبقه‌بندی توانایی خودبهبودی در سیستم‌های هوش مصنوعی پیشنهاد کرده‌اند. این مقاله هنوز همتاداوری نشده است.

این چارچوب پنج سطح دارد که از سطح یک، با کمترین میزان خودمختاری، تا سطح پنج، با بیشترین توانایی خودبهبودی، امتداد پیدا می‌کند. در سطوح ابتدایی، انسان‌ها همچنان نقش اصلی را در هدایت فرایند توسعه دارند و هوش مصنوعی بیشتر به‌عنوان ابزاری برای اجرای آزمایش‌ها و کمک به بهبود مدل عمل می‌کند. با حرکت به سطوح بالاتر، سیستم‌ها توانایی بیشتری برای شناسایی نقاط ضعف خود و انتخاب روش‌های برطرف‌کردن آن‌ها به دست می‌آورند.

در بالاترین سطح، هوش مصنوعی می‌تواند چیزی فراتر از بهبود عملکرد خود انجام دهد: روش‌هایی را که برای بهبود خودش به کار می‌گیرد نیز اصلاح کند. به این ترتیب، سیستم نه‌فقط یاد می‌گیرد بهتر دست به کار شود، بلکه می‌تواند فرایند یادگیری و توسعه خودش را هم بهبود دهد.

آیا خودبهبودی هوش مصنوعی شدنی است؟

اینکه هوش مصنوعی بتواند به چنین سطحی از خودبهبودی مداوم برسد، همچنان پرسشی بی‌پاسخ است. بااین‌حال، آزمایش‌های قبلی نمونه‌های محدودتری از این رویکرد را نشان داده‌اند. در یکی از پژوهش‌های انجام‌شده در اوایل سال جاری، سیستمی به نام A-Evolve-Training مأمور شد عملکرد یک مدل زبانی بزرگ با ۳۰ میلیارد پارامتر را بهبود دهد.

این سیستم در چهار دور آزمایش، روش‌های مختلف آموزش را بررسی کرد و با استفاده از نتایج هر مرحله، رویکرد خود را برای آزمایش‌های بعدی تغییر داد. حاصل این فرایند، بهبود نسبتاً محدود در عملکرد مدل براساس معیارهای ارزیابی استاندارد بود.

بااین‌حال، «پیتر بنتلی»، استاد زیست‌شناسی دیجیتال در دانشگاه کالج لندن، معتقد است چنین آزمایش‌هایی مسیر معتبری برای رسیدن به خودبهبودی بازگشتی واقعی ترسیم نمی‌کنند. بنتلی در گفت‌وگو با لایو ساینس، ایده اینکه هوش مصنوعی به‌صورت جادویی شروع به ساخت مدل‌های هوشمندتر کند را «بی‌معنی» توصیف کرد.

او یادآوری کرد که سیستم‌های خودبهبوددهنده پدیده تازه‌ای نیستند و دهه‌هاست که وجود دارند. برای مثال، محاسبات تکاملی و یادگیری تقویتی هر دو بر این اصل استوارند که سیستم با دریافت بازخورد، عملکرد خود را در طول زمان اصلاح کند.

اما به گفته بنتلی، چالش بسیار بزرگ‌تر، ساخت سیستم‌هایی است که بتوانند پژوهش‌های لازم برای توسعه نسل‌های قدرتمندتر هوش مصنوعی را به‌صورت مستقل انجام دهند. چنین سیستم‌هایی علاوه‌بر تخصص انسانی، همچنان به زیرساخت‌های فیزیکی و سخت‌افزاری محاسباتی وابسته‌اند.

نویسندگان مقاله نیز به موانع فنی و اقتصادی این مسیر اذعان کرده‌اند. توسعه سیستم‌هایی با قابلیت خودبهبودی بازگشتی ممکن است به سرمایه‌گذاری بسیار زیادی در قدرت محاسباتی نیاز داشته باشد. همچنین، نظارت انسانی برای اطمینان از اینکه هر مرحله واقعاً به بهبود معنادار منجر شده است، همچنان اهمیت دارد.

یکی از مشکلات اصلی این است که هزینه منابع موردنیاز برای توسعه و آزمایش نسل‌های بعدی مدل‌ها ممکن است از مزایایی که این مدل‌ها ایجاد می‌کنند بیشتر شود. در چنین شرایطی، ادامه فرایند خودبهبودی از نظر اقتصادی توجیه‌پذیر نخواهد بود.

مسئله دیگر، تشخیص واقعی پیشرفت مدل‌ها است. پژوهشگران باید بتوانند با اطمینان مشخص کنند که هوش مصنوعی در هر مرحله واقعاً توانمندتر شده است، نه اینکه صرفاً نقاط ضعف آزمون‌های ارزیابی را پیدا و از آن‌ها به نفع خود استفاده کند.

این مشکل در توسعه هوش مصنوعی شناخته‌شده است. مدل‌ها گاهی می‌توانند بدون بهبود واقعی توانایی‌هایشان، با سوءاستفاده از روش‌های آزمون یا انتخاب گزینشی نتایج، امتیازهای بالاتری در معیارهای ارزیابی به دست آورند.

«کایلا بلومکویست»، پژوهشگر هوش مصنوعی در دانشگاه آکسفورد، معتقد است مقاله جدید نقشه راه عملی و مشخصی برای دستیابی به خودبهبودی بازگشتی ارائه نمی‌کند؛ اما می‌تواند به توسعه‌دهندگان و سیاست‌گذاران کمک کند چالش‌های فنی و خطرات ایمنی مرتبط با افزایش خودمختاری سیستم‌های هوش مصنوعی را بهتر درک کنند.

او همچنین درباره این ایده تردید دارد که بتوان نقطه مشخصی را تعیین کرد که پس از آن، هوش مصنوعی کاملاً از فرایند توسعه انسانی مستقل شود.

درواقع، حتی اگر سامانه‌های هوش مصنوعی روزی بتوانند بخش بزرگی از فرایند توسعه نسل‌های بعدی خود را برعهده بگیرند، مشخص نیست این استقلال چه زمانی یا با چه معیاری کامل محسوب می‌شود. پرسش اصلی فقط این نیست که آیا هوش مصنوعی می‌تواند خودش را بهبود دهد، بلکه این است که تا چه اندازه می‌تواند بدون تکیه بر تخصص، نظارت و زیرساخت انسانی به این کار ادامه دهد.