مدل‌های هوش مصنوعی بروز توهم را کمتر از انسان‌ها تجربه می‌کنند

«داریو آمودی»، مدیرعامل شرکت هوش مصنوعی آنتروپیک، بر این باور است که مدل‌های هوش مصنوعی کنونی نسبت به انسان‌ها کمتر در معرض توهم قرار می‌گیرند. در این زمینه، توهم زدن مدل‌های هوش مصنوعی به معنای تولید اطلاعات غلط و ارائه آن‌ها به شکل واقعی به نظر می‌رسد.

طبق گزارش تک کرانچ، در خلال اولین مراسم توسعه‌دهندگان آنتروپیک در سانفرانسیسکو، آمودی اظهار داشت که مدل‌های هوش مصنوعی نسبت به انسان‌ها کمتر دچار توهم می‌شوند. او این نظرات را در پاسخ به این سؤال مطرح کرد که آیا این توهمات مانعی برای پیشرفت آنتروپیک به سمت هوش جامع مصنوعی (AGI) محسوب می‌شود یا خیر.

توهم زدن یکی از مشکلات عمده توسعه مدل‌های هوش مصنوعی است

او در ادامه افزود: «این واقعاً به نحوه اندازه‌گیری بستگی دارد، اما به نظر می‌رسد که احتمال توهم در مدل‌های هوش مصنوعی کمتر از انسان‌ها باشد، هرچند که ظهور توهمات آن‌ها به شکل‌های غیرمنتظره‌تری بروز می‌کند.»

آمودی یکی از خوش‌بین‌ترین فعالان در عرصه هوش مصنوعی به شمار می‌آید و به تحقق هوش جامع مصنوعی (AGI) باور دارد. او در مقاله‌ای که سال گذشته منتشر کرد، بیان داشت که شرکت‌های فعال در این حوزه می‌توانند تا سال ۲۰۲۶ به AGI برسند. همچنین در نشست خبری اخیرش اعلام کرد که روند دستیابی به این هدف به صورت مستمر در حال پیشرفت است.

با این حال، برخی از دیگر رهبران صنعت هوش مصنوعی بر این عقیده‌اند که توهم به عنوان یک مانع بزرگ در مسیر تحقق هوش جامع مصنوعی شناخته می‌شود. برای نمونه، «دمیس هسابیس»، مدیرعامل گوگل DeepMind، نکته‌سنجی می‌کند که مدل‌های فعلی هوش مصنوعی هنوز نقاط ضعفی دارند و به سؤالات واضح پاسخ‌های اشتباهی ارائه می‌دهند. برای نمونه، اوایل ماه جاری، آنتروپیک به خاطر تولید توهم توسط یکی از مدل‌هایش و ارائه اسامی نادرست در یک پرونده حقوقی ناچار به عذرخواهی شد.

با این وجود، شواهدی وجود دارد که نشان می‌دهد میزان توهم در مدل‌های هوش مصنوعی به موازات افزایش توانایی‌های استدلال پیشرفته در حال افزایش است. به عنوان مثال، مدل‌های o۳ و o4-mini شرکت OpenAI نسبت به مدل‌های نسل قبلی این شرکت، نرخ توهم بالاتری را نشان می‌دهند و خود OpenAI هنوز دلیل این پدیده را کشف نکرده است.