OpenAI علت بروز توهمات در هوش مصنوعی را شناسایی کرده و راه‌حلی برای برطرف کردن آن ارائه نموده است

اخیراً، شرکت OpenAI با انتشار مقاله‌ای به بررسی علل توهمات در هوش مصنوعی پرداخته و راه‌حل‌هایی برای این معضل نیز ارائه داده است.

چت‌بات‌های هوش مصنوعی اکنون در محیط‌های آموزشی، اداری و زندگی روزمره به‌طور فعالانه مشغول به فعالیت هستند، اما این ابزارها هنوز با یک مشکل آزاردهنده مواجه‌اند. این چت‌بات‌ها در برخی مواقع اقدام به تولید اطلاعات نادرست می‌کنند، که این پدیده به عنوان «توهم» شناخته می‌شود. نتایج حاصل از این مدل‌ها می‌تواند کاملاً متقاعدکننده به نظر برسد، اما در واقعیت، از لحاظ صحت بسیار اشتباه است.

OpenAI در پی ایجاد سیستم‌های هوش مصنوعی بدون توهم

اکنون شرکت OpenAI اعلام کرده است که به درک عمیقی از علل این پدیده دست یافته و معتقد است که راه‌حل‌های موثر برای افزایش قابلیت اعتماد ابزارهای هوش مصنوعی آینده را یافته است. این شرکت به‌تازگی مقاله‌ای ۳۶ صفحه‌ای منتشر کرده که با همکاری «سانتوش ومپالا» از دانشگاه جورجیا تک و تعدادی از پژوهشگران دیگر تألیف شده و به بررسی چالش توهمات در هوش مصنوعی اختصاص دارد.

<pبراساس تحقیقات به عمل آمده، توهمات فقط نتیجه طراحی ضعیف مدل‌ها نیستند، بلکه به شیوه آزمون و ارزیابی سیستم‌های هوش مصنوعی مربوط می‌شود. طبق معیارهای موجود، چت‌بات‌ها با ارائه پاسخ به سوالات، حتی اگر پاسخ نادرست باشد، تشویق می‌شوند. در حالی که این روش، به مدل‌هایی که از پاسخ دادن به سؤالات در صورت عدم اطمینان خودداری می‌کنند، مجازات می‌کند.

این وضعیت را می‌توان به امتحان‌های چندگزینه‌ای تشبیه کرد، جایی که به جای آنکه دانش‌آموز سوالاتی را بی‌پاسخ بگذارد، به حدس زدن پاسخ‌ها ترغیب می‌شود.

مقاله به منظور حل چنین معضلی پیشنهاد می‌کند که سیستم امتیازدهی معکوس شود. به این صورت که پاسخ‌های «اعتماد به نفس بالا ولی نادرست» به شدت مجازات شوند، در حالی که برای احتیاط و اذعان به عدم قطعیت، باید به مدل پاداش داده شود.

استفاده از این رویکرد به‌نظر می‌رسد که نتایج مثبتی نیز به همراه داشته است. در یک ارزیابی، مدلی که محتاط‌تر عمل می‌کرد تنها به نیمی از سوالات پاسخ داد اما ۷۴ درصد از آنها درست بود، در حالی که مدلی دیگر تقریباً به تمامی پرسش‌ها پاسخ داد، اما در سه مورد از هر چهار مورد دچار توهم گردید.