گوگل درباره اشتباهات هوش مصنوعی AI Overviews توضیح می‌دهد
هفته گذشته، قابلیت هوش‌مصنوعی AI Overviews گوگل خبرساز شد و گزارش‌هایی از پاسخ‌های عجیب آن به کاربران مانند اضافه‌کردن چسب روی پیتزا یا خوردن روزانه یک تکه سنگ منتشر شد. گوگل بعداً اعلام کرد که می‌خواهد جستجوهای هوش مصنوعی برای برخی موضوعات خاص را به‌طور دستی غیرفعال کند تا کاربران کمتر با پاسخ‌های عجیب مواجه شوند و حالا غول موتور جستجو پست جدیدی درباره اشتباهات این قابلیت منتشر کرده است.
در پست وبلاگ گوگل، «لیز رید»، رئیس بخش جستجوی شرکت، «خلأهای اطلاعاتی» و همچنین سوالات عجیب‌و‌غریبی که توسط کاربران پرسیده شده است را مقصر نتایج نادرست قابلیت هوش‌مصنوعی خود می‌داند.
دفاع گوگل از هوش مصنوعی AI Overviews
رید در استدلال خود توضیح می‌دهد که AI Overviews معمولاً «توهم» ندارد و فقط گاهی اوقات اطلاعاتی که در وب وجود دارد را به اشتباه تفسیر می‌کند. او می‌نویسد:
«هیچ‌چیز مانند این نیست که میلیون‌ها نفر از این ویژگی با جستجوهای جدید استفاده کنند. ما همچنین جست‌وجوهای جدید بی‌معنی را دیده‌ایم که ظاهراً با هدف تولید نتایج اشتباه انجام شده‌اند.»
او همچنین ادعا می‌کند که در گزارش‌های مربوط به اشتباهات AI Overviews، «تعداد زیادی اسکرین‌شات جعلی» وجود دارد.
اسکرین‌شاتی که در آن پاسخ سوال «روزانه چند سنگ باید بخورم؟» ارائه شده، به گفته رید واقعی است، اما رئیس بخش جستجوی گوگل توضیح می‌دهد که انتشار یک مطلب طنز در این رابطه، باعث‌شده تا قابلیت هوش مصنوعی این شرکت چنین پاسخی را ارائه کند. او توضیح می‌دهد:
«تا قبل از پخش‌شدن این اسکرین‌شات‌ها، عملاً هیچ‌کس چنین سوالی از گوگل نپرسیده بود، بنابراین هوش مصنوعی شرکت به آن وب‌سایت پیوند داده است.»
در نهایت، گوگل با بررسی این مشکلات ظاهراً توانسته تا الگوهایی را مشخص کند که در آن فناوری هوش مصنوعی وظایف خود را به درستی انجام نمی‌دهد. سپس براساس این مشاهدات، چندین پیشرفت برای AI Overviews اعمال شده است. از جمله این پیشرفت‌ها به استفاده از مکانیسم‌های تشخیص بهتر برای جستجوهای بی‌معنی اشاره شده است.
