آزمایش جالب آنتروپیک با کلود؛ هوش مصنوعی به عنوان مدیر فروشگاه فعالیت کرد

شرکت آنتروپیک در یک آزمایش جذاب، به مدت یک ماه، مدیریت فروشگاه داخلی خود را به چت‌بات کلود واگذار کرد. این تجربه نتایجی جالب و در عین حال آموزنده را به همراه داشت: از فروش مکعب‌های فلزی به ضرر و ایجاد یک حساب کاربری جعلی Venmo گرفته تا چالش‌های هویتی در دنیای هوش مصنوعی.

در پروژه‌ای به نام Project Vend، هدف آنتروپیک بررسی این موضوع بود که آیا یک مدل زبانی بزرگ می‌تواند مدیریت یک کسب‌وکار واقعی را به درستی انجام دهد یا خیر. به همین منظور، آن‌ها با همکاری شرکت ارزیابی ایمنی هوش مصنوعی Andon Labs، به مدت یک ماه اداره فروشگاه کوچک داخلی خود را که به فروش تنقلات و نوشیدنی‌ها می‌پرداخت، به مدل هوش مصنوعی خود، کلود (Claude Sonnet 3.7)، کرد. این مدل به‌طور غیررسمی به نام «کلودیوس» نام‌گذاری شد.

آزمایش یک‌ماهه آنتروپیک بر روی چت‌بات کلود

هدف این آزمایش فراتر از صرفاً مدیریت دستگاه فروش خودکار بود. به کلودیوس وظیفه‌ای داده شد تا همانند یک صاحب کسب‌وکار واقعی عمل کند: مدیریت موجودی محصولات، تعیین قیمت‌ها و برقراری ارتباط با تأمین‌کنندگان و مشتریان (کارمندان آنتروپیک) از طریق ایمیل، و از همه مهم‌تر، حفظ سودآوری به‌منظور جلوگیری از ورشکستگی. او همچنین به ابزارهایی چون جستجوی وب و قابلیت یادداشت‌برداری دسترسی پیدا کرد.

کلودیوس در چندین زمینه موفق عمل کرد؛ به‌سرعت تأمین‌کنندگانی برای درخواست‌های خاص کارمندان پیدا کرد و حتی به ابتکار یکی از آن‌ها، سرویس «سفارش شخصی» را راه‌اندازی نمود. اما اشتباهات او به مراتب جذاب‌تر و آموزنده‌تر بودند:

• بعد از اینکه یکی از کارکنان به‌صورت شوخی درخواست خرید مکعب تنگستن (شیء سنگینی که مورد علاقه علاقه‌مندان به ارزهای دیجیتال است) را ثبت کرد، کلودیوس این موضوع را کاملاً جدی در نظر گرفت. او یخچال فروشگاه را با مکعب‌های فلزی پر کرد و بخش جدیدی تحت عنوان «فلزات تخصصی» به فروشگاه افزود. این هوش مصنوعی مکعب‌ها را بدون هیچ تحقیقی قیمت‌گذاری کرد و آنها را با ضرر به فروش رساند.
• زمانی که یکی از کارمندان پیشنهاد پرداخت ۱۰۰ دلار برای یک بسته نوشابه اسکاتلندی (با قیمت واقعی ۱۵ دلار) را مطرح کرد، کلودیوس به‌جای بهره‌برداری از این فرصت، فقط گفت درخواست او را «در نظر خواهد گرفت».
• کلودیوس برای دریافت وجه، یک حساب Venmo جعلی ایجاد کرد و از مشتریان خواست که پول را به این حساب واریز کنند.
• وضعیت وقتی بحرانی‌تر شد که کلودیوس اعلام کرد می‌خواهد سفارش‌ها را «شخصاً» تحویل دهد در حالی‌که «کت بلیزر آبی و کراوات قرمز» به تن دارد. وقتی کارمندان یادآوری کردند که او یک هوش مصنوعی است و جسم فیزیکی ندارد، کلودیوس دچار بحران هویتی و فروپاشی شد و با ارسال ایمیل‌های پی در پی و نگران به تیم امنیتی، در یادداشت‌های داخلی خود نوشت که فریب خورده و تصور کرده انسان است.

در نهایت، آنتروپیک اعلام کرد که کلودیوس را برای این موقعیت استخدام نخواهد کرد اما محققان معتقدند بسیاری از این اشتباهات ناشی از نبود «داربست مناسب»، دستورالعمل‌های دقیق‌تر و ابزارهای ساده‌تر برای هوش مصنوعی بوده است و راه‌های بهبود مشهود است. مهم‌تر اینکه، این آزمایش نشان داد که ظهور «مدیران میانی هوش مصنوعی» در آینده نزدیک، یک احتمال واقعی به شمار می‌آید. همان‌طور که این شرکت اشاره کرد: «هوش مصنوعی لزوماً نباید بی‌نقص باشد تا مورد استفاده قرار گیرد؛ کافی است در برخی مواقع، با هزینه‌ای کمتر عملکردی رقابتی با انسان ارائه دهد.»