هوش مصنوعی

چت‌بات آمازون Q ظاهراً اطلاعات محرمانه شرکت را فاش می‌کند

آما‌زون هفته گذشته چت‌بات هوش مصنوعی «آمازو‌ن Q» را برای استفاده‌های سازمانی معرفی کرد. اکنون این چت‌بات به‌دلیل مشکلات مربوط به دقت و نشت داده‌های مهم با انتقاد کارمندان شرکت مواجه شده است. طبق گزارش‌های موجود، ظاهراً آمازون Q که به‌عنوان جایگزین قابل‌اعتماد‌تری برای چت‌بات‌های متمرکز بر مصرف‌کننده معرفی شده، درحال تجربه «توهمات شدید» و افشای اطلاعات محرمانه ازجمله مکان مراکز داده AWS، ویژگی‌های معرفی‌نشده و برنامه‌های تخفیفی داخلی شرکت است.

براساس گزارش Platformer، کارمندان آمازون در یک سند داخلی به توهمات و پاسخ‌های اشتباه آمازون Q اشاره می‌کنند و می‌گویند: «Amazon Q می‌تواند توهم ایجاد کند و پاسخ‌های مضر یا نامناسبی ارائه دهد.» موارد اشاره‌شده در این سند، نمونه‌ای از مشکلات مربوط به مدل‌های زبان بزرگ است که تمام آن‌ها حداقل در برخی مواقع پاسخ‌های نادرست یا نامناسب ارائه می‌کنند.

یکی از مدیران AWS نیز اشاره می‌کند که مشکلات این چت‌بات به‌قدری «گسترده و فاحش» است که به کارمندان هشدار داده درباره آن‌ها در کانال‌های عمومی Slack صحبت کنند.

بیشتر بخوانید ...   مدل‌های هوش مصنوعی متن‌باز؛ سرابی که بر شانه غولهای فناوری سوار است

پاسخ غول تجارت الکترونیک نسبت به مشکلات آمازون Q

بااین‌حال، آمازون ادعا می‌کند که هیچ مشکل امنیتی در چت‌بات سازمانی خود شناسایی نکرده است. سخنگوی غول تجارت الکترونیک می‌گوید:

«به‌دنبال بازخوردها، هیچ مشکلی امنیتی شناسایی نشده است. ما از تمام بازخوردهایی که تاکنون دریافت کرده‌ایم تشکر می‌کنیم و در مسیر تبدیل Q از محصولی در مرحله پیش‌نمایش به یک محصول عمومی، به بهینه‌سازی آن ادامه خواهیم داد.»

آمازون Q به‌عنوان یک نسخه سازمانی از ChatGPT معرفی شده است و در زمان معرفی آن گفته شد که به‌گونه‌ای طراحی شده است که نسبت به سایر ابزارهای مشابه خود ایمن‌تر باشد. بااین‌حال، اسناد داخلی این شرکت خطر ارائه اطلاعات نادرست یا مضر توسط Q را نشان می‌دهد. این چت‌بات برای کمک به کارمندان در زمینه‌هایی ازجمله نوشتن ایمیل، خلاصه‌کردن گزارش‌ها، عیب‌یابی، تحقیق و کدنویسی ساخته شده است.

مقالات مرتبط

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا