واترمارک متنی آنتروپیک از فردا به مدل‌های قدیمی Claude اضافه خواهد شد
شرکت آنتروپیک اعلام کرده که فناوری واترمارک متن پنهان خود را به‌زودی برای نسخه‌های قدیمی‌تر مدل‌های هوش مصنوعی Claude فعال خواهد کرد. این تصمیم در پی درخواست قانون‌گذاران اتحادیه اروپا اتخاذ شده که خواستار درج نشانه‌های پنهان در متون تولیدشده توسط هوش مصنوعی هستند تا امکان تفکیک محتوای انسانی از محتوای ماشینی در آینده فراهم شود.
در ابتدا، انتشار این فناوری تنها به جدیدترین و پیشرفته‌ترین نسخه‌های Claude محدود بود. بااین‌حال، آنتروپیک اکنون به کاربران خود اطلاع داده که از تاریخ ۳ نوامبر (۱۲ آبان)، این واترمارک را به مدل‌های Mythos 5 ،Opus 4.7 ،Opus 4.6 و Sonnet 4.6 نیز اضافه می‌کند.
سازوکار واترمارک متنی Claude و دغدغه‌های سوءاستفاده از هوش مصنوعی
به گفته این غول حوزه هوش مصنوعی، سازوکار مورد استفاده در این نسخه‌ها دقیقاً همان فناوری واترمارک موجود در Opus 5.5 خواهد بود. این ساختار مبتنی بر یک الگوی نامحسوس در انتخاب کلمات است و دقت یا خوانایی خروجی متن را تغییر نمی‌دهد. همچنین آنتروپیک تأکید کرده که این الگو شامل هیچ‌گونه اطلاعات هویتی از کاربر یا سازمان استفاده‌کننده از Claude نخواهد بود.
در کنار مسائل فنی مربوط به عملکرد مدل‌ها، جنبه رفتاری کاربران نیز اهمیت بالایی پیدا کرده است؛ مواردی مانند ارجاعات جعلی و نامعتبر توسط وکلا، نگارش کامل کتاب توسط رمان‌نویسان و اتکای پژوهشگران به هوش مصنوعی در فرایند داوری مقالات علمی ثبت شده است. درحالی‌که ابزارهای هوش مصنوعی کارهای تکراری و وقت‌گیر را در چند ثانیه انجام می‌دهند، هم‌زمان انگیزه‌ای برای دور زدن استانداردها و پنهان‌کاری نیز ایجاد می‌کنند. در چنین شرایطی، باید دید آیا به‌کارگیری گسترده واترمارک می‌تواند به حفظ شفافیت و صداقت کاربران کمک کند یا خیر.
