مدلی که از پاسخگویی به سؤالات بحرانی اجتناب میکند
شرکت هواوی، در سرزمین چین، نسخهای بهبود یافته از مدل هوش مصنوعی دیپسیک را به بازار ارائه کرده است که هدف آن افزایش ایمنی محتوا است و بر اساس ادعای این شرکت، میتواند به طور تقریبی از بحث درباره موضوعات حساس سیاسی بپرهیزد.
طبق گزارش رویترز، قوانین سختگیرانه موجود در چین مستلزم آن است که همه مدلهای هوش مصنوعی داخلی و نرمافزارهای مربوط به آنها پیش از انتشار عمومی، باید نشاندهنده ارزشهای این کشور باشند و نظارت دقیقی بر محتوای ارائهشده اعمال گردد.
همکاری هواوی در توسعه قابلیتهای سانسور مدل دیپسیک
هواوی در حساب رسمی خود در ویچت اعلام کرده است که این مدل زبانی بزرگ با استفاده از هزار چیپ Ascend AI آموزش دیده است. نسخه اصلی این مدل دیپسیک-R1 متنباز بوده و تغییراتی برای افزایش ایمنی محتوا بر روی آن صورت گرفته است. دانشگاه مشهور ژجیانگ که نام بنیانگذار دیپسیک، «لیانگ ونفنگ»، به آن مرتبط است، شریک هواوی در این پروژه است؛ اما خود دیپسیک و لیانگ هیچ نقشی مستقیم در فرآیند توسعه آن نداشتهاند و دیپسیک به درخواستها برای اظهارنظر در مورد این پروژه پاسخی نداده است.
هواوی نسخهای بهبود یافته از این مدل را با نام DeepSeek-R1-Safe منتشر کرده است که تمرکز اصلی آن بر حفاظت از کاربران در برابر محتواهای مضر قرار دارد. نتایج آزمایشها حاکی از آن است که این مدل در شناسایی و جلوگیری از «سخنان آسیبزاتر، محتوای حساس سیاسی و ترغیب به رفتارهای غیرقانونی» تقریباً صددرصد موفق است. با این حال، هرگاه این رفتارها در بستری شبیهسازی شده یا در کدهای رمزگذاریشده پنهان شوند، کارآیی آن به 40 درصد کاهش مییابد.
هواوی اعلام کرد که قابلیتهای جامع دفاعی مدل DeepSeek-R1-Safe به 83 درصد رسیده است و بر اساس مقایسه با مدلهای مشابه از قبیل Qwen-235B و DeepSeek-R1-671B، حدود 8 تا 15 درصد عملکرد بهتری از خود نشان داده است. همچنین، افت کارایی این نسخه نسبت به مدل اصلی کمتر از 1 درصد برآورد شده است.
چتباتهای هوش مصنوعی در چین همچون Ernie Bot از شرکت بایدو، که معادل ChatGPT در این کشور به شمار میآیند، از پاسخ به بسیاری از سؤالات سیاسی و موضوعات حساس که تحت کنترل حزب کمونیست قرار دارند، خودداری میکنند.
در کنفرانس سالانه Huawei Connect در شانگهای، هواوی پس از سالها، برنامههای خود را برای تولید چیپ و تقویت قدرت محاسباتی بهطور رسمی معرفی کرد و به وضوح نشان داد که چگونه قصد دارد هوش مصنوعی پیشرفته و امن را در چارچوب قوانین داخلی کشور توسعه دهد.
