حدود و مرزهایی برای هوش مصنوعی معین کنید

بیش از ۲۰۰ نفر از شخصیت‌های شناخته‌شده، پژوهشگران و پیشگامان در حوزه هوش مصنوعی، از جمله یکی از بنیان‌گذاران OpenAI و «جفری هینتون»، که به عنوان پدرخوانده هوش مصنوعی شناخته می‌شود، با امضای یک فراخوان جهانی تقاضا کرده‌اند که «خطوط قرمز» مشخصی برای هوش مصنوعی تعیین شود؛ این خطوط قرمز به اقداماتی اشاره دارند که نباید هیچ‌گاه به هوش مصنوعی اجازه انجام آن‌ها داده شود.

این اقدام که تحت عنوان «فراخوان جهانی برای تعیین خطوط قرمز حوزه هوش مصنوعی» شناخته می‌شود، از دولت‌های مختلف در سراسر جهان می‌خواهد تا تا پایان سال ۲۰۲۶ به یک توافق سیاسی بین‌المللی دست یابند که به وضوح تعریف کند هوش مصنوعی چه کارهایی باید اجتناب کند. این نخستین باری است که این تعداد وسیع و گوناگون از متخصصان، از جمله رؤسای شرکت‌های رقیب همانند OpenAI و آنتروپیک، بر ضرورت ایجاد محدودیت‌های جهانی به توافق رسیده‌اند. هدف کلی این فراخوان، در واقع جلوگیری از فاجعه‌هایی است که ممکن است به وقوع بپیوندد نه واکنش به آن‌ها پس از وقوع.

«شاربل-رافائل سژری»، مدیر عامل مرکز ایمنی هوش مصنوعی در فرانسه، اظهار می‌دارد: «اگر کشورها قادر به توافق بر سر کارکردها و قابلیت‌های هوش مصنوعی نیستند، باید حداقل بر سر اقداماتی که این فناوری هرگز نباید انجام دهد به توافق برسند.»

توافق در خصوص خطوط قرمز هوش مصنوعی

گرچه فهرست نهایی خطوط قرمز باید در قالب مذاکرات بین‌المللی تنظیم شود، اما امضاکنندگان این فراخوان به چندین مثال مهم به عنوان خطوط قرمز غیرقابل‌عبور اشاره کرده‌اند. از جمله نباید سیستم‌های هوش مصنوعی‌ای طراحی شوند که توانایی تکثیر خود را بدون نظارت انسان داشته باشند یا به گونه‌ای عمل کنند که نتوان آن‌ها را از یک انسان واقعی تشخیص داد. این نکته در حوزه جعل هویت از اهمیتی خاص برخوردار است.

امضاکنندگان این فراخوان اعلام کرده‌اند که سیاست‌های داخلی شرکت‌ها و «تعهدات داوطلبانه» آن‌ها برای تامین ایمنی کافی نبوده و از قدرت اجرایی لازم برخوردار نیستند. آنها بر این باورند که جهان نیازمند یک نهاد مستقل است که بتواند خطوط قرمز را تعیین و بر اجرای آن‌ها نظارت نماید. این نهاد باید فراتر از مرزهای سیاسی باشد و اطمینان حاصل کند که تمامی بازیگران این حوزه به قوانین عمل می‌کنند.

یکی از انتقادات اصلی مطرح‌شده از سوی مخالفان این قوانین سخت‌گیرانه این است که ممکن است این خطوط قرمز مانع پیشرفت نوآوری شوند. «استوارت راسل»، استاد علوم کامپیوتر در دانشگاه برکلی و یکی از امضاکنندگان برجسته، به شدت این نظر را رد می‌کند. او تأکید دارد که می‌توان از مزایای اقتصادی و علمی حاصل از هوش مصنوعی بهره‌برداری کرد، بدون اینکه نیازی به توسعه هوش جامع مصنوعی (AGI) غیرقابل‌کنترل باشد.