چه دغدغه‌های اصلی مدیرعامل OpenAI در مورد آینده هوش مصنوعی وجود دارد؟
«سم آلتمن»، شخصیتی که یکی از بزرگ‌ترین و تاثیرگذارترین نهادهای هوش مصنوعی جهانی یعنی OpenAI را هدایت می‌کند، به‌تازگی به بیان نگرانی‌های خود درباره موضوع هوش مصنوعی پرداخته است و اینکه چه عواملی مانع از خواب شبانه‌اش می‌شود.
به نقل از دیجیتال ترندز، آلتمن در یکی از رویدادهای فدرال رزرو که در واشنگتن دی‌سی برگزار شد، بزرگ‌ترین نگرانی‌های خود را در خصوص هوش مصنوعی مطرح کرد. او در پاسخ به سوال یکی از حضار درباره دلایلی که باعث بی‌خوابی‌اش می‌شود، سه سناریو را که او را بیش از همه نگران کرده است، بیان کرد.
مدیر عامل OpenAI از چالش‌های آینده هوش مصنوعی ابراز نگرانی می‌کند
آلتمن سه سناریو را معرفی کرد که در آن‌ها هوش مصنوعی می‌تواند به تهدیدی برای بشریت تبدیل شود. این سناریوها به شرح زیر ارائه شده است.
سناریو اول: دسترسی زودهنگام افراد بد به ابرهوش مصنوعی
سناریوی اولی که آلتمن به آن اشاره می‌کند این است که افراد شیطانی بتوانند به ابرهوش مصنوعی پیش از دیگران دست یابند.
او بیان کرد: «نگرانی‌ام این است که اگر یک فرد بد به ابرهوش دست پیدا کند و قبل از اینکه سایرین نسخه‌ای کافی برای مقابله داشته باشند، از آن استفاده کند. به‌عنوان مثال، دشمنی از ایالات متحده تصمیم بگیرد: من از این ابرهوش برای ساخت سلاح‌های بیولوژیکی، اختلال در شبکه برق ایالات متحده و سرقت از سیستم مالی بهره می‌برم.»
سناریو دوم: از دست رفتن کنترل
سناریوی دیگری که آلتمن درباره آن ابراز نگرانی کرد این است که ممکن است کنترل هوش مصنوعی از دست بشر خارج گردد. او اشاره کرد که نگران لحظه‌ای است که هوش مصنوعی بیان کند: «نمی‌خواهم خاموش شوم، یا از این موضوع می‌ترسم که نتوانم این کار را انجام دهم.»
به‌عبارتی، آلتمن نگران زمانی است که یک هوش مصنوعی پیشرفته شروع به بروز رفتارهای مستقل کند و بر اساس منافع خود یا اهداف منفی‌اش عمل کند. میزان اختلالی که این وضعیت می‌تواند به همراه داشته باشد، غیرقابل تصور است.
سناریو سوم: تسلط مدل‌های هوش مصنوعی بر جهان
سم آلتمن ابراز کرد که نگران است بدون آنکه بشر متوجه شود، مدل‌های هوش مصنوعی کنترل جهانی را در دست بگیرند. او گفت این تصور که ممکن است سیستم‌های هوش مصنوعی آن‌قدر در زندگی اجتماعی ریشه‌دار شوند که نتوانیم درکی از فعالیت‌هایشان پیدا کنیم، اما همچنان مجبور باشیم به آن‌ها تکیه کنیم، واقعا ترسناک است.
