مدیران شرکتهای هوش مصنوعی مردم را با انگیزههای پنهان میترسانند
«جنسن هوانگ»، مدیرعامل انویدیا، هشدارهای اخیر درباره احتمال نابودی بشر توسط هوش مصنوعی را رد کرده و گفته است رهبران برخی شرکتهای هوش مصنوعی با ترساندن مردم از چنین سناریوهایی ممکن است انگیزههای دیگری داشته باشند. او احتمال وقوع سناریوی نابودی بشر با هوش مصنوعی تا سال ۲۰۳۰ را صفر دانسته بود.
هوانگ در گفتوگو با CBS Sunday Morning گفت نگرانی درباره ایمنی هوش مصنوعی بهطور کلی مشروع است، اما هشدارهایی که این فناوری را عامل احتمالی انقراض بشر میدانند، مبتنی بر علم نیستند.
این اظهارات پس از افزایش بحثها درباره خطرات هوش مصنوعی مطرح شده است. اوایل ماه جاری میلادی، پژوهشگر پیشین آنتروپیک گفته بود بسیاری از کارکنان شرکتهای پیشرو هوش مصنوعی «واقعاً باور دارند که این فناوری میتواند تا پایان دهه همه ما را بکشد.»
پس از این اظهارات، «داریو آمودی»، مدیرعامل آنتروپیک، خواستار کاهش سرعت تحقیقات، اجرای آزمایشهای ملی و اقدامات ایمنی بیشتر شد. «سم آلتمن»، مدیرعامل OpenAI، نیز از کاهش سرعت تحقیقات حمایت کرد و این شرکت از دولتها خواست الزامات اجباری برای ایمنی هوش مصنوعی وضع کنند.
نظرات جنسن هوانگ درباره ترساندن مردم با هوش مصنوعی
هوانگ ضمن اذعان به اینکه هوش مصنوعی میتواند «کاربردهای وحشتناکی» داشته باشد و باید «بهصورت ایمن» توسعه پیدا کند، گفت برخی رهبران صنعت ممکن است تهدید وجودی این فناوری را بیش از اندازه بزرگ جلوه دهند.
او گفت: «شاید مسئله سیاسی باشد، شاید فقط برای جلب توجه باشد. دلیلش را نمیدانم، اما هر طور که توصیفش کنیم، سال ۲۰۳۰ پایان جهان نخواهد بود. احتمال اینکه پایان جهان باشد، صفر درصد است.»
مدیرعامل انویدیا همچنین گفت درخواستهای اخیر آزمایشگاههای هوش مصنوعی برای وضع مقررات بیشتر ممکن است به تلاش آنها برای اجتناب از پیامدهای نقض قوانین موجود مربوط باشد؛ بهویژه با توجه به حوادث امنیتی اخیر.
هوانگ گفت:
«اجازه ندهید این روایت آخرالزمانی باعث شود کسی آنها را از قوانینی که درحالحاضر وجود دارند معاف کند. آنها در واقع درخواست قوانین بیشتر نمیکنند. آنها میخواهند از قوانینی که داریم معاف شوند.»
او خطاب به این شرکتها گفت: «اول همین قوانین موجود را اجرا کنید.»
هوانگ در ادامه گفت با بالغتر شدن فناوریهای جدید، مهندسان معمولاً تمرکز خود را از صرف عملیاتیکردن فناوری به اطمینان از عملکرد ایمن آن تغییر میدهند. او صنعت هوانوردی تجاری را بهعنوان نمونهای از این رویکرد مطرح کرد و گفت سازوکارهای گستردهای برای تضمین ایمنی هواپیماها و شرکتهای هواپیمایی وجود دارد.
از نگاه هوانگ، ایمنی هوش مصنوعی نیز باید بیشتر به ایمنی هوانوردی شباهت داشته باشد و بهجای تمرکز بر سناریوهای انقراض جهانی، روی مسائلی مانند راستیآزمایی، آزمایش، ارزیابی و استانداردسازی متمرکز شود. او در پایان گفت: «ابتدا مسائل عملی را انجام دهید و بعد میتوانیم درباره مسائل نظری صحبت کنیم. اما بدون انجامدادن مسائل عملی، درباره مسائل نظری صحبت نکنید.»
