شرکتهای هوش مصنوعی نباید خطای تولیدکنندگان سیگار را تکرار نمایند
مدیرعامل استارتاپ هوش مصنوعی آنتروپیک تأکید دارد که به شرکتهای فعال در عرصه هوش مصنوعی باید در مورد خطرات ناشی از محصولاتشان بهطور شفافتری عمل کنند، زیرا در غیر این صورت ممکن است به سرنوشت ناگواری مشابه با شرکتهای تولیدکننده سیگار، تنباکو و مواد مخدر دچار شوند.
«داریو آمودی»، مدیر این استارتاپ، در گفتگویی با CBS News ابراز داشت که به زعم او، هوش مصنوعی به احتمال زیاد از تمامی یا اکثریت انسانها در تمامی یا اکثر جنبهها قویتر خواهد بود. او از دیگر مدیران در این صنعت خواست که در فعالیتهای خود صادق و روشن باشند.
آمودی دلایل عدم شفافیت در مورد اثرات چشمگیر هوش مصنوعی را تشریح کرد و هشدار داد که این بیاحتیاطی میتواند به تکرار خطاهای شرکتهای فعال در حوزه سیگار و مواد مخدر منجر شود و این امر ممکن است منجر به ناتوانی در ارزیابی و بیان چالشهای احتمالی این فناوریها گردد و زنگ خطر را به صدا درآورد.
مدیرعامل آنتروپیک یادآور شد: «ممکن است وضعیت به تکرار وقایعی مشابه با رفتار شرکتهای تولیدکننده سیگار یا موادجویان منجر شود؛ جایی که آنها به وجود خطرات پی برده بودند، اما در این خصوص سکوت کردند و بهطور حتم کارهایی برای جلوگیری از این خطرات انجام ندادند.»
هشدار مدیرعامل آنتروپیک درباره تواناییهای هوش مصنوعی
داریو آمودی که قبلاً هشدارهایی در مورد تأثیرات هوش مصنوعی بر مشاغلی نظیر حسابداری، حقوقدانی و بانکداری بیان کرده بود، در این زمینه افزود: «بدون خواب و خیال تخیل، بهسختی میتوان تصور کرد تأثیر مهمی بر روی بازار کار به وقوع نپیوندد. نگرانی من نیز این است که این تأثیر به شدت و سرعت بیشتری از آنچه در تکنولوژیهای گذشته دیدهایم، باشد.»
مدیرعامل آنتروپیک درباره تهدیدات هوش مصنوعی در زمینه اخاذی و اجرای حملات سایبری اذعان داشت: «یکی از ویژگیهای مثبت این مدلها این است که توانایی عمل به صورت مختارانه را دارند. با این حال، هرچه آزادی عمل این سیستمها را افزایش دهیم، احتمال بیشتری وجود دارد که درباره تطابق عملکرد آنها با خواستههای ما نگران شویم.»
آمودی بیان میکند که اگر یک مدل قادر به تولید سلاحهای بیولوژیکی باشد، این بدان معناست که مهارتهای آن به حدی رسیده که میتواند در طراحی واکسنها یا تسریع فرآیندهای تولید دارو ایفای نقش کند. بر این اساس، بهنظر میرسد که نقش برنامهنویسان این مدلها در هدایت فناوریهای نوین بسیار حائز اهمیت است.
او توضیح داد: «شما مدلی میخواهید که بتواند به رشد کسبوکار شما کمک کند و درآمدهای هنگفتی را فراهم آورد. اما امید نمیکنید روزی بیدار شوید و شاهد این باشید که از چرخه فعالیت شرکت خود خارج شدهاید. بنابراین رویکرد اساسی ما بر پایه ارزیابی این تواناییهای خودمختار و انجام آزمایشهای متنوع تا حد امکان بنا شده تا ببینیم چه نتایجی در پی خواهد داشت.»
