ایجاد اختلال در الگوریتم‌های هوش مصنوعی با بهره‌گیری عمدی از اشتباهات املایی در نوشته‌ها
به تازگی گزارشی منتشر شده است که به بررسی تأثیرات فوری هوش مصنوعی بر عرصه آموزش عالی می‌پردازد. در این گزارش، بازخورد برخی از دانشجویان مورد اشاره قرار گرفته که برای دور زدن سامانه‌های شناسایی متن‌های تولیدی AI، به‌طور عمدی از اشتباهات املایی و نگارشی در نوشتار خود بهره می‌برند.
یکی از کاربردهای اصلی چت‌بات‌هایی چون ChatGPT، تولید متن و مقالات است. با این حال، همواره توصیه می‌شود که برای طبیعی‌تر شدن خروجی‌های هوش مصنوعی، فرآیند ویرایش لازم است. اخیراً گزارشی از طرف نیویورک مگزین منتشر شده که راهکارهای ابتکاری برخی دانشجویان برای دوری از سامانه‌های شناسایی متن‌های تولیدی توسط هوش مصنوعی را افشا می‌کند.
تدابیر جلوگیری از شناسایی متن‌های تولیدی هوش مصنوعی
برای نمونه، یکی از دانشجویان از چت‌بات خواسته تا مقاله‌ای را به گونه‌ای تهیه کند که گویی نویسنده آن «یک دانشجوی سال اول کمی احمق» است، تا احتمال شناسایی توسط الگوریتم‌ها کاهش یابد.
اریک، دانشجوی سال دوم در دانشگاه استنفورد، به نیویورک مگزین می‌گوید که همکلاسی‌های او «واقعاً در حیطه دستکاری سامانه‌ها توانمند شده‌اند». وی توضیح می‌دهد که برخی افراد ابتدا درخواست خود را در ChatGPT مطرح می‌کنند، سپس خروجی را به یک هوش مصنوعی دیگر منتقل کرده و در نهایت آن را به سیستمی سومی ارسال می‌کنند تا میزان شناسایی متن‌های تولیدی به وسیله هوش مصنوعی سخت‌تر گردد.
با این حال، جالب است که دانشجویان با صرف این مقدار زمان و خلاقیت برای فریب این سیستم‌ها، می‌توانستند همان انرژی را برای نگارش واقعی مقالات خود به کار ببرند.
«سم ویلیامز»، دستیار آموزشی دانشگاه آیووا، در گفت‌وگو با این مجله اظهار می‌دارد:
«دانشجویان از هوش مصنوعی استفاده می‌کنند زیرا این یک راه‌حل آسان است و به آنها کمک می‌کند از صرف زمان زیاد بر روی نوشتن مقالات جلوگیری کنند. من هم آنها را درک می‌کنم، زیرا در دوران دانشجویی خودم نیز از نوشتن مقاله بیزار بودم.»
وی بیان می‌کند که به شدت از تفاوت‌های قابل توجه در لحن و کیفیت میان مقاله اول و دوم دانشجویانش شگفت‌زده شده است. مقاله اول به سلیقه موسیقایی خود دانشجویان اختصاص داشت، در حالی که مقاله دوم مربوط به تاریخ موسیقی جَز (Jazz) در نیواورلئان بوده است. به‌وضوح مقاله دوم مملو از اشتباهات ریشه‌ای بوده که از جمله آنها می‌توان به ذکر نام «الویس پرسلی» اشاره کرد که نه تنها در عرصه موسیقی نیواورلئان جایی ندارد، بلکه به‌هیچ‌وجه از خوانندگان جَز به شمار نمی‌آید.
وی با قاطعیت به دانشجویان خود یادآور می‌شود:
«خواهش می‌کنم از هوش مصنوعی استفاده نکنید. اما اگر قصد تقلب دارید، لااقل این کار را با هوش بیشتری انجام دهید. نمی‌توانید محتوای تولیدشده را بدون هیچ گونه تغییری کپی کنید.»
