گوگل فناوری SynthID خود برای متن های ساخته شده با هوش مصنوعی را متن باز کرد
ابزار SynthID یکی از قابلیت های بخش هوش مصنوعی گوگل است که به توسعه دهندگان اجازه می دهد به خروجی های تولیدشده توسط مدل های مولد، واترمارک دیجیتال اضافه کنند. واترمارک می تواند برای تشخیص چنین متن هایی هم مورد استفاده قرار بگیرد و حتی نوع مدل مورد استفاده را هم مشخص کند.
فناوری SynthID گوگل چه کاربردی دارد؟
گسترش استفاده از مدل های زبانی مولد برای تولید متن، نیاز به ابزارهایی برای تشخیص اینگونه از محتوا را محسوس تر کرده است. گوگل به همین منظور از فناوری SynthID خود برای واترمارک گذاشتن روی متن های ساخته شده با هوش مصنوعی استفاده می کند تا بتوان آنها را به آسانی شناسایی کرد. اکنون گوگل اعلام کرده است که ابزار مذکور به صورت متن باز در اختیار سایر توسعه دهندگان هم قرار خواهد داشت تا از آن برای ثبت واترمارک روی خروجی مدل های خود بهره بگیرند.ضضضضضضضضضضضضضضضض
ابزار SynthID گوگل از طریق کیت توسعه Responsible Generative AI این شرکت در اختیار علاقه مندان قرار گرفته است که امکانات و قابلیت های دیگری را هم در اختیار توسعه دهندگان قرار می دهد. سرپرست بخش دیپ مایند گوگل اشاره کرده که هدف از چنین اقدامی، آسان تر ساختن توسعه هوش مصنوعی اخلاقی و مسئولیت پذیرانه بوده است.
اهمیت واترمارک در خروجی مدل های زبانی به شدت افزایش یافته است و حتی ایالت کالیفرنیا به دنبال این است که استفاده از واترمارک را برای همه شرکت ها اجباری کند. به کمک این قابلیت، می تواند از پخش شدن اخبار غلط به خصوص در حوزه سیاست یا محتوای غیراخلاقی جلوگیری کرد. دولت چین هم از سال گذشته میلادی، توسعه دهندگان را مجبور به استفاده از واترمارک روی ابزارهای هوش مصنوعی مولد متن کرده است. درحال حاضر چت بات جمینای به قابلیت SynthID مجهز شده است و متون آن قابل ردیابی و تشخیص است.
گوگل برای اولین بار در تابستان امسال از ابزار SynthID رونمایی کرد که با قرار دادن واترمارک های پنهان در متن ها، عکس ها، ویدئوها و فایل های صوتی، می تواند آنها را قابل شناسایی کند. گوگل ادعا دارد که نسخه مخصوص متن این ابزار، متن را به نحوی تغییر می دهد که تشخیص آنها برای کامپیوتر ممکن خواهد بود؛ اما خوانندگان متوجه وجود چنین تغییراتی در متن نمی شوند. همچنین اشاره شده است که استفاده از واترمارک، تاثیری روی کیفیت، دقت، سرعت و خلاقیت خروجی ها نخواهد داشت که در گذشته یکی از مشکلات مهم اینگونه از ابزارها به شمار می رفت.
