مدل GPT4o Long Output با ظرفیت 64 هزار توکن خروجی معرفی شد
OpenAI به تازگی یک صفحه در وب سایت خود منتشر کرده که در آن نام یک مدل زبانی بزرگ جدید را می بینیم: GPT4o Long Output. این مدل جدید نسبت به مدل GPT4o که در اردیبهشت ماه رونمایی شد، تفاوت عمده ای دارد و آن نیز در تعداد توکن های خروجی آن است. این مدل در هر درخواست تا 64 هزار توکن خروجی به شما ارائه می دهد. برای مقایسه، خروجی GPT4o حداکثر 4 هزار توکن است.
براساس اعلام OpenAI، نسخه آزمایشی GPT4o Long Output حداکثر 64 هزار توکن خروجی در هر درخواست ارائه می دهد. این افزایش 16 برابری نسبت به مدل اصلی GPT4o، به کاربران و به طور خاص تر به توسعه دهندگان شخص ثالث که از API این چت بات بهره می برند این فرصت را می دهد تا پاسخ های طولانی تر، معادل یک رمان 200 صفحه ای داشته باشند.
توکن ها در مدل های زبانی بزرگ به نمایش عددی مفاهیم، ساختارهای دستوری و همچنین معنای آن ها اشاره دارند. برای مثال کلمه «Hello» یک توکن است، «Hi» نیز هرچند همان معنا را دارد، اما توکن دیگری محسوب می شود.
مدل آزمایشی GPT4o Long Output
مدل اصلی GPT4o حداکثر 128 هزار توکن در پنجره زمینه (Context Window) ارائه می کند؛ پنجره زمینه مقدار حاوی توکن هایی است که مدل می تواند در هر تعامل، ازجمله در توکن های ورودی و خروجی، مدیریت کند. اکنون GPT4o Long Output نیز همان 128 هزار توکن پنجره زمینه را ارائه می دهد. بنابراین چگونه OpenAI می تواند تعداد توکن های خروجی را 16 برابر افزایش دهد و از 4000 به 64000 توکن برساند، درحالی که پنجره زمینه کلی را روی 128000 نگه دارد؟
پاسخ ساده است، GPT4o اصلی اگرچه پنجره 128 هزار توکنی داشت، اما پیام خروجی آن به 4000 توکن محدود بود. یعنی در ازای 124 هزار پیام ورودی، شما حداکثر 4000 توکن دریافت می کردید. یا برای مثال، GPT4o mini حداکثر 16 هزار توکن خروجی داشت. اکنون OpenAI با حفظ همان پنجره زمینه، سقف خروجی را تا 64 هزار توکن بالا برده است.
یکی از سخنگویان OpenAI به VentureBeat گفته است: «ما بازخوردهایی را از مشتریان خود شنیدیم که می خواهند زمینه خروجی طولانی تری داشته باشند. ما همیشه درحال آزمایش راه های جدیدی هستیم تا می توانیم به بهترین شکل به نیازهای مشتریان خود پاسخ دهیم.»
انتظار می رود مرحله آزمایش آلفا GPT4o Long Output چند هفته به طول بینجامد و به OpenAI اجازه می دهد تا داده هایی را درباره اینکه چه میزان خروجی بیشتر نیازهای کاربر را برآورده می کند، جمع آوری کند. با ارائه خروجی های طولانی تر، مدل GPT4o می تواند پاسخ های جامع تر و دقیق تری ارائه دهد.
