نسل پنجم Xeon اینتل با بهینه‌سازی‌های مناسب سریعتر از EPYC Turin است

شرکت اینتل ادعا کرده است که پردازنده‌های نسل پنجم Xeon آن‌ها با بهینه‌سازی‌های مناسب، در زمینه‌ی عملکرد هوش مصنوعی و پردازش داده‌های مرکزی، قابلیت عملکرد سریعتر و بهتری نسبت به پردازنده‌های EPYC Turin شرکت AMD دارند.

شرکت AMD به تازگی نشان داد که نسل پنجم پردازنده‌های EPYC Turin آن‌ها با هسته‌های Zen 5 می‌توانند تراشه‌های Xeon نسل پنجم را در بنچمارک‌های هوش مصنوعی شکست دهند، با این وجود شرکت اینتل می‌گوید که با استفاده از بهینه‌سازی‌های درست، تراشه‌های نسل پنجم آن‌ها در برابر EPYC سریعتر خواهد بود.

شرکت AMD یک آپدیت در مورد بنچمارک‌های عملکرد پردازنده اینتل به اشتراک گذاشت و اعلام کرد که در پانوشت‌ها اطلاعات مربوط به سخت‌افزار و نرم‌افزار مورد استفاده در آزمایشات خود برای مقایسه پردازنده تورین با تراشه‌های Xeon نسل پنجم اینتل را ارائه داده است. آنها همچنین بیان می‌کنند که پلتفرم Intel Xeon از جدیدترین و در دسترس‌ترین نرم افزار در آن زمان استفاده می‌کرد، در حالی که خود شرکت اینتل ارقامی را بر اساس کتابخانه بهینه سازی نرم افزار منتشر کرده بود که در تاریخ 18خرداد ماه (7 ژوئن) منتشر شد.

در رویداد کامپیوتکس 2024، شرکت AMD به طور رسمی خانواده پردازنده‌های نسل پنجم EPYC خود را با نام رمز تورین معرفی کرد که از آخرین معماری هسته‌ای Zen 5 استفاده می‌کند. این شرکت ادعا کرد که توانسته امتیازهای بزرگی را در مقایسه با خانواده پردازنده‌های Xeon نسل پنجم کمپانی اینتل با اسم رمز Emerald Rapids، به‌ویژه در بارهای کاری هوش مصنوعی به دست آورد. با این وجود، کمپانی اینتل اکنون تصریح کرده که این بنچمارک‌ها بدون بهینه‌سازی مناسب برای خانواده Xeon انجام شده است که با اجرای آن‌ها، حتی Xeons نسل پنجم نیز باید به راحتی از نظر عملکرد هوش مصنوعی از نسل پنجم EPYC Turin پیشی بگیرد.

چگونه نسل پنجم Xeon در برابر AMD EPYC Turin سریعتر خواهد بود؟

بنچمارکی که به طور خاص توسط کمپانی اینتل برجسته شده، چت بات Llama2-7B است که بر اساس توان استنتاج INT4 عمل می‌کند و با تأخیر 50 میلی‌ثانیه انجام شده است. شرکت AMD نشان داد که پردازنده‌های نسل پنجم EPYC آن‌ها در پیکربندی 2S (دو سوکتی) با 128 هسته هر کدام، قادر هستند تا 671 توکن در ثانیه کارایی را ارائه دهند، در حالی که تراشه‌های نسل پنجم Xeon Platinum 8592+ شرکت اینتل با 64 هسته که هر کدام در یک پیکربندی سوکت دوگانه کار می‌کنند، تنها 125 توکن در ثانیه خروجی ارائه می‌دهند. این نشان دهنده یک افزایش 5.4 برابری برای پردازنده‌های EPYC Turin کمپانی AMD بود.

اکنون شرکت اینتل ادعا می‌کند که این بنچمارک‌ها بدون مجموعه نرم‌افزاری مناسب برای تراشه‌های نسل پنجم Xeon انجام شده‌اند و AMD هیچ جزئیاتی در مورد پیکربندی محصولات اینتل در پانوشت‌های خود ارائه نکرده است.

کمپانی اینتل اکنون معیارهای عملکرد خود را در همان بارهای کاری هوش مصنوعی انجام داده است و به طور جالبی نتایج کاملاً متفاوت به نظر می‌رسند.

با استفاده از اکستنشن شرکت اینتل برای PyTorch (تاخیر P99)، پردازنده‌های Xeon نسل پنجم Emerald Rapids می‌توانند عملکردی 5.4 برابر سریعتر از آنچه کمپانی AMD به نمایش گذاشته است، داشته باشند. با این حساب، خروجی 686 توکن بر ثانیه (Tokens/s) این پردازنده‌ها از عملکرد تراشه‌های نسل پنجم EPYC Zen 5 شرکت AMD بیشتر است. این نتایج نه تنها به لطف بهینه‌سازی‌های نرم‌افزاری اینتل برای Llama2، بلکه اضافه کردن شتاب‌دهنده‌های سخت‌افزاری هوش مصنوعی در خانواده نسل پنجم Emerald Rapids است که افزایش عملکرد خوبی را ارائه می‌دهد.

کمپانی اینتل به همین جا بسنده نمی‌کند، این شرکت همچنین بیان کرده است که در دو بار کاری دیگر، یعنی Translation و Summarization آن‌ها نسبت به نتایجی که کمپانی AMD در سخنرانی خود در رویداد Computex 2024 استفاده کرده بود، 1.2 برابر تا 2.3 برابر افزایش عملکرد داشته است.

علاوه بر این، جنبه مهم تر این است که این بنچمارک ها به شدت به حافظه بستگی دارند و نسل بعدی خانواده EPYC Turin از یک رابط 12 کاناله DDR5 پشتیبانی می‌کند. در حالی که پردازنده‌های نسل فعلی Xeon Emerald Rapids شرکت اینتل با 8 کانال حافظه DDR5 به حداکثر می‌رسند، پردازنده‌های نسل بعدی Granite Rapids Xeon 6700P/6900P نه تنها با همان رابط حافظه 12 کاناله «Up To» به بازار عرضه می‌شوند، بلکه دارای همان 128 هسته P و حداکثر 288 هسته E در خانواده Xeon 6900E خواهند بود که در اوایل سال 2025 وارد بازارها می‌شوند. پردازنده‌های Granite Rapids Xeon 6700P با حداکثر 86 هسته P در سه ماهه سوم 2024 در دسترس خواهند بود.

به نظر می‌رسد همه شرکت‌های بزرگی که در حال حاضر در تجارت هوش مصنوعی درگیر هستند، نه تنها در مورد ادعاهای عملکرد خود بلکه در مورد آنچه دیگران به نمایش می‌گذارند نیز بسیار حساس و جدی هستند. شرکت‌های انویدیا و AMD چند ماه پیش درگیر نبردی مشابه بودند، زمانی که AMD با آمار MI300X خود به رقابت با خط تولید Hopper شرکت انویدیا پرداخت و این مبارزه به همین صورت ادامه یافت.

به طور مشابه، در بخش PCهای هوش مصنوعی، شرکت‌های AMD، اینتل، کوالکام و انویدیا درگیر یک مبارزه بسیار شدید هستند که در آن بحث بر سر برترین‌های هوش مصنوعی است. با افزایش تقاضا برای هوش مصنوعی در سراسر بخش‌های صنعت فناوری، همه این شرکت‌ها تلاش می‌کنند تا مشتریان بیشتری را برای استفاده از محصولات خود جذب کنند و تعداد واحدهای زیادی را برای برآورده کردن نیاز روزافزون به سخت افزار توانمند تولید کنند.