تراشه هوش مصنوعی Positron رقبای خود را تحت فشار قرار میدهد؛ قدرتمندتر از H200
شرکت Positron AI واقع در ایالات متحده، اعلام کرده است که تراشه شتابدهندهاش به نام «اطلس» در زمینه انجام عملیات استنتاج (Inference) از نظر کارایی، از انویدیا H200 بهتر عمل کرده و ۳۳ درصد انرژی کمتری مصرف مینماید.
بر اساس گزارش Tom’s Hardware، این شرکت که در سال ۲۰۲۳ بنیانگذاری شده، بهطور خاص بر روی توسعه شتابدهندههای هوش مصنوعی متمرکز است و توجه ویژهای به عملیات استنتاج دارد. در حالیکه پردازشگرهای گرافیکی برای آموزش مدلهای هوش مصنوعی و انجام وظایف متنوع دیگری طراحی شدهاند، سختافزار Positron از ابتدا بهگونهای طراحی شده تا با کارآیی بالا و مصرف انرژی بسیار پایین، وظایف استنتاج را بهخوبی انجام دهد.
شتابدهنده Positron AI از انویدیا H200 هم در قدرت و هم در کارایی برتر است
مدل نسل اول Positron برای شتابدهندههای ترنسفورمر در ابعاد بزرگ، «اطلس» نام دارد. این سیستم شامل ۸ شتابدهنده با نام Archer بوده و بهمنظور رقابت با سیستمهای مبتنی بر معماری Hopper انویدیا طراحی شده است، در حالیکه تنها درصد کمی از انرژی آنها را مصرف مینماید.
<pطبق اطلاعات ارائه شده، سیستم اطلس شرکت Positron AI قادر است در مدل Llama 3.1، با مصرف انرژی ۲۰۰۰ وات و از طریق محاسبات BF16، به تولید حدود ۲۸۰ توکن در ثانیه برای هر کاربر بپردازد. در مقایسه، یک سرور انویدیا DGX H200 با پیکربندی ۸ کارت گرافیک تنها قادر است با توان مصرفی ۵۹۰۰ وات، حدود ۱۸۰ توکن در ثانیه برای هر کاربر تولید کند. البته، این مقایسه بهدستآمده از سوی خود شرکت Positron AI صورت گرفته است.
گفته میشود که شتابدهنده اطلس از نظر عملکرد به ازای هر وات (performance-per-watt) و همچنین در حوزه عملکرد نسبت به هزینه، نسبت به سیستم DGX H200 انویدیا از حدود ۳ برابر بهرهوری بیشتر برخوردار است. البته این ادعا نیازمند تأییدیه از یک مرجع مستقل میباشد.
شرکت Positron AI سختافزارهای ASIC خود را با بهرهگیری از فناوری ساخت N4 یا N5 در کارخانه شماره ۲۱ شرکت TSMC واقع در آریزونا تولید میکند و مراحل مونتاژ کارتها نیز در ایالات متحده انجام میشود. بااینحال، از آنجاییکه این تراشهها با ۳۲ گیگابایت حافظه HBM ترکیب شدهاند، به احتمال زیاد از فناوری بستهبندی پیشرفته بهرهمند هستند و بخشی از پروسه مونتاژ احتمالاً در تایوان انجام گرفته است.