مایکروسافت مایا 300، چیپ استنتاج سفارشی نسل سوم خود را معرفی کرد و می‌گوید این طراحی حدود ۴۰ درصد توکن بیشتر در هر مگاوات نسبت به سامانه‌های پیشرو مبتنی بر جی‌پی‌یو پردازش می‌کند. این شرکت مایا 300 را به‌عنوان شتاب‌دهنده استنتاج طراحی‌شده برای تبدیل شدن به زیرساخت اصلی استنتاج برای محصولات و خدمات مایکروسافت معرفی می‌کند.
مایکروسافت انتظار دارد مایا 300 از سال ۲۰۲۷ وارد استقرارهای تولیدی شود. در بیانیه‌ای اسکات گاتری، معاون اجرایی ارشد حوزه رایانش ابری در مایکروسافت، گفت بهبودها به شرکت اجازه می‌دهد بیشتر روی چیپ‌های سفارشی خود تکیه کند و وابستگی به انویدیا و اِی‌ام‌دی را کاهش دهد. گاتری افزود مایکروسافت از سال ۲۰۲۷ توسعه خانواده چیپ آزور مایا را در مقیاس چند گیگاواتی آغاز خواهد کرد تا این چیپ‌ها بتوانند به‌عنوان زیرساخت اصلی استنتاج در سراسر شرکت خدمت کنند.
عملکرد و نقش در ساختار مایکروسافت
در پیکربندی کامل با ۹۶ شتاب‌دهنده، مایا 300 می‌تواند توان پردازش توکن در سطح رک را تا هفت برابر بیش از مایا 200 افزایش دهد؛ چیپ نسل قبلی که مایکروسافت تنها در ژانویه معرفی کرد. مایا 200 هم‌اکنون در مجموعه‌ای از بارکاری‌های مایکروسافت از جمله کوپایلت مایکروسافت، گیت‌هاب کوپایلت، فاندری مایکروسافت و مدل‌های اختصاصی هوش مصنوعی شرکت مستقر شده است. گاتری گفت مایا 200 براساس معیارهای واقعی عملکرد خدمات هوش مصنوعی همچنان بهترین زیرساخت محاسباتی در ناوگان مایکروسافت است، در حالی که مایا 300 به‌عنوان یک سیستم کامل برای بارکاری‌های هوش مصنوعی نسل بعدی طراحی شده است.
مایکروسافت مایا 300 را به‌عنوان چیپی بهینه‌شده برای بارکاری‌های استدلالی با زمینه‌های طولانی، تجربه‌های گفت‌وگوی کم‌تاخیر و وظایف مداوم چندمرحله‌ای عامل توصیف می‌کند. شرکت این چیپ را برای استنتاج هدف‌گذاری کرده است و نه برای آموزش مدل‌ها.
معماری چیپ و تولید
مایا 300 از معماری چیپ‌لت استفاده می‌کند که بر اساس فرایند اِن۲پی تی‌اس‌ام‌سی ساخته شده است. مایکروسافت می‌گوید این طراحی بلوک‌های محاسباتی، کنترل‌کننده حافظه و توابع ورودی-خروجی را جدا می‌کند تا مساحت بیشتری از تراشه به پردازش اختصاص یابد و هر بلوک بتواند فناوری مناسب نقش خود را به‌کار گیرد. تیم سخت‌افزار و زیرساخت آزور می‌گوید این رویکرد بازده بالاتری به همراه دارد و اجازه می‌دهد چیپ برای عملکردهای خاص استنتاج بهینه‌سازی شود.
مایکروسافت همچنین اشاره کرده است که مایا 300 نقش مهمی در برنامه‌های توسعه و استقرار مدل‌های داخلی شرکت ایفا خواهد کرد. مصطفی سلیمان، مدیرعامل بخش هوش مصنوعی مایکروسافت، گفت شرکت باید همه لایه‌های پشته فناوری را از مدل‌ها تا سیلیکون توسعه دهد و در مقیاسی که مایکروسافت برنامه‌ریزی می‌کند، به یک پلتفرم اختصاصی که همراه با مدل‌هایش هم‌طراحی شده باشد نیاز است. او افزود اجرای مدل‌های اختصاصی مایکروسافت روی مایا از اولویت‌های اصلی تیم است.
نظر بگذارید
نظرات
هنوز نظری ثبت نشده. اولین نفر باشید.