14 декабря в рамках мероприятия AI Everywhere в Нью-Йорке Intel показалапятое поколение процессоров Xeon Scalable с улучшенной мощностью для машинного обучения. Новые процессоры имеют больше ядер, больший кэш и упрощённую архитектуру чиплетов, что, по мнению компании, сделает их лучшим выбором для искусственного интеллекта.
Intel объявила о значительном увеличении производительности новых Xeon по сравнению с предыдущим поколением Sapphire Rapids, особенно в области ИИ-инференсинга, где новинка в 1,4 раза быстрее.
В арсенале новых процессоров Emerald Rapids до 64 ядер и увеличенный до 320 МБ L3 кэш. Они поддерживают более быструю память DDR5 с показателями до 5600 МТ/с, обеспечивая пиковую пропускную способность 368 ГБ/с.
Особое внимание компания заострила на улучшении производительности в машинном обучении благодаря инструкциям Advanced Matrix Extensions (AMX). Intel заявляет, что новые Xeon могут обеспечить приемлемые задержки в работе с моделями машинного обучения до 20 миллиардов параметров.
Intel также подчеркнула использование на новых процессорах упрощённой архитектуры с меньшим числом чиплетов и большими вычислительными тайлами, что способствует снижению энергопотребления.
Однако, несмотря на все эти улучшения, Intel признает, что в более крупных ИИ-моделях, таких как GPT-3 со 175 миллиардами параметров, не говоря уже о GPT-4 с 1,76 триллионами параметров, могут всё же потребоваться специализированные ИИ-ускорители.
В перспективе Intel обещает новые процессоры с ещё большим количеством ядер и поддержкой более быстрой памяти на основе 7-нанометровой технологии Intel 3, включая Granite Rapids и Sierra Forest, ожидаемые в 2024 году.
Последние анонсы Intel включают компанию в конкурентную борьбу с другими производителями, включая AMD и разработчиков ARM-процессоров, также активно работающих над новыми решениями в области ИИ.