Nvidia представила личный суперкомпьютер для искусственного интеллекта – Project Digits. Анонс состоялся на выставке CES, а старт продаж намечен на май. Главным элементом системы является новый GB10 Grace Blackwell Superchip, обладающий мощностью, достаточной для работы с современными AI-моделями. Устройство компактно, занимает место на столе и работает от стандартной розетки, заменяя громоздкие энергоёмкие серверы прошлого. Система поддерживает модели до 200 миллиардов параметров и будет стоить от $3,000. По дизайну Project Digits напоминает Mac Mini.
Каждый суперкомпьютер оснащён 128 ГБ оперативной памяти и до 4 ТБ NVMe-накопителя. Для особо сложных задач два устройства можно объединить, чтобы обрабатывать модели с параметрами до 405 миллиардов. Процессор GB10 способен достигать производительности 1 петафлопа благодаря FP4-прецизионным вычислениям, использованию CUDA- и Tensor-ядер последнего поколения и энергосберегающим Arm-ядрам, разработанным в партнёрстве с MediaTek.
Система работает на базе Linux с Nvidia DGX OS и поддерживает популярные фреймворки, такие как PyTorch, Python и Jupyter. В комплекте идут инструменты для оркестрации и предварительно обученные модели из Nvidia NGC. Для локальной разработки и тестирования моделей используется платформа Nvidia NeMo, а ускорение научных вычислений обеспечивают библиотеки Nvidia RAPIDS.
Проект направлен на разработчиков, исследователей и студентов, предоставляя им доступ к мощным инструментам для работы с AI. Как отметил CEO Nvidia Дженсен Хуанг: “Project Digits – это способ дать каждому разработчику, исследователю и студенту возможность сформировать эру искусственного интеллекта”.
Nvidia также напомнила о других доступных продуктах, таких как Jetson Orin Nano Super за $249, предназначенный для стартапов и любителей, способный обрабатывать модели до 8 миллиардов параметров.