Компания Raspberry Pi, известная своими микрокомпьютерами, объявилао партнёрстве с Hailo для выпуска дополнительного ИИ-модуля. Этот модуль будет интегрирован с программным обеспечением Raspberry Pi и позволит запускать ИИ-приложения, такие как чат-боты, прямо на миниатюрном устройстве.
Ускоритель Hailo-8L M.2 для локальной работы искусственного интеллекта на Raspberry Pi 5 поступит в продажу в ближайшее время через сеть одобренных реселлеров компании по цене в $70.
Ор Данон, генеральный директор и соучредитель Hailo, отметил,что потребление энергии их ускорителя составляет менее 2 Вт, а охлаждается он пассивно.
Ускоритель обеспечивает производительность в 13 TOPS (тераопераций в секунду). Это, конечно, гораздо ниже показателей таких чипов, как Intel Lunar Lake с производительностью 40 TOPS. Однако Raspberry Pi никогда и не позиционировался как высокопроизводительное устройство.
Большинство ИИ-приложений сейчас работают в облаке, поскольку требуют значительных ресурсов для обработки данных. Однако в последнее время наблюдается тенденция к созданию упрощённых и менее энергозатратных ИИ-моделей, что делает возможным их интеграцию в портативные устройства и использование без Интернета.
Тренд тут же подхватили многие ключевые игроки в индустрии, стараясь первыми представить что-то уникальное и интересное.
Так, Microsoft недавно анонсировала выпуск Copilot+ PC, оснащённый встроенными ИИ-функциями, такими как весьма спорная функция Recall. AMD презентовала новые процессоры Ryzen с ИИ-брендингом, подчёркивая их способность обрабатывать задачи генеративного ИИ. А Nvidia уже заявила о планах оснащать ноутбуки фирменными ИИ-чипами.