Raspberry Pi 5 AI

Если коротко: Raspberry Pi 5 + AI-модуль превращает "малинку" из обычного одноплатника в полноценное edge-AI устройство, способное выполнять распознавание объектов, компьютерное зрение и некоторые ML-задачи локально, без облака.

Что это вообще такое?

Для Raspberry Pi 5 существует несколько AI-ускорителей на базе чипов Hailo:

Модуль	Производительность
AI Kit / AI HAT+ (Hailo-8L)	13 TOPS
AI HAT+ (Hailo-8)	26 TOPS
AI HAT+ 2 (Hailo-10H)	40 TOPS

TOPS — триллионы операций в секунду для нейросетей.

Что умеет?

С камерой Raspberry Pi можно запускать:

• обнаружение людей;
• распознавание автомобилей;
• подсчёт объектов;
• распознавание жестов;
• системы видеонаблюдения;
• роботов и автономные платформы;
• промышленное машинное зрение.

Например, YOLOv8, YOLOX, MobileNet и другие модели работают значительно быстрее, чем на одном CPU Raspberry Pi.

Как подключается?

У Raspberry Pi 5 впервые появился полноценный PCIe-интерфейс.

AI-модуль подключается через:

• M.2 HAT+
• PCIe-шлейф
• GPIO остаётся свободным

Система видит Hailo как отдельный NPU (Neural Processing Unit).

Насколько быстрее?

Без AI-модуля:

• всё считает ARM Cortex-A76 процессор.

С Hailo:

• нейросеть исполняется на NPU;
• CPU занимается логикой приложения;
• энергопотребление остаётся низким.

На практике прирост может составлять в десятки раз для задач компьютерного зрения.

Можно ли запускать локальный ChatGPT?

Тут есть нюанс.

Старые AI Kit и AI HAT+ (13/26 TOPS):

• ориентированы почти исключительно на computer vision;
• полноценные LLM не поддерживаются.

Для локальных языковых моделей нужен:

Raspberry Pi AI HAT+ 2

Он имеет:

• 40 TOPS;
• собственные 8 ГБ памяти;
• поддержку LLM и VLM;
• возможность запускать компактные модели вроде Llama и Qwen локально.

Но чудес ждать не стоит: по производительности это не замена современному ПК с GPU. Для серьёзных LLM всё ещё лучше подходят системы на базе NVIDIA CUDA.

Что бы я выбрал сейчас?

Если задача:

• видеонаблюдение;
• распознавание объектов;
• робототехника;
• FPV-станция с анализом видео;
• умный дом;

то Raspberry Pi 5 + Hailo — очень интересная и энергоэффективная связка.

Если задача:

• локальный ИИ-ассистент;
• генерация текста;
• кодогенерация;

то уже стоит смотреть либо на AI HAT+ 2, либо сразу на мини-ПК с GPU.

По соотношению цена/возможности Raspberry Pi 5 с Hailo сегодня ближе не к "малинке для мигалки", а к миниатюрному промышленному edge-AI компьютеру.