Raspberry Pi ha lanzado la segunda versión de su placa de expansión de IA con unidad de procesamiento neuronal (NPU), la Raspberry Pi AI HAT+ 2. Basada en el acelerador Hailo-10H, esta placa complementaria aporta capacidades de procesamiento de IA generativa a la Raspberry Pi 5, lo que la convierte en una opción ideal para aplicaciones como el control de procesos sin conexión a internet, el análisis seguro de datos, la gestión de instalaciones y robótica. El costo de la Raspberry Pi AI HAT+ 2 es de $130 dólares (para estados unidos).
Un rendimiento de 40 TOPS (tera operaciones por segundo), junto con 8 GB de memoria RAM dedicada integrada, permite al AI HAT+ 2 acelerar modelos de lenguaje grande (LLM) y modelos de lenguaje visual (VLM) de forma local y sin conexión a internet, eliminando la necesidad de enviar datos a servidores remotos en la nube para su procesamiento y manteniendo la privacidad, la seguridad y la rentabilidad de la computación de IA.
Características generales
- Acelerador de IA Hailo-10H que ofrece un rendimiento de inferencia de 40 TOPS (INT4).
- Rendimiento en modelos de visión por computadora comparable al del Raspberry Pi AI HAT+ (26 TOPS).
- Ejecuta modelos de IA generativa de forma eficiente gracias a sus 8 GB de memoria RAM integrada.
- Totalmente integrado en la pila de software de cámara de Raspberry Pi.
- Cumple con la especificación Raspberry Pi HAT+.
- Se suministra con un disipador térmico opcional*, así como con un conector de apilamiento de 16 mm, separadores y tornillos, lo que permite su instalación en una Raspberry Pi 5 con el Raspberry Pi Active Cooler instalado.
- Documentación.
Aplicaciones de LLM disponibles
- DeepSeek-R1-Distill: 1.5 billones de parámetros
- Llama 3.2: 1 billón de parámetros
- Qwen 2.5-Coder: 1.5 billones de parámetros
- Qwen 2.5-Instruct: 1.5 billones de parámetros
- Qwen 2: 1.5 billones de parámetros
Ejemplo con modelo Qwen2 para responder preguntas simples: