Despliegue de AIoT en microcontroladores: Guía práctica

En una publicación reciente exploré cómo la inteligencia artificial se integra cada vez más en dispositivos Internet-de-las-Cosas, dando lugar a soluciones AIoT inteligentes que aprenden de datos y toman decisiones autónomas. Estos sistemas exhiben interacciones similares a las humanas con su entorno, mejorando la funcionalidad del producto y la experiencia del usuario.

La IA y el IoT juntos han desbloqueado nuevos mercados para microcontroladores (MCU). Al combinar MCU simples con aceleración de IA, los desarrolladores pueden incrustar inteligencia en dispositivos que antes dependían únicamente de sensores básicos. Los MCU modernos habilitados para IA combinan procesamiento de señales digitales (DSP) para cómputo con inferencia de aprendizaje automático (ML), permitiendo aplicaciones como detección de palabras clave, fusión de sensores, análisis de vibraciones y reconocimiento de voz. MCU de mayor rendimiento ahora soportan tareas de visión e imagen —reconocimiento facial, análisis de huellas dactilares, robots autónomos— llevando lo que antes era exclusivo de MPUs y GPUs al borde.

Tecnologías de IA en dispositivos de borde

Aprendizaje Automático (ML): Los algoritmos ML construyen modelos a partir de datos representativos, permitiendo a los dispositivos detectar patrones automáticamente. Los proveedores suministran algoritmos, APIs y herramientas de entrenamiento que permiten a sistemas embebidos ejecutar modelos pre-entrenados para inferencia. Casos de uso comunes incluyen concentradores de sensores, detección de palabras clave, mantenimiento predictivo y clasificación.

Aprendizaje Profundo: Subconjunto del ML que entrena redes neuronales multicapa para extraer características de alto nivel de entradas complejas. El aprendizaje profundo destaca con conjuntos de datos grandes y diversos, mejorando continuamente con cada iteración. Aplicaciones abarcan procesamiento de imágenes, chatbots y reconocimiento facial.

Procesamiento de Lenguaje Natural (PLN): El PLN permite a los sistemas comprender y responder al lenguaje humano —texto o voz— tomando decisiones basadas en esa entrada. Impulsa reconocimiento de voz, traducción automática y texto predictivo.

Visión por Computadora: Este campo entrena máquinas para capturar, interpretar y actuar sobre datos de imagen. Aprovechando el aprendizaje profundo, los sistemas pueden identificar y clasificar objetos en tiempo real. Casos de uso incluyen detección de fallos en fabricación, diagnósticos médicos, reconocimiento facial en retail y pruebas de vehículos autónomos.

AIoT en MCU

Históricamente, la IA residía en MPUs y GPUs, donde gran memoria y núcleos potentes podían manejar cargas de trabajo pesadas. El cambio hacia inteligencia en el borde ahora coloca la IA en MCU, impulsado por la necesidad de menor latencia, ancho de banda reducido y presupuestos de energía más ajustados. MCU recientes ahora cuentan con suficiente cómputo y memoria para alojar marcos de redes neuronales (NN) ligeros adaptados para dispositivos con restricciones, haciendo factible la inferencia en tiempo real en el borde.

Una red neuronal consiste en capas de nodos que procesan entradas ponderadas para producir salidas. Durante el entrenamiento —típicamente realizado en la nube— los datos fluyen a través de la red, y la retropropagación ajusta pesos para minimizar el error de predicción. Una vez entrenados, los pesos fijos se almacenan en memoria flash, permitiendo al MCU realizar inferencia con RAM mínima.

La inferencia requiere mucho menos cómputo que el entrenamiento, haciendo a los MCU anfitriones ideales para modelos pre-entrenados. Los pesos permanecen estáticos, y el MCU puede entregar decisiones instantáneas basadas en nuevos datos de sensores.

Implementación de IA en MCU

El flujo de trabajo típico involucra cuatro etapas:

1. Captura de datos: Recopilar conjuntos de datos extensos del dispositivo o aplicación objetivo.
2. Entrenamiento del modelo: Usar herramientas basadas en la nube de proveedores de IA (ej. TensorFlow Lite, Caffe) para entrenar una red neuronal que satisfaga los requisitos de la aplicación.
3. Conversión del modelo: Convertir el modelo entrenado a formato flat-buffer con el convertidor del proveedor, aplicando opcionalmente cuantización para reducir tamaño. El flat buffer se traduce a código C y se empaqueta en el firmware del MCU.
4. Despliegue y actualizaciones: Flashear el firmware en el MCU. Cuando aparecen nuevas clases de datos, el modelo puede reentrenarse en la nube y actualizarse en el dispositivo mediante actualizaciones de firmware over-the-air (OTA).

Existen dos caminos arquitectónicos comunes para soluciones de IA basadas en MCU, asumiendo un núcleo Arm Cortex-M:

1. Ejecución solo software: El modelo flat-buffer se ejecuta en la CPU Cortex-M, acelerado por bibliotecas CMSIS-NN. Esta configuración ligera es adecuada para tareas como detección de palabras clave y análisis de vibraciones.
2. Ejecución acelerada por hardware: Incorporar una unidad de procesamiento neuronal micro (u-NPU) o acelerador NN. El u-NPU maneja la mayoría de cargas de trabajo comunes de audio, voz, clasificación de imágenes y detección de objetos, recurriendo a la CPU para operaciones no soportadas. Este enfoque ofrece mayor rendimiento y menor consumo energético.

A medida que los MCU evolucionan hacia el sobre de rendimiento de los MPUs, anticipamos la aparición de aprendizaje en el dispositivo —algoritmos de entrenamiento ligeros ejecutándose directamente en el MCU. Esto abrirá nuevos mercados e impulsará inversión significativa de fabricantes de MCU.

La IA en el borde es el futuro

La IA en el borde en MCU con recursos limitados crecerá exponencialmente, desbloqueando nuevas aplicaciones a medida que se difuminan los límites de rendimiento entre MCU y MPUs. La proliferación de modelos NN delgados diseñados para contextos embebidos impulsará la adopción en todas las industrias.