Arm presenta Cortex-M55 y Ethos-U55: nuevos núcleos IP para TinyML en endpoints de bajo consumo

Arm lanzó hoy dos núcleos IP de vanguardia que llevan capacidad avanzada de machine learning a endpoints con recursos limitados, incluyendo IoT y dispositivos de bajo consumo. El microcontrolador Cortex-M55 es el primero en integrar el motor de procesamiento vectorial Helium de Arm, mientras que el Ethos-U55 es una versión compacta de las NPUs insignia de Arm. Aunque diseñados para despliegue conjunto, cada núcleo puede operar independientemente.

Desplegar IA en microcontroladores —comúnmente llamado TinyML— se ha vuelto cada vez más crítico conforme las redes 5G impulsan inteligencia en el edge. Expertos pronostican que el mercado TinyML se expandirá para abarcar miles de millones de sistemas de consumo e industriales, entregando insights en tiempo real sin dependencia de la nube.

"Cuando miremos hacia atrás dentro de cinco años, quizás todos estemos de acuerdo que este momento marcó un verdadero cambio de paradigma en la computación", dijo Thomas Ensergueix, director senior para IoT y Embebidos en Arm. "Hemos visto en pocos años cómo la IA ha revolucionado la analítica de datos en la nube, la mayoría tenemos un smartphone aumentado con IA en el bolsillo, y aquí está el siguiente paso, preparándonos para IA en todas partes."

Dispositivos de hogar inteligente como altavoces podrán realizar inferencia de machine learning localmente (Imagen: Sebastian Scholz/Unsplash)

Reconocimiento de voz, visión por computadora y otras cargas de trabajo ML están migrando de la nube al propio microcontrolador. Los nuevos núcleos de Arm apuntan a un ecosistema creciente de soluciones de microcontrolador que priorizan la inferencia on-device.

"Sabemos que todos estos datos a nivel endpoint no pueden volver a la nube", dijo Ensergueix. "Cámaras de video en hogares o ciudades inteligentes generan literalmente gigabytes diarios de datos y la infraestructura no está construida para este flujo ascendente. Estamos convencidos de que para escalar hacia miles de millones o billones de endpoints IoT, necesitaremos capacidad de inferencia IA directamente en el endpoint IoT. Y debe ser seguro."

Cortex-M55

El Cortex-M55 se basa en la confiable familia Cortex-M, ofreciendo el mayor rendimiento de IA hasta la fecha. Aprovechando la arquitectura Armv8.1-M, soporta instrucciones personalizadas que permiten a desarrolladores adaptar el núcleo para cargas de trabajo específicas, exprimiendo máxima eficiencia.

La tecnología de procesamiento vectorial Helium entrega 5× mayor rendimiento DSP y 15× mayor rendimiento ML sobre generaciones previas de Cortex-M.

Instrucciones personalizadas para operaciones INT8, incluyendo producto punto, aceleran la inferencia de redes neuronales.

"Una aplicación AIoT exitosa depende no solo de buen rendimiento computacional sino también de poder obtener los datos correctos, los coeficientes correctos y los pesos de machine learning correctos en el momento adecuado, así que la interfaz de memoria del procesador ha sido optimizada para manejar todos los datos de entrada y salida. Es mucho más capaz que cualquier otro núcleo Cortex-M en este aspecto", dijo Ensergueix.

La combinación de Cortex-M55 y Ethos-U55 tiene suficiente potencia para aplicaciones como reconocimiento de gestos, biometría y reconocimiento de voz (Imagen: Arm)

Ethos-U55

El Ethos-U55 es el primer 'micro-NPU' de Arm, entregando hasta 0,5 TOPS de aceleración a 1 GHz. Configurable de 32 a 256 MACs, cuenta con decodificador de pesos on-chip y DMA para descompresión de pesos en tiempo real, reduciendo la huella de memoria.

Comparado con sus hermanos mayores —Ethos-N77 (4 TOPS), N57 (2 TOPS) y N37 (1 TOPS)— el U55 ofrece una solución densa y de bajo consumo que puede escalar apilando múltiples núcleos.

El Cortex-M55 y Ethos-U55 están diseñados para usarse juntos, pero también por separado (Imagen: Arm)

Los dos nuevos núcleos, M55 y U55, están diseñados para trabajar en tándem, entregando hasta 480× aceleración sobre cualquier dispositivo Cortex-M previo solo. Para cargas de trabajo típicas de asistente de voz, Arm reporta 50× aceleración y 25× mejora en eficiencia energética comparado con un Cortex-M7.

"El Cortex-M ejecuta el código del sistema de aplicación y luego, cuando se requiere una carga de trabajo de red neuronal, el stream de comandos se coloca en SRAM, se emite una interrupción al U55, y este toma el control. El U55 ejecuta hasta completar, devuelve resultados a SRAM, y el Cortex-M retoma el control. En escenarios de streaming, el U55 puede procesar datos de audio o video continuos", explicó Steve Roddy, vicepresidente del grupo de machine learning en Arm.

Silicio basado en estos nuevos núcleos debería llegar al mercado a principios de 2021.