Arm ofrece IP de procesamiento neuronal para procesadores de aplicaciones

Arm ha creado una nueva versión de su IP microNPU (unidad de procesamiento neuronal) que es adecuada para su uso junto con los núcleos de CPU Cortex-A en procesadores de aplicaciones. El licenciatario principal NXP planea usar esta IP en una próxima familia de procesadores de aplicaciones que pueden manejar aplicaciones de inteligencia artificial como estimación de pose, reconocimiento de múltiples caras y detección de objetos en videos, y reconocimiento de voz más allá de la detección de palabras clave básicas.

Ethos-U65

El producto microNPU existente de Arm, Ethos-U55, lanzado en febrero de 2020, está dirigido a productos de clase de microcontroladores junto con núcleos Cortex-M. Proporciona hasta 0.5 TOPS de aceleración (basado en geometrías más pequeñas como 16 o 7 nm, corriendo a 1 GHz), con entre 3 y 256 unidades de acumulación múltiple (MAC). La cartera de Arm también tiene Ethos-N77, N57 y N37, que ofrecen 4, 2 y 1 TOPS, respectivamente.

El Ethos-U65 está diseñado para mantener la eficiencia energética del Ethos-U55 mientras duplica los MAC disponibles (hasta 512 MAC paralelos a 1 GHz) para un total de 1 TOPS. Esta combinación de potencia / rendimiento se utiliza específicamente junto con núcleos Cortex-A en dispositivos de clase de procesador de aplicaciones. El soporte nativo de la línea Ethos-U para operadores de ML también se ha actualizado y ampliado, según Arm.

Licenciatario principal

El socio tecnológico líder (y licenciatario líder) NXP trabajó en estrecha colaboración con Arm en los aspectos que definen a nivel de sistema del Ethos-U65 y ha dicho que integrará el IP Ethos-U65 en su próxima generación de procesadores de aplicaciones i.MX.

La arquitectura que NXP ha creado para un procesador de aplicaciones con una microNPU utiliza núcleos Cortex-A y Cortex-M (Imagen:NXP)

La arquitectura que NXP tiene en mente para un procesador de aplicaciones de inteligencia artificial vería a la microNPU Ethos-U65 junto a los núcleos Cortex-M y Cortex-A, explicó Ben Eckermann, ingeniero jefe de hardware AI / ML, NXP. El Cortex-A ejecuta la aplicación, maneja los controladores para (digamos) un micrófono o una cámara, y presenta una carga de trabajo a la NPU. El microNPU y el Cortex-M calculan la carga de trabajo del aprendizaje automático y presentan la respuesta al Cortex-A.

“Al igual que un Ethos-U55, [el Ethos-U65] depende de que un procesador Cortex-M esté en algún lugar cercano del sistema, por si acaso hay operadores de aprendizaje automático de la red neuronal que no tienen sentido que se descarguen por completo en hardware ”, dijo Eckermann. "Hay muchos operadores de aprendizaje automático a los que rara vez se les llama y pueden no justificar su implementación únicamente en hardware".

La flexibilidad que ofrece el Cortex-M en esta configuración también permite una cierta cantidad de protección para el futuro, dijo Eckermann.

Al U65 se le han proporcionado buses de sistema interno más anchos que al U55, y se ha adaptado para hacer frente al almacenamiento en búfer adicional y la latencia asociados con DRAM (común en los sistemas que usan procesadores de aplicaciones, mientras que los sistemas Cortex-M generalmente usan SRAM).

Completar la cartera

NXP está completando su cartera de SoC habilitados para IA.

Los procesadores de aplicaciones i.MX 8M + previamente anunciados por la compañía tienen un bloque acelerador NPU AI junto con núcleos Cortex-A53 duales o cuádruples. La NPU IP incluida en estos productos no es de Arm. Es un diseño de Verisilicon que ofrece 2.3 TOPS, suficiente para segmentación de escenas, reconocimiento de caras y objetos de video en vivo o interpretación de acento de voz. En el extremo inferior del espectro, los microcontroladores de NXP con NPU Arm Ethos-U55 pueden manejar la detección de personas, la detección de palabras de activación y la eliminación de ruido de video.

Los productos habilitados para Ethos-U65 se ubicarán entre estas dos categorías de productos, manejando aplicaciones de inteligencia artificial como reconocimiento de múltiples caras, reconocimiento de voz más involucrado o estimación de pose. Por lo tanto, cualquier producto nuevo en esta categoría no se superpondrá con el i.MX 8M +, dijo Eckermann.

La cantidad de cálculo requerida para varias aplicaciones de IA (eje x) y la NPU correspondiente (Imagen:NXP)

>> Este artículo se publicó originalmente el nuestro sitio hermano, EE Times.