Aceleración Edge AI: Principales procesadores especializados para 2024

Las cargas de trabajo de IA y machine learning se desplazan cada vez más al edge, y surge una creciente variedad de procesadores para satisfacer las diversas demandas de estas aplicaciones. Desde gigantes consolidados hasta startups ágiles, cada solución apunta a verticales, envolventes de potencia y puntos de precio específicos. A continuación, un resumen conciso de los líderes actuales del mercado.

Procesadores de aplicación

Intel Movidius Myriad X

Desarrollado originalmente por la startup irlandesa Movidius y adquirido por Intel en 2016, el Myriad X es una unidad de procesamiento de visión de tercera generación que introdujo un motor de cómputo de redes neuronales dedicado. Entrega 1 TOPS de cómputo de redes neuronales profundas (DNN), soporta precisión FP16 e INT8, y está fuertemente acoplado a una estructura de memoria inteligente para eliminar cuellos de botella en la transferencia de datos. El chip alberga 16 núcleos SHAVE propietarios y una suite mejorada de aceleradores de visión. Está disponible en el Neural Compute Stick 2 de Intel, una plataforma de evaluación USB plug‑and‑play que permite el despliegue rápido de cargas de trabajo de IA y visión por computadora en cualquier estación de trabajo.

NXP Semiconductors i.MX 8M Plus

El i.MX 8M Plus es un procesador de aplicación heterogéneo que incluye un acelerador de redes neuronales dedicado de VeriSilicon (Vivante VIP8000). Ofrece 2,3 TOPS para inferencia, soportando tareas como identificación multi‑objeto, reconocimiento de voz de 40.000 palabras o MobileNet v1 a 500 imágenes/segundo. Complementando al acelerador, el chip integra un subsistema de cuatro núcleos Arm Cortex‑A53 a 2 GHz y un subsistema en tiempo real Cortex‑M7. El soporte de visión incluye dos procesadores de señal de imagen de alta definición para cámaras estéreo o única de 12 MP, mientras que un DSP HiFi4 a 800 MHz gestiona el pre‑ y post‑procesamiento de voz.

El i.MX 8M Plus de NXP es el primer procesador de aplicación de la compañía con un acelerador de redes neuronales dedicado, diseñado para escenarios IoT. (Imagen: NXP Semiconductors)

XMOS xcore.ai

El xcore.ai combina rendimiento de procesador de aplicación con eficiencia en tiempo real de microcontrolador, dirigido a dispositivos AIoT controlados por voz. Basado en la arquitectura propietaria Xcore de XMOS, el chip comprende 16 núcleos lógicos que pueden asignarse a E/S, DSP, control o funciones de IA, creando efectivamente un SoC definido por software. Soporta redes neuronales de 32, 16, 8 y 1 bit (binarizadas), entregando 3.200 MIPS, 51,2 GMACCs y 1.600 MFLOPS. Con 1 MB de SRAM embebida y una interfaz DDR de bajo consumo, es idóneo para cargas de trabajo de procesamiento de voz compactas y de baja latencia.

El xcore.ai de XMOS es una plataforma propietaria y versátil diseñada para cargas de trabajo de IA centradas en voz. (Imagen: XMOS)

SoC Automotriz

Texas Instruments Inc. TDA4VM

Parte de la serie Jacinto 7, el TDA4VM es el primer SoC de TI con un acelerador de deep learning integrado. El acelerador se basa en el núcleo DSP C7x y un acelerador personalizado de multiplicación de matrices (MMA), alcanzando hasta 8 TOPS. Diseñado para ADAS, puede procesar un flujo de cámara frontal de 8 MP o múltiples cámaras de 3 MP más radar, LiDAR y entradas ultrasónicas, permitiendo fusión de sensores para aparcamiento autónomo y otras funciones avanzadas de asistencia al conductor. Orientado a presupuestos de potencia de 5–20 W, el TDA4VM está disponible como kit de desarrollo de pre‑producción.

El TDA4VM de TI impulsa sistemas ADAS automotrices complejos, entregando percepción y fusión de sensores en un solo chip. (Imagen: Texas Instruments Inc.)

GPU

Nvidia Corp. Jetson Nano

El Jetson Nano de Nvidia lleva una GPU Maxwell de 128 núcleos y una CPU Arm Cortex‑A57 de cuatro núcleos a dispositivos edge. Capaz de 0,5 TFLOPS, el módulo puede ejecutar múltiples redes neuronales en flujos de imagen de alta resolución consumiendo solo 5 W. Integra CUDA X, la suite de bibliotecas de aceleración de redes neuronales de Nvidia, y está disponible en kits de desarrollo rentables.

El Jetson Nano de Nvidia ofrece una GPU potente para IA en el edge, en un factor de forma compacto y de bajo consumo. (Imagen: Nvidia Corp.)

Co‑procesadores de consumo

Kneron Inc. KL520

El KL520 es un procesador de redes neuronales dedicado al procesamiento de imagen y reconocimiento facial para hogares inteligentes, sistemas de seguridad y dispositivos móviles. Optimizado para redes neuronales convolucionales, entrega 0,3 TOPS a 0,5 W (≈0,6 TOPS/W) con una eficiencia MAC superior al 90 %. Su arquitectura reconfigurable y un compilador que aplica compresión permiten que modelos más grandes quepan en los recursos del chip, reduciendo potencia y coste. El KL520 está disponible en la tarjeta aceleradora AAEON M2AI‑2280‑520.

El KL520 de Kneron combina un diseño reconfigurable con técnicas de compresión para procesamiento de imagen móvil eficiente. (Imagen: Kneron Inc.)

Gyrfalcon Lightspeeur 5801

Dirigido a electrónica de consumo, el Lightspeeur 5801 alcanza 2,8 TOPS a 224 mW (≈12,6 TOPS/W) con 4 ms de latencia, gracias a una arquitectura processor‑in‑memory que ofrece excelente eficiencia energética. Su memoria on‑chip de 10 MB aloja modelos completos, y la velocidad de reloj puede ajustarse entre 50 MHz y 200 MHz para equilibrar potencia y rendimiento. El 5801 impulsa el smartphone LG Q70 de gama media, gestionando inferencia para efectos de cámara, y está disponible como kit de desarrollo USB thumb‑drive.

Ultra‑bajo consumo

Eta Compute ECM3532

El ECM3532 está diseñado para dispositivos IoT alimentados por batería o energy‑harvesting que requieren inferencia always‑on. Empareja un microcontrolador Arm Cortex‑M3 con un DSP NXP CoolFlux, y utiliza una técnica propietaria de escalado de voltaje/frecuencia que optimiza la potencia ciclo a ciclo. Las cargas de trabajo de machine learning —especialmente tareas de voz— pueden ejecutarse en cualquiera de los dos núcleos. Hay muestras disponibles, con producción en masa prevista para el segundo trimestre de 2020.

Syntiant Corp. NDP100

El NDP100 es un silicio processor‑in‑memory diseñado para inferencia de comandos de voz bajo presupuestos de potencia estrictos. Consumiendo menos de 140 µW en modo activo, soporta detección de palabras clave, wake‑word, identificación de locutor y clasificación de eventos. Está destinado a dispositivos de consumo manos‑libres como auriculares, audífonos, smartwatches y mandos a distancia, con kits de desarrollo disponibles.

El NDP100 de Syntiant ofrece procesamiento de voz ultra‑bajo consumo para IoT de consumo. (Imagen: Syntiant Corp.)

GreenWaves Technologies GAP9

El GAP9 es un procesador de aplicación ultra‑bajo consumo que incluye nueve núcleos RISC‑V con un conjunto de instrucciones personalizado afinado para eficiencia energética. Incorpora interfaces de audio bidireccionales multi‑canal y 1,6 MB de RAM interna. El GAP9 puede ejecutar MobileNet V1 en imágenes de 160×160 en 12 ms consumiendo solo 806 µW por fotograma, lo que lo hace ideal para aplicaciones de detección de imagen, audio y vibración alimentadas por batería.