El chip AI admite inferencias en dispositivos de consumo ultrabajo

LONDRES - La próxima generación del acelerador de IA de potencia ultrabaja de GreenWaves, GAP9, utilizará cinco veces menos energía que su predecesor, GAP8, mientras maneja algoritmos que son 10 veces más grandes. El nuevo dispositivo ofrecerá hasta 50 GOPS con un consumo de energía total de 50 mW. Esto se debe a una combinación de mejoras arquitectónicas y una nueva tecnología de proceso FD-SOI (silicio totalmente agotado en aislante) de última generación.

Al igual que el dispositivo de la generación anterior, GAP9 tiene como objetivo la inferencia de IA en sistemas en el mismo borde de la red, como los pequeños nodos de sensores de IoT que funcionan con baterías. Como ejemplo, las cifras de GreenWaves tienen GAP9 ejecutando MobileNet V1 en imágenes de 160 x 160 con una escala de canal de 0,25 en solo 12 ms con un consumo de energía de 806 μW / fotograma / segundo.

GreenWaves, con sede en Grenoble, Francia, ha elegido el proceso FDX FD-SOI de 22 nm de GlobalFoundries para minimizar el consumo de energía de lo que ya era una arquitectura de energía ultrabaja.

"Para GAP9, hemos ajustado la arquitectura GAP8 utilizando los comentarios de los clientes sobre GAP8, pero al mismo tiempo nos hemos trasladado a un proceso de semiconductores líder en el mercado", dijo Martin Croome, vicepresidente de marketing de GreenWaves. "Estamos utilizando la capacidad de polarización corporal en FD-SOI para permitirnos lograr un consumo de energía aún menor".

Mejoras arquitectónicas

GreenWaves ha realizado varios avances arquitectónicos para GAP9.

Se ha agregado un núcleo RISC-V más, lo que eleva el total a 10. Un núcleo se utiliza como controlador de estructura, así como para cómputo de baja intensidad en ciertos modos. Los otros nueve forman un clúster de cálculo con un área de datos L1 compartida. Un núcleo de este grupo (el nuevo) se utiliza como maestro del grupo de tareas, calculando los movimientos de la memoria y administrando tareas en los otros ocho núcleos.

La RAM interna se ha triplicado a 1,6 MB y el ancho de banda de la memoria se ha aumentado a 41,6 GB / seg para L1 y 7,2 GB / s para L2.

"Este [ancho de banda de memoria] es ahora muy importante para un dispositivo de clase MCU", dijo Croome.

La arquitectura del chip AI de potencia ultrabaja GAP9 de GreenWaves ahora usa 10 núcleos RISC-V (Imagen:GreenWaves)

Los cambios en la arquitectura GAP9 también incluyen una frecuencia máxima mucho más alta; GAP8 con una frecuencia de reloj de 175MHz, GAP9 funcionará a 400MHz o cerca de ellos. También se han agregado nuevos estados de energía, incluido un estado "inactivo" cuando se pueden adquirir datos pero el consumo de energía sigue siendo inferior a 1 mW. En este estado, el procesador puede funcionar con un regulador de baja caída (LDO) que puede iniciarse rápidamente. Esto reduce el tiempo de GAP9 hasta la primera instrucción a solo unos pocos microsegundos (GAP8 tomó alrededor de 700 µs mientras esperaba que el convertidor CC-CC se estabilizara, dijo Croome). Esta capacidad de inicio rápido es útil cuando se capturan señales basadas en el tiempo, como el habla.

Los diez núcleos ahora son capaces de manejar números de punto flotante de "transprecisión":formato IEEE de punto flotante de 16 y 32 bits más formatos adicionales de 8 y 16 bits con soporte para vectorización. Esta capacidad se puede utilizar para reducir los requisitos de energía de los algoritmos que requieren punto flotante. GAP9 también admite operaciones vectorizadas de 4 y 2 bits para aplicaciones que explotan niveles profundos de cuantificación.

Otras características nuevas incluyen interfaces de audio multicanal bidireccionales.

Se espera que GAP9 alcance la producción en masa en 2021 con muestras en la primera mitad de 2020. Croome dijo que se espera que el precio tenga una prima del 50% en comparación con GAP8. Dados los diferentes tiempos, cifras de energía y precio, la compañía espera que ambos productos encuentren mercados en el futuro.