TinyML: Ingenieros se unen para estandarizar IA en sistemas de ultra-bajo consumo

SUNNYVALE, Calif. – Casi 200 ingenieros e investigadores se reunieron para lanzar una comunidad dedicada a impulsar TinyML, el campo emergente que lleva el deep learning a sistemas de ultra-bajo consumo.

"No hay escasez de ideas innovadoras", dijo Ian Bratt, fellow de machine learning en Arm, inaugurando la sesión.

Hace cuatro años, el progreso se había estancado. La llegada de nuevos formatos de punto flotante y técnicas de compresión ha reavivado el entusiasmo, pero persiste una brecha significativa entre la investigación de vanguardia y soluciones comercialmente viables, explicó Bratt.

El ecosistema de software parece el lejano oeste —fragmentado y dominado por gigantes corporativos como Amazon, Google y Facebook, cada uno impulsando sus propios frameworks. El desafío para ingenieros de hardware es entregar productos ampliamente utilizables, añadió.

Un ingeniero de STMicroelectronics hizo eco de este sentimiento. "Acabo de darme cuenta de que hay al menos cuatro compiladores IA, y los chips de próxima generación quedarán fuera del kit de herramientas tradicional del diseñador embebido. Estabilizar interfaces de software e invertir en interoperabilidad —a través de un comité de estándares— son esenciales", dijo.

Pete Warden, co-presidente del grupo TinyML y líder técnico de TensorFlow Lite, advirtió que los estándares de software pueden ser aún prematuros. "Los investigadores revisan constantemente operaciones, arquitecturas, pesos, compresión, formatos y cuantización. La semántica está en flujo y debemos seguir el ritmo", dijo.

Warden añadió que en los próximos años, aceleradores que no puedan ejecutar cómputo de propósito general para soportar nuevas operaciones o funciones de activación quedarán obsoletos. Dentro de dos años, es probable que surjan nuevas operaciones, advirtió.

Un investigador de IA de Microsoft coincidió. "Aún estamos lejos de donde deberíamos estar, y no llegaremos en uno o dos años. Esta fue la razón por la que Microsoft invirtió en FPGAs para acelerar sus servicios en la nube Azure", dijo. "Construir las capas de abstracción correctas es crucial para la innovación en hardware. Un acelerador de hardware open-source podría acelerar el progreso", añadió.

Bratt propuso que un estándar de cumplimiento podría ser el primer paso, asegurando que los investigadores tengan una experiencia edge-cloud consistente, sugirió.

El profesor de Princeton Naveen Verma, cuyo trabajo se centra en procesadores IA-en-memoria, enfatizó la necesidad de especificaciones funcionales robustas en todos los niveles. "Si podemos definir especificaciones claras en niveles suficientes, abrirá caminos a otras capas, y esta comunidad está posicionada de forma única para definirlas", dijo.