Aprovechando DSPs para IA de audio en tiempo real en el borde

Aprovechando DSPs para IA de audio en tiempo real en el borde

Antes confinada a servidores en la nube con recursos virtualmente ilimitados, el machine learning está migrando ahora a dispositivos edge. Menor latencia, coste reducido, eficiencia energética y mayor privacidad impulsan este cambio. Por ejemplo, un coche autónomo no puede permitirse el retraso de enviar datos a la nube para reconocimiento de peatones, y los costes de ancho de banda pueden hacer prohibitivo el reconocimiento de voz basado en la nube.

Por qué importa el procesamiento en el borde

Los trade-offs energéticos entre transmitir datos y realizar inferencia local son críticos. Cargas de trabajo ML complejas pueden agotar la batería de un dispositivo si no se ejecutan eficientemente. La inferencia en el borde también mantiene datos sensibles —como correos dictados por voz— en el dispositivo, protegiendo la privacidad del usuario.

Detección de voz siempre activa de bajo consumo

La detección de palabras clave (ej. "Hey Siri" u "OK Google") es uno de los primeros casos de uso de ML en el borde. Ejecutar tal detección en un procesador de aplicación genérico puede consumir más de 100 mW, agotando rápidamente la batería de un smartphone. Los primeros teléfonos movieron el algoritmo a un pequeño DSP que funcionaba a <5 mW, y los micrófonos inteligentes modernos ahora realizan la misma tarea en un DSP de audio-ML especializado a <0.5 mW.

Más allá de la voz: expandiendo capacidades en el borde

Una vez que un dispositivo soporta ML de audio siempre activo, puede reconocer señales contextuales: restaurantes concurridos, calles bulliciosas, música ambiental, firmas ultrasónicas de habitaciones, o gritos y risas cercanas. Estas funciones permiten casos de uso sofisticados que benefician tanto al dispositivo como al usuario.

Construyendo un DSP para IA en el borde

El máximo rendimiento y eficiencia energética para inferencia en el borde requieren hardware a medida. Las técnicas más impactantes se resumen en la tabla siguiente.

La inferencia de redes neuronales depende en gran medida de multiplicaciones matriz-vector (MVM). Una operación multiply-acumulate (MAC) fusionada es la piedra angular de la ejecución eficiente de MVM. La aritmética de baja precisión —a menudo de 8 bits— es suficiente para inferencia, reduciendo drásticamente la complejidad computacional. Intel y Texas Instruments, por ejemplo, ofrecen procesadores con unidades MAC dedicadas de baja precisión: el TI TMS320C6745 ejecuta 8 MACs de operandos de 8 bits por ciclo, mientras que el DSP de audio de Knowles puede realizar 16 tales MACs cada ciclo.

Tanto el entrenamiento como la inferencia demandan ancho de banda de memoria significativo. Caminos de datos anchos alivian la presión: AVX-512 de Intel soporta transferencias de 512 bits por ciclo a un array de 64 multiplicadores; el TI 6745 usa un bus de 64 bits; los procesadores de Knowles adoptan un bus de 128 bits, equilibrando área del chip y ancho de banda. Arquitecturas recurrentes (RNN, LSTM) requieren bucles de retroalimentación, imponiendo restricciones arquitectónicas adicionales que pueden paralizar diseños fuertemente pipelineados.

Los pipelines de audio-ML típicamente comienzan con análisis espectral y extracción de características. Acelerar operaciones clásicas de DSP —FFTs, filtros, funciones trigonométricas y logarítmicas— es esencial para la eficiencia energética. Operaciones vectoriales no lineales (sigmoid, ReLU, etc.) también se benefician de instrucciones de un solo ciclo, reduciendo aún más conteo de ciclos y potencia.

En resumen, procesadores que fusionan aceleración de machine-learning y señal de audio permiten inferencia siempre activa en tiempo real a bajo coste preservando la privacidad. Elecciones arquitectónicas —conjuntos de instrucciones multi-operación, buses anchos y unidades especializadas de baja precisión— mantienen alto rendimiento sin alto consumo. A medida que el cómputo edge especializado evoluciona, el espectro de casos de uso ML factibles se expandirá.

Jim Steele, Vicepresidente de Estrategia Tecnológica, Knowles Corp.

© Este artículo se publicó originalmente en EE Times: "Machine Learning on DSPs: Enabling Audio AI at the Edge."