Edge AI: Por qué el procesamiento se desplaza hacia la capa de dispositivo

Conclusiones clave:

• El rápido aumento de dispositivos conectados y volúmenes de datos ha hecho que la computación distribuida sea indispensable para velocidad, rendimiento y seguridad de datos.
• Los movimientos estratégicos de NVIDIA y VMware ahora permiten que cargas de trabajo intensivas en IA y machine learning se ejecuten directamente en el edge.
• El procesamiento en el edge ofrece beneficios tangibles en un espectro de industrias, desde IoT industrial hasta aplicaciones de consumo.

Con miles de millones de sensores y dispositivos inteligentes en todo el mundo, las arquitecturas cloud centralizadas tradicionales están alcanzando sus límites. Aunque la computación en la nube revolucionó la agilidad de startups y la escalabilidad empresarial, las cargas de trabajo emergentes —como video de alta definición, vehículos autónomos y logística en tiempo real— exigen latencia sub-segundo y manejo seguro de datos on-premise.

"Los clientes se dan cuenta de que descargar demasiado procesamiento a la nube ya no es viable", afirma Markus Levy, responsable de tecnologías de IA en NXP Semiconductors, en una reciente charla sobre IA embebida. "El edge es donde reside la verdadera oportunidad".

Datos de mercado de MarketsandMarkets proyectan que el mercado de edge computing crecerá de $3.6 mil millones en 2020 a $15.7 mil millones para 2025 —una expansión de más de cuatro veces impulsada por la necesidad de procesamiento de baja latencia y alto ancho de banda.

Movimientos de mercado aceleran la adopción del Edge: NVIDIA

La adquisición de Arm por $40 mil millones por parte de NVIDIA en septiembre de 2020 es un paso histórico para llevar IA acelerada por GPU más cerca del dispositivo. Mientras NVIDIA ha dominado durante mucho tiempo las GPUs de centros de datos, el dominio de Arm en procesadores móviles —suministrados a Apple, Qualcomm, Broadcom y otros— proporciona una plataforma poderosa para IA en el edge.

Zeus Kerravala, analista de una firma de investigación del sector, señala: "Si ves la IA como el futuro, impulsada por GPUs y CPUs, la capacidad de NVIDIA para construir sistemas end-to-end acaba de dispararse, especialmente en la arena del edge computing".

Los reguladores vigilan de cerca el acuerdo por posibles implicaciones antimonopolio, dada la extensa red de licencias de Arm y la creciente influencia de NVIDIA en mercados de CPUs móviles.

SmartNICs: Llevando la inteligencia al Edge

En VMworld 2020, VMware presentó Project Monterey —una colaboración con NVIDIA que aprovecha SmartNICs y las DPUs BlueField de NVIDIA para acelerar cargas de trabajo de IA en el edge. Al descargar funciones de hipervisor, red, seguridad y almacenamiento del CPU host a la DPU, Monterey libera hasta un 30% de ciclos de CPU para lógica de aplicación.

Alexander Harrowell, analista senior en Omdia, observa: "La tendencia es clara: mover la computación más cerca de los datos mejora el rendimiento y la utilización de recursos. Las SmartNICs desplazan las responsabilidades del hipervisor a la red, desbloqueando un modelo de computación estilo Harvard".

Greg Lavender, VP senior y CTO de VMware, explica: "Descargar E/S y computación al núcleo Arm en SmartNICs libera recursos de CPU, dando a las aplicaciones computación y memoria adicionales para operar más rápido".

Para el ecosistema de cosas conectadas, este cambio permite IA en tiempo real —convirtiendo dispositivos IoT pasivos en sistemas inteligentes y responsivos, como enfatiza Levy.

Para más cobertura sobre IoT Industrial, únete a Industrial IoT World este diciembre.