Las tendencias continúan impulsando el procesamiento al límite para la IA

Las conclusiones clave de este artículo incluyen lo siguiente:

• La proliferación de dispositivos y los volúmenes de datos ahora favorecen los modelos informáticos distribuidos por razones de velocidad, rendimiento y seguridad de los datos
• Los recientes movimientos de proveedores de NVIDIA y VMware brindan soporte para el procesamiento intensivo de datos, como la inteligencia artificial y el aprendizaje automático, en el borde.
• Muchos procesos e industrias se beneficiarán de llevar el procesamiento al límite, incluido el IoT industrial y el IoT basado en el consumidor.

A medida que proliferan los dispositivos conectados, han surgido nuevas formas de procesamiento para adaptarse a la explosión de dispositivos y datos.

Durante años, las organizaciones se han movido hacia una arquitectura de procesamiento fuera del sitio centralizada en la nube y lejos de los centros de datos locales. La computación en la nube permitió a las empresas emergentes innovar y expandir sus negocios sin requerir grandes desembolsos de capital en la infraestructura del centro de datos o costos continuos para la administración de TI. Permitió a las grandes organizaciones escalar rápidamente y mantenerse ágiles mediante el uso de recursos bajo demanda.

Pero a medida que las empresas avanzan hacia modelos más remotos, comunicaciones con uso intensivo de video y otros procesos, necesitan una arquitectura de computación en el borde para adaptarse a las tareas de acaparamiento de datos.

Estos procesos intensivos en datos deben ocurrir en fracciones de segundo:piense en automóviles autónomos, transmisión de video o rastreo de camiones de envío en tiempo real en su ruta. Enviar datos en un viaje de ida y vuelta a la nube y de regreso al dispositivo lleva demasiado tiempo. También puede agregar costos y comprometer los datos en tránsito.

"Los clientes se dan cuenta de que no quieren pasar una gran cantidad de procesamiento a la nube, por lo que piensan que el borde es el objetivo real", según Markus Levy, director de tecnologías de inteligencia artificial de NXP Semiconductors, en un artículo sobre el auge de la inteligencia artificial integrada.

En los últimos años, la arquitectura de computación de borde ha pasado a primer plano para adaptarse a la proliferación de datos y dispositivos, así como a la velocidad a la que se mueven estos datos.

Se espera que el mercado de la informática de punta crezca de $ 3.6 mil millones en 2020 a $ 15.7 mil millones en 2025, según datos de MarketsandMarkets.

Los movimientos del mercado continúan impulsando el procesamiento al límite:NVIDIA

Los movimientos recientes de NVIDIA, un gigante en el mercado de unidades de procesamiento gráfico (GPU), y VMware, el proveedor de virtualización, respaldan estas nuevas arquitecturas de procesamiento distribuido y claramente allanan el camino para el procesamiento ultrarrápido en el borde.

Primero, en septiembre, por ejemplo, NVIDIA anunció su intención de pagar $ 40 mil millones por Arm, en parte para continuar empujando la IA más cerca del límite. Si bien NVIDIA ha dominado el centro de datos con sus GPU, Arm tiene una fortaleza en el mercado móvil, suministrando chips a Apple, Qualcomm y otros.

"Si cree que el futuro es la inteligencia artificial, y cree que funciona con GPU y CPU, entonces la capacidad de NVIDIA para crear estos sistemas de extremo a extremo ha aumentado", dijo Zeus Kerravala, en una entrevista en video en NVIDIA. -Trabajo de brazo y prospectos para IA en el borde. "Especialmente en el mercado de la informática de punta, [NVIDIA] estará por encima de eso".

Existen preocupaciones regulatorias sobre el acuerdo de NVIDIA-Arm, incluido si podría poner en peligro el exitoso negocio de licencias de Arm. Arm tiene cientos de licencias con sus socios, que, además de los competidores AMD e Intel, incluyen gigantes como Apple, Qualcomm y Broadcom. También existen serias preocupaciones antimonopolio sobre el nuevo control de NVIDIA del mercado de CPU móviles.

SmartNIC:mover el procesamiento hasta el límite

En segundo lugar, en la conferencia virtual VMworld 2020 a finales de septiembre, VMware anunció el Proyecto Monterey para proporcionar un rendimiento mejorado de la IA con la tecnología SmartNIC (o tarjeta de interfaz de red inteligente) y las unidades de procesamiento de datos (DPU) de NVIDIA. Project Monterey implica una asociación con varias empresas, incluida NVIDIA, para reforzar la infraestructura para admitir aplicaciones de inteligencia artificial en el borde.

Monterey descarga las tareas de hipervisor, redes, seguridad y almacenamiento de una CPU host a la DPU BlueField de NVIDIA. Trasladar este procesamiento a las DPU y SmartNics puede reenviar la inteligencia artificial, el aprendizaje automático y otras aplicaciones centradas en datos.

Una SmartNIC ejecuta tareas que no son de aplicación desde la CPU de un servidor, por lo que el servidor puede ejecutar más aplicaciones más rápido.

"Ha habido una ola general de interés en acercar la computación a los datos", dijo Alexander Harrowell, analista senior de Omdia.

“Mueve la abstracción del hipervisor desde el host a la red ... y descarga parte del trabajo que hace el hipervisor en esa tarjeta”, dijo Harrowell. “Hace más disponible la potencia de procesamiento por la que pagó. Así que aquí hay una historia de un cambio desde el modelo clásico Intel x86 al llamado Modelo de Computación de Harvard ".

Esta tendencia hacia la computación distribuida, señaló Harrowell, continuará a buen ritmo y permitirá un procesamiento más complejo, como el procesamiento de IA.

"Al descargar gran parte de ese trabajo de E / S en el núcleo de Arm y aprovechar las descargas de hardware en esas SmartNIC", dijo Greg Lavender, vicepresidente senior y director de tecnología de VMware, "puede descargar ese procesamiento y liberar incluso hasta un 30% de la CPU ... y devuélvala a la aplicación para que [ésta] obtenga el beneficio de esos recursos de memoria y de cómputo adicionales.

Para el mercado de las cosas conectadas, mover el procesamiento hacia abajo y hacia estas arquitecturas de borde distribuidas será una gran ayuda para los procesos intensivos en datos que necesitan tiempos de respuesta rápidos.

"Ahora que puede hacer IA en el borde, puede convertir el IoT en algo con capacidades reales", dijo Levy de NXP.

>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>

Para obtener más información sobre el IoT industrial, participe en Industrial IoT World en diciembre.