NVIDIA y VMware Colaboran para Acelerar la Eficiencia de Costos en IA con Virtualización de GPU

Al aumentar las tasas de utilización de GPUs, el costo de construir y desplegar aplicaciones de IA disminuirá sustancialmente.

En la conferencia VMworld 2019, NVIDIA y VMware anunciaron que conjuntamente harán posible desplegar máquinas virtuales de VMware en unidades de procesamiento gráfico (GPUs).

Como parte de esta iniciativa, NVIDIA anunció que su software de GPU virtual (vGPU) ahora puede desplegarse en máquinas virtuales en servidores, además del soporte existente para sistemas cliente. El software NVIDIA Virtual Compute Server (vComputeServer) para GPUs también se está extendiendo para agregar soporte para plataformas VMware vSphere. NVIDIA también se comprometió a hacer su centro para acceder a herramientas de construcción de aplicaciones de inteligencia artificial (IA) disponible en plataformas VMware.

Ver también: ¿Cuáles son los 3 Componentes Clave de la Preparación para la Inteligencia Artificial?

Usando estas tecnologías de NVIDIA, VMware se comprometió a poner a disposición un servicio en la nube que consiste en instancias bare metal de Amazon EC2 aceleradas por GPUs NVIDIA T4 ejecutando software vComputeServer en VMware Cloud on AWS.

Colectivamente, estos avances no solo tienen implicaciones significativas para mejorar la utilización de GPUs, sino que también hacen posible que los científicos de datos agreguen múltiples cargas de trabajo en GPUs ejecutándose en servidores VMware que residen on-premise o en la nube, dice John Fanelli, vicepresidente de producto para NVIDIA Grid.

Si bien el interés en emplear GPUs para construir aplicaciones de inteligencia artificial (IA) ha sido masivo, el costo de construir esas aplicaciones a menudo ha sido prohibitivo. En ausencia de una máquina virtual, cada GPU se dedicaba previamente a ejecutar una carga de trabajo a la vez. Al aumentar las tasas de utilización de GPUs, el costo de construir y desplegar aplicaciones de IA disminuirá sustancialmente, dice Fanelli.

Eso es crítico porque esos costos han inhibido a las organizaciones de invertir más en aplicaciones de IA que tienen el potencial de transformar casi todos los aspectos de la existencia humana.

"La IA es la tecnología más poderosa de nuestro tiempo", dice Fanelli.

El rendimiento de esas cargas de trabajo de IA que se ejecutan en máquinas virtuales, sin embargo, variará dependiendo de sus atributos individuales, dice Fanelli. Muchos desarrolladores podrán compensar cualquier problema de rendimiento aprovechando un kit de herramientas NVIDIA CUDA para ejecutar cargas de trabajo de IA en paralelo, señaló Fanelli.

A medida que se vuelve más asequible construir y desplegar aplicaciones de IA eficientemente, el número de proyectos de IA que se lanzarán en los próximos meses debería aumentar. Para acelerar ese proceso, VMware también dijo que los clientes podrán migrar cargas de trabajo a instancias de GPU que se ejecutan en centros de datos locales a la nube usando herramientas VMware HCX que automatizan el movimiento de máquinas virtuales y aceleran la transferencia de datos entre plataformas.

Las GPUs accesibles principalmente en la nube se han convertido en la plataforma preferida para entrenar modelos de IA debido a la eficiencia con que las GPUs gestionan la memoria y la sobrecarga de E/S. NVIDIA, sin embargo, ha estado haciendo un caso con éxito mixto para también confiar en GPUs para ejecutar los motores de inferencia necesarios para ejecutar esos modelos de IA en lugar de servidores x86. Al agregar soporte para máquinas virtuales de servidor a su software, debería volverse mucho más factible ejecutar múltiples motores de inferencia en la misma plataforma GPU de manera muy similar a como se despliegan los motores de inferencia en plataformas x86.

Por supuesto, tener acceso a recursos de infraestructura adicionales no garantiza necesariamente el éxito en IA. Esos recursos, sin embargo, ayudarán en gran medida a reducir el costo de equivocarse durante el proceso de desarrollo de IA.