Las plataformas Edge AI superan a la GPU / CPU en rendimiento y eficiencia

Al ofrecer lo que llama un gran avance en hardware y software de computación de inteligencia artificial (AI) para aplicaciones de inteligencia artificial de borde y superar las limitaciones de GPU / CPU heredadas, Blaize ha anunciado nuevas plataformas integradas y de aceleración, Pathfinder y Xplorer, que permiten el desarrollo de AI de borde sin código. .

Las plataformas se basan en la arquitectura del procesador de flujo de gráficos (GSP) de Blaize. Según la compañía, con 16 núcleos GSP y 16 TOPS de rendimiento de inferencia de IA dentro de una envolvente de potencia de 7 W, GSP puede ofrecer hasta 60 veces mejor eficiencia a nivel de sistema en comparación con GPU / CPU para aplicaciones de IA de borde. También permite 50 veces menos ancho de banda de memoria y 10 veces menos latencia. Blaize GSP es un procesador 100% programable y cuenta con capacidades avanzadas como multiproceso y transmisión.

Blaize dijo que sus clientes de acceso temprano para Pathfinder y Xplorer están buscando implementaciones de producción de casos de uso de visión inteligente de borde de inteligencia artificial en tiempo real previamente inviables en aplicaciones industriales, automotrices, minoristas inteligentes, metropolitanas y de fábrica. El cofundador y director ejecutivo de la empresa, Dinakar Munagala, dijo:“Las soluciones de borde de hoy son demasiado pequeñas para calcular la carga o demasiado costosas y difíciles de producir. Los productos de informática de borde Blaize AI superan estas limitaciones de potencia, complejidad y costo para dar rienda suelta a la adopción de AI en el borde, lo que facilita la migración de la informática de AI desde el centro de datos al borde ". Se espera que los mercados de IA de borde crezcan rápidamente a medida que la funcionalidad de IA se convierta en un requisito para muchos productos nuevos. Los proyectos de Omdia Research mejoran los ingresos por conjuntos de chips de IA para alcanzar los 51.000 millones de dólares en 2025.

Los dos nuevos productos de Blaize son Pathfinder P1600, un sistema integrado en módulo (SOM) y la plataforma de aceleración Xplorer. Blaize dijo que el P1600 brinda los beneficios de programación y eficiencia del GSP a las aplicaciones de inteligencia artificial de borde integradas implementadas en el borde del sensor o en el borde de la red. No se necesita un procesador host para el P1600, por lo que es solo un caso de "conéctelo y listo".

Las plataformas Xplorer aceleran las aplicaciones de inteligencia artificial en el borde de la empresa mediante un complemento a la ranura PCIe en un servidor o dispositivo host. El X1600E es una plataforma de acelerador de factor de forma pequeño para entornos pequeños y con limitaciones de energía, como tiendas de conveniencia o sitios industriales. Se puede agregar fácilmente para acelerar las aplicaciones de inteligencia artificial en PC industriales o como un bastidor de tarjetas en un pequeño servidor de 1U. O está el X1600P, que es un acelerador estándar basado en PCIe en un factor de forma de media altura y medio ancho. El X1600P puede reemplazar una GPU de escritorio que consume mucha energía en los servidores de borde y proporcionar entre 16 y 64 TOPS de rendimiento de inferencia de IA dentro de un sobre de energía muy bajo.

El paquete de software Blaize AI se basa en estándares abiertos con fácil accesibilidad, lo que significa que los desarrolladores de productos no están limitados a entornos de desarrollo propietarios. Compuesto por el kit de desarrollo de software (SDK) de Picasso y AI Studio, una interfaz visual completamente libre de código, el paquete de software ofrece herramientas tanto para desarrolladores tradicionales como para expertos en dominios no codificadores. Además, ambos conjuntos de herramientas utilizan Blaize Netdeploy, un sistema Blaize con algoritmos de detección de bordes para obtener la mejor precisión y rendimiento para implementaciones de borde.

Clientes de prueba de concepto

Blaize dijo que tiene varios clientes de prueba de concepto (POC) que utilizan su sistema para habilitar la inteligencia artificial en el borde. Las aplicaciones están en:

• Industrial:ejecución de cinco redes neuronales independientes a 50 FPS con latencia agregada de menos de 100 ms, monitoreo de detección y posición de pose de humanos y robots, identificación y recuento del producto, y calidad del producto.
• Smart City:tres redes neuronales independientes que funcionan a 50 FPS y monitorean la detección humana, la pose, la posición, la detección automática y la seguridad en las intersecciones de tráfico.
• Fusión de sensores:vídeo FHD de alta resolución y fusión de sensores lidar / radar que se ejecutan como una aplicación gráfica nativa completa en Blaize GSP.
• Entrega de última milla:fusión de sensores de cámaras HD a 30 FPS y lidar / radar con menos de 100 ms de latencia y menos de 15 W de potencia.
• Minorista:cuatro redes neuronales independientes que funcionan a 50 FPS y monitorean la detección humana, la posición, la máscara y el robo para la seguridad de la tienda y la detección de productos.

Las muestras de clientes de ambas líneas de productos están disponibles ahora y se espera una producción completa a partir de este año. El Blaize Xplorer X1600E está disponible por $ 299 en volumen, el Pathfinder P1600 SOM está disponible en grado industrial por $ 399 en volumen y el Xplorer X1600P está disponible por $ 999 en volumen.