Los nuevos módulos de aceleración de IA mejoran el rendimiento del borde

El fabricante de chips de inteligencia artificial (IA) Hailo ha lanzado sus módulos de aceleración de IA de alto rendimiento M.2 y Mini PCIe para potenciar los dispositivos de borde. Basado en su procesador Hailo-8, los módulos se pueden conectar a una variedad de dispositivos de borde, lo que permite implementar capacidades de inteligencia artificial en ciudades inteligentes, comercio minorista inteligente, industria 4.0 y hogares inteligentes.

Los módulos permiten a los clientes integrar capacidades de inteligencia artificial de alto rendimiento en dispositivos de borde, proporcionando una solución optimizada para acelerar una gama de aplicaciones basadas en aprendizaje profundo con alta eficiencia, optimizando el tiempo de comercialización con un factor de forma estándar.

Los módulos de aceleración de IA de Hailo se integran a la perfección en marcos estándar, como TensorFlow y ONNX, que son compatibles con el compilador de flujo de datos de Hailo. Los clientes pueden transferir rápidamente sus redes neuronales (NN) al procesador Hailo-8.

Las soluciones enchufables llegan en un momento en que las industrias utilizan cada vez más dispositivos de borde que son tanto de alto rendimiento como rentables. Por ejemplo, las cajas de borde de IA sin ventilador tienen una gran demanda, ya que permiten conectar muchas cámaras o sensores a un solo dispositivo de procesamiento inteligente en implementación al aire libre. Los módulos de Hailo, con su procesador de IA Hailo-8 que ofrece 26 Tera-Operaciones por segundo (TOPS) y una eficiencia energética de 3 TOPS / W, se pueden conectar a cualquier dispositivo de borde existente con los enchufes M.2 o Mini PCIe apropiados, lo que brinda rendimiento. al tiempo que reduce la latencia y mejora la privacidad.

Una comparación entre el promedio de cuadros por segundo (FPS) de Hailo-8 con la competencia en múltiples puntos de referencia NN estándar (basados ​​en las últimas cifras publicadas) muestra que los módulos de IA de Hailo logran una tasa de FPS 26 veces mayor que los módulos Myriad-X de Intel y 13 veces mayor que Módulos de TPU de borde de Google.

Según Orr Danon, director ejecutivo de Hailo, “los fabricantes de todas las industrias comprenden lo crucial que es integrar las capacidades de IA en sus dispositivos de borde. En pocas palabras, las soluciones sin IA ya no pueden competir. Nuestros nuevos módulos Hailo-8 M.2 y Mini PCIe permitirán a las empresas de todo el mundo crear nuevos productos potentes, rentables e innovadores basados ​​en inteligencia artificial con un corto tiempo de comercialización, mientras se mantienen dentro de las limitaciones térmicas de los sistemas. La alta eficiencia y el máximo rendimiento de los módulos de Hailo son un verdadero cambio de juego para el mercado de vanguardia ".

El módulo Hailo-8 M.2 ya está integrado en la próxima generación de BOXiedge de Foxconn, un miniservidor de 24 núcleos que solo necesita 30 vatios de potencia para funcionar, sin necesidad de rediseñar la PCB. La solución proporciona una buena eficiencia energética para los nodos de inferencia de IA independientes, lo que beneficia a aplicaciones que incluyen ciudades inteligentes, comercio minorista inteligente, industria 4.0 y medicina inteligente.

“La integración del módulo AI M.2 de Hailo en nuestro BOXiedge está revolucionando nuestros dispositivos de computación de borde de próxima generación y nos permitirá continuar apoyando nuestra misión de crear productos innovadores, eficientes y competitivos para la industria electrónica”, dijo Gene Liu. Vicepresidente del subgrupo de semiconductores de Foxconn Technology Group. “Los módulos M.2 y Mini PCIe de Hailo, junto con el chip de inteligencia artificial Hailo-8 de alto rendimiento, permitirán que muchas industrias en rápida evolución adopten tecnologías avanzadas en muy poco tiempo, marcando el comienzo de una nueva generación de alto rendimiento, baja potencia, y soluciones basadas en inteligencia artificial más inteligentes ”.