La inteligencia artificial en el borde sigue siendo principalmente consumidor, no empresarial, mercado

Las experiencias basadas en datos son ricas, inmersivas y inmediato. Pero también son unos acaparadores de datos intolerantes a los retrasos.

Piense en la entrega de pizzas por dron, cámaras de video que pueden registrar accidentes de tráfico en una intersección, camiones de carga que pueden identificar una falla potencial del sistema.

Este tipo de actividades de acción rápida necesitan muchos datos, rápidamente. Por lo tanto, no pueden mantener la latencia mientras los datos viajan hacia y desde la nube. Ese ir y venir lleva demasiado tiempo. En cambio, muchos de estos procesos intensivos en datos deben permanecer localizados y procesados ​​en el borde y en o cerca de un dispositivo de hardware.

"Un vehículo autónomo no puede esperar ni siquiera una décima de segundo para activar el frenado de emergencia cuando el algoritmo de IA [inteligencia artificial] predice una colisión inminente", escribió Mohanbir Sawhney, profesor de la Universidad Northwestern, en "Por qué Apple y Microsoft se están moviendo hacia el borde". "En estas situaciones, la IA debe ubicarse en el borde, donde las decisiones se pueden tomar más rápido sin depender de la conectividad de la red y sin mover grandes cantidades de datos de un lado a otro a través de una red".

"Los procesadores de borde de IA le permiten realizar el procesamiento en el [dispositivo] en sí mismo o alimentar a un servidor en la trastienda en lugar de que el procesamiento se realice en la nube", dijo Aditya Kaul, director de investigación de Omdia, una firma de investigación. .

IA en el perímetro:adopción empresarial frente a adopción del consumidor

La capacidad de los chips de IA para realizar tareas como la inferencia de aprendizaje automático se ha expandido drásticamente en los últimos años. Considere la unidad de procesamiento gráfico (GPU), que ofrece más de 10 teraflops de rendimiento, lo que equivale a 10 billones de cálculos de punto flotante por segundo. Los teléfonos inteligentes modernos tienen GPU que pueden manejar mil millones de operaciones de punto flotante por segundo. Incluso hace un par de años, este tipo de procesamiento en el dispositivo no estaba disponible. Pero hoy, los dispositivos en el borde (teléfonos inteligentes, cámaras, drones) pueden manejar cargas de trabajo de IA.

Solo con la aparición de los conjuntos de chips de aprendizaje profundo, o el silicio habilitado para inteligencia artificial, incluidas las GPU, entre otros chips, esto ha sido posible. Y el mercado de chips de IA ha despegado como un cohete.

“Desde prácticamente cero hace unos años, [los chips de inteligencia artificial de borde] generarán más de 2.500 millones de dólares en ingresos 'nuevos' en 2020, con una tasa de crecimiento del 20 por ciento durante los próximos años”, escribió el informe de Deloitte “Bringing AI to el dispositivo." [Consulte la figura "La industria de la inteligencia artificial perimetral está preparada para el crecimiento" del informe de Deloitte antes mencionado.]

Según el informe de Tractica "Chipsets de aprendizaje profundo", se espera que el mercado de chipsets de IA alcance los 72.600 millones de dólares en 2025.

Según los expertos, el mercado de consumo ha allanado el camino. Hoy, en 2020, el mercado de dispositivos de consumo probablemente representa el 90% del mercado de chips de inteligencia artificial de vanguardia, en términos de números vendidos y su valor en dólares.

"El mercado de los teléfonos inteligentes está a la vanguardia de esto", dijo Aditya Kaul, director senior de Tractica, una firma de analistas, que publicó recientemente el informe "Conjuntos de chips de aprendizaje profundo". Los teléfonos inteligentes todavía representan entre el 40% y el 50% del mercado de conjuntos de chips de IA.

Pero, dijo Kaul, el procesamiento habilitado por inteligencia artificial en el borde está llegando a la empresa, en áreas como la IoT industrial y el comercio minorista, así como la atención médica y la fabricación. "Puede llamarlo‘ borde de IA de nivel empresarial ", dijo Kaul.

El ímpetu para la adopción empresarial de IA en el borde, dijo Kaul, es "claridad en los casos de uso". La visión artificial, por ejemplo, que automatiza la inspección de productos y el control de procesos, puede mejorar la calidad y la eficiencia de los procesos anteriormente manuales en áreas como un taller industrial.

“La gente está comenzando a utilizar el aprendizaje profundo [en entornos industriales] para identificar fallas en la industria automotriz, por ejemplo:pueden detectar defectos en las puertas, las manijas o el vidrio durante el ensamblaje. En las industrias de alimentos y bebidas, identifican tomates rancios, o una fábrica de galletas puede identificar galletas que no tienen la forma correcta ", dijo Kaul.

Sin embargo, además del control de calidad, las industrias están utilizando la visión artificial para promover nuevas experiencias. “El comercio minorista es un sector enorme en el que vemos que algo de esto sucede, dijo Kaul. Es una ventaja de nivel empresarial y el uso de cámaras en los supermercados para el análisis de compradores. ¿Dónde están inactivos y mirando ciertos productos?

AI at the Edge funciona con Cloud Computing

La inteligencia artificial en el borde ha revitalizado el interés en el hardware, después de varios años en los que el software era el rey.

Pero la inteligencia artificial en el borde se trata de brindar baja latencia y el hardware distribuido puede permitir el procesamiento sin la ayuda de la nube.

"Con el crecimiento de la IA, el hardware está de moda nuevamente, después de años en los que el software atrajo el mayor interés de las empresas y los inversores", indicó el informe de McKinsey "Inteligencia artificial:el momento de actuar es ahora".

El hardware también ha vuelto a poner de moda la arquitectura informática descentralizada, donde las arquitecturas centralizadas implican problemas de latencia y seguridad de los datos.

"Quiere que las decisiones se tomen allí mismo, en lugar de depender de la latencia de la nube", dijo Kaul. “Y además, no desea datos en una nube de terceros. Desde el punto de vista de la seguridad, los datos deben permanecer en las instalaciones ".

En última instancia, los expertos sugieren que la IA en el borde será una arquitectura complementaria a la arquitectura de computación en la nube existente.

"La IA en la nube puede funcionar de forma sinérgica con la IA en el borde", escribió Sawhney. “Considere un vehículo impulsado por IA como Tesla. La IA en el borde impulsa innumerables decisiones en tiempo real, como el frenado, la dirección y los cambios de carril. Por la noche, cuando el automóvil está estacionado y conectado a una red Wi-Fi, los datos se cargan en la nube para entrenar aún más el algoritmo ".

Expectativas de crecimiento continuo en IA en el borde

Gran parte del crecimiento en el mercado de chips de borde de inteligencia artificial se puede atribuir a una mayor capacidad en el hardware en sí. Pero también implica cambios operativos en la forma en que las industrias abordan la IA.

De hecho, si bien las industrias tradicionales, como la fabricación industrial, antes se mostraban reticentes a incorporar inteligencia artificial en los procesos, ahora ven la inteligencia artificial en el borde como algo beneficioso, de hecho, una clave para el retorno de la inversión. Como resultado, están introduciendo análisis de big data en sus procesos, entrenando algoritmos para mejorar la precisión de estos procesos y viendo los resultados en el control de calidad.

"La única forma en que estos modelos pueden ser precisos es entrenándolos con los datos correctos", dijo Kaul. “Hace dos años, no habrías encontrado muchas personas en estos sectores donde si les preguntaras sobre los datos de entrenamiento, podrían mirarte de una manera extraña. Pero ahora más personas entienden cómo funciona la IA ”, dijo.

Tractica predice que este crecimiento continuará, y habrá un "punto de inflexión en 2021-2022", dijo Kaul, con un "movimiento rápido hacia aceleradores de IA, chips ASIC".

Sin embargo, espere que se mida el crecimiento, enfatizó Kaul.

“Muchos de estos proveedores y mercados, en términos de innovación, se han estancado”, dijo Kaul. “No ha habido mucha innovación en los últimos 20 o 30 años. Por lo que generalmente son lentos para moverse. Pero en algunas áreas, las cosas están mejorando, en la visión industrial, la visión médica y el comercio minorista. Todavía es temprano. Pero las cosas están empezando a mejorar ”, dijo.