Por qué Edge AI es una obviedad

En 2020, Deloitte predice que se venderán más de 750 millones de chips de inteligencia artificial (chips completos o partes de chips que realizan o aceleran las tareas de aprendizaje automático en el dispositivo, en lugar de en un centro de datos remoto), lo que representa un ingreso de US $ 2.600 millones. Además, el mercado de chips de inteligencia artificial de vanguardia crecerá mucho más rápido que el mercado general de chips. Para 2024, esperamos que las ventas unitarias de chips de inteligencia artificial de borde superen los 1.500 millones, posiblemente en gran medida. Eso representa un crecimiento anual compuesto de las ventas unitarias de al menos el 20%, más del doble del pronóstico a largo plazo del 9% CAGR para la industria de semiconductores en general.

Figura 1:Ubicaciones en las que se puede incrustar la inteligencia (Imagen:Deloitte Insights)

Es probable que estos chips de inteligencia artificial de vanguardia lleguen a un número cada vez mayor de dispositivos de consumo, como teléfonos inteligentes, tabletas, parlantes inteligentes y dispositivos portátiles de alta gama. También se utilizarán en múltiples mercados empresariales:robots, cámaras, sensores y otros dispositivos para Internet de las cosas. El mercado de consumo de chips de inteligencia artificial de borde es mucho más grande que el mercado empresarial, pero es probable que crezca más lentamente, con una tasa compuesta anual del 18% esperada entre 2020 y 2024. El mercado de chips de inteligencia artificial de borde empresarial está creciendo mucho más rápido, con un pronóstico CAGR del 50% durante el mismo período de tiempo.

Figura 2:El mercado de chips de inteligencia artificial de vanguardia (Imagen:Deloitte Insights)

Sin embargo, este año, el mercado de dispositivos de consumo probablemente representará más del 90% del mercado de chips de inteligencia artificial de borde, tanto en términos de números vendidos como de valor en dólares. La gran mayoría de estos chips de inteligencia artificial de vanguardia se utilizarán en teléfonos inteligentes de gama alta, que representan más del 70% de todos los chips de inteligencia artificial de vanguardia que se utilizan actualmente. De hecho, no solo en 2020, sino durante los próximos años, el crecimiento de los chips de inteligencia artificial estará impulsado principalmente por los teléfonos inteligentes. Creemos que más de un tercio del mercado de teléfonos inteligentes de 1,560 millones de unidades este año puede contener chips de inteligencia artificial de vanguardia.

Debido a los requisitos extremadamente intensivos del procesador, casi todos los cálculos de IA se han realizado de forma remota en centros de datos, en dispositivos centrales de la empresa o en procesadores de borde de telecomunicaciones, no localmente en dispositivos. Los chips Edge AI están cambiando todo eso. Son físicamente más pequeños, relativamente económicos, consumen mucha menos energía y generan mucho menos calor, lo que hace posible integrarlos en dispositivos portátiles, así como en dispositivos que no son de consumo, como robots. Al permitir que estos dispositivos realicen localmente cálculos de inteligencia artificial intensivos en procesadores, los chips de inteligencia artificial de borde reducen o eliminan la necesidad de enviar grandes cantidades de datos a una ubicación remota, lo que brinda beneficios en usabilidad, velocidad y seguridad y privacidad de los datos.

Mantener el procesamiento en el dispositivo es mejor en términos de privacidad y seguridad; La información personal que nunca sale de un teléfono no puede ser interceptada ni utilizada indebidamente. Y cuando el chip AI de borde está en el teléfono, puede hacer todas estas cosas incluso cuando no está conectado a una red.

Por supuesto, no todos los cálculos de IA tienen que realizarse localmente. Para algunas aplicaciones, por ejemplo, cuando simplemente hay demasiados datos para que los maneje el chip AI de borde de un dispositivo, el envío de datos para que sean procesados ​​por una matriz de AI remota puede ser adecuado o incluso preferido. De hecho, la mayoría de las veces, la IA se realizará de forma híbrida:una parte en el dispositivo y otra en la nube. La combinación preferida en cualquier situación determinada variará dependiendo exactamente del tipo de procesamiento de IA que deba realizarse.

La economía de la inteligencia artificial perimetral en los teléfonos inteligentes

Los teléfonos inteligentes no son los únicos dispositivos que usan chips de inteligencia artificial de borde; otras categorías de dispositivos (tabletas, dispositivos portátiles, altavoces inteligentes) también los contienen. A corto plazo, estos dispositivos que no son teléfonos inteligentes probablemente tendrán un impacto mucho menor en las ventas de chips de inteligencia artificial que los teléfonos inteligentes, ya sea porque el mercado no está creciendo (como para las tabletas) o porque es demasiado pequeño para marcar una diferencia material ( por ejemplo, se espera que los altavoces inteligentes y los dispositivos portátiles combinados vendan solo 125 millones de unidades en 2020). Sin embargo, muchos dispositivos portátiles y altavoces inteligentes dependen de chips de inteligencia artificial de borde, por lo que la penetración ya es alta.

Actualmente, es probable que solo los teléfonos inteligentes más caros, los que se encuentran en el tercio superior de la distribución de precios, usen chips de inteligencia artificial de borde. Pero colocar un chip de inteligencia artificial en un teléfono inteligente no tiene por qué ser un precio prohibitivo para el consumidor.

Es posible llegar a una estimación bastante sólida del contenido del chip AI de borde de un teléfono inteligente. Hasta la fecha, las imágenes de los procesadores de teléfonos en Samsung, Apple y Huawei muestran el troquel de silicio desnudo con todas sus características visibles, lo que permite identificar qué partes de los chips se utilizan para qué funciones. Una foto del chip del Exynos 9820 de Samsung muestra que aproximadamente el 5% del área total del chip está dedicada a los procesadores de inteligencia artificial. El costo de Samsung para todo el procesador de aplicaciones SoC se estima en US $ 70,50, que es el segundo componente más caro del teléfono (después de la pantalla), lo que representa aproximadamente el 17% de la lista total de materiales del dispositivo. Suponiendo que la porción de IA cuesta lo mismo que el resto de los componentes en función del área de la matriz, la unidad de procesamiento
neuronal (NPU) de inteligencia artificial de borde de Exynos representa aproximadamente el 5% del costo total del chip. Eso se traduce en unos 3,50 dólares cada uno.

Figura 3:Una toma del chip del Exynos 9820 de Samsung muestra que aproximadamente el 5% del área total del chip está dedicada a los procesadores de inteligencia artificial. (Imagen:ChipRebel; Anotación:AnandTech)

De manera similar, el chip A12 Bionic de Apple dedica aproximadamente el 7% del área de la matriz al aprendizaje automático. Con un estimado de US $ 72 para todo el procesador, ese porcentaje sugiere un costo de US $ 5,10 para la porción de inteligencia artificial de borde. El chip Huawei Kirin 970, que se estima que le costará al fabricante US $ 52,50, dedica el 2,1% del dado a la NPU, lo que sugiere un costo de US $ 1,10. (Sin embargo, el área del troquel no es la única forma de medir qué porcentaje del costo total de un chip se destina a la IA. Según Huawei, la NPU del Kirin 970 tiene 150 millones de transistores, lo que representa el 2,7% del total de 5,5 mil millones de transistores del chip. sugieren un costo de NPU ligeramente más alto de US $ 1,42).

Figura 4:el chip A12 Bionic de Apple dedica aproximadamente el 7% del área del troquel al aprendizaje automático. (Imagen:TechInsights / AnandTech)

Aunque el rango de costos mencionado es amplio, es razonable suponer que las NPU cuestan un promedio de US $ 3,50 por chip. Multiplicado por 500 millones de teléfonos inteligentes (sin mencionar las tabletas, los parlantes y los dispositivos portátiles), eso lo convierte en un gran mercado, a pesar del bajo precio por chip. A un costo promedio de US $ 3,50 para el fabricante, y un mínimo probable de US $ 1, agregar una NPU de inteligencia artificial de borde dedicada a los chips de procesamiento de teléfonos inteligentes comienza a parecer una obviedad. Suponiendo un margen de beneficio normal, agregar US $ 1 al costo de fabricación se traduce en solo US $ 2 más para el cliente final. Eso significa que las NPU y sus beneficios asociados (una mejor cámara, asistencia de voz sin conexión, etc.) se pueden colocar incluso en un teléfono inteligente de 250 dólares por un aumento de precio inferior al 1%.

Abastecimiento de chips de IA:¿de forma interna o de terceros?

Las empresas que fabrican teléfonos inteligentes y otros dispositivos varían en sus enfoques para obtener chips de inteligencia artificial de vanguardia, y la decisión está impulsada por factores como el modelo de teléfono y, en algunos casos, la geografía. Algunos compran procesadores de aplicaciones / chips de módem de proveedores externos, como Qualcomm y MediaTek, que juntos capturaron aproximadamente el 60% del mercado de SoC de teléfonos inteligentes en 2018.

Tanto Qualcomm como MediaTek ofrecen una gama de SoC a varios precios; Si bien no todos incluyen un chip AI de borde, las ofertas de gama alta (incluidas Snapdragon 845 y 855 de Qualcomm y Helio P60 de MediaTek) generalmente lo hacen. En el otro extremo de la escala, Apple no usa chips AP externos en absoluto:diseña y usa sus propios procesadores SoC, como los chips Bionic A11, A12 y A13, todos los cuales tienen IA de borde.

Otros fabricantes de dispositivos, como Samsung y Huawei, utilizan una estrategia híbrida, comprando algunos SoC de proveedores de silicio del mercado comercial y utilizando sus propios chips (como Exynos 9820 de Samsung y Kirin 970/980 de Huawei) para el resto.

>> Continúe leyendo la página dos de esto artículo publicado originalmente en nuestro sitio hermano, EE Times Europe.