Los chips de IA se disparan, el software de IA gana atención

Mientras que la industria tecnológica continúa promocionando un "renacimiento" de inteligencia, el número de nuevas empresas de chips de IA ha comenzado a estabilizarse a medida que los principales jugadores crean soluciones internas y se centran en los aumentos del software de IA.

Mientras que la industria de la tecnología continúa promocionando un "renacimiento" de la inteligencia artificial, el número de nuevas empresas de chips de IA ha comenzado a estabilizarse. Las nuevas empresas de inteligencia artificial están descubriendo que las barreras de entrada a los centros de datos, que alguna vez fueron un mercado prometedor, son altas, quizás prohibitivas. Su problema se remonta a hiperescaladores como Google, Amazon y Facebook que ahora desarrollan sus propios procesadores y aceleradores de IA que se ajustan a sus necesidades específicas.

Para ser claros, el aprendizaje automático (ML) continúa avanzando. Están apareciendo más variaciones de redes neuronales. La IA se está volviendo intrínseca a todos los sistemas electrónicos.

Laurent Moll, director de operaciones de Arteris, predice que en el futuro, "todo el mundo tiene algún tipo de IA en sus SoC". Esa es una buena noticia para Arteris, porque su negocio consiste en ayudar a las empresas (grandes y pequeñas, o nuevas y antiguas) a integrar SoC mediante el suministro de herramientas de desarrollo IP e IP de red en chip (NoC).

¿Para las startups de chips de IA? No tanto. La competencia se está volviendo dura, lo que complica el desafío de abrir segmentos de mercado adecuados para un diseño de IA en particular.

EE Times presentará el próximo mes nuestro "Silicon 100" (versión 2021), una lista anual de empresas emergentes de electrónica y semiconductores. El autor del informe, Peter Clarke, ha estado siguiendo de cerca las nuevas empresas de semiconductores durante dos décadas. Nos dice que la cantidad de nuevas empresas de chips especializados, centradas en GPU e IA, "es plana en comparación con el año anterior". Él observa:"Sentimos que la industria puede haber alcanzado el punto de 'IA máxima'".

En resumen, los días de ensaladas de las nuevas empresas de chips de IA podrían haber terminado.

Kevin Krewell, analista principal de Tirias Research, espera más adquisiciones de nuevas empresas de chips de IA. “Después de todo, la explosión de la financiación para la puesta en marcha de la IA se produjo después de que Intel comprara Nervana. Los capitalistas de riesgo y los ángeles vieron una posible estrategia de salida lucrativa ". Añadió que “hay demasiadas empresas emergentes [de IA] hoy en día de las que la industria puede soportar a largo plazo. Estoy seguro de que aparecerán algunas más con soluciones más exóticas que involucren analógicas u ópticas. [Pero] eventualmente, las funciones de AI / ML se incluirán en SoC más grandes o en diseños de chiplet ".

Laurent Moll

En este contexto, EE Times recientemente se sentó con el director de operaciones recién nombrado de Arteris. Moll, que alguna vez fue director de tecnología de Arteris, pasó más de siete años en Qualcomm, y más recientemente como vicepresidente de ingeniería del gigante de los chips móviles.

Le preguntamos a Moll sobre los cambios en el panorama de los chips de IA y hacia dónde se dirigen las empresas emergentes.

Fiebre del oro

Como era de esperar, Moll describió la carrera de la industria hacia la inteligencia artificial como "una de las mayores fiebre del oro" que jamás haya visto. Sin embargo, estos 49ers de los últimos días ya no son solo nuevas empresas o empresas más pequeñas. Los buscadores incluyen empresas que "han estado fabricando silicio durante mucho tiempo y mucha gente nueva que no ha hecho silicio [antes]", dijo Moll. Todo el mundo está "jugando en la misma arena" y todo el mundo está "tratando de romper la nuez".

La creciente base de desarrolladores y la diversificación de aplicaciones juega a favor de Arteris, pero presenta una imagen muy diferente para las nuevas empresas de chips de IA. Ya no compiten solo con otras empresas emergentes de IA con nuevas ideas igualmente brillantes. Pero ahora también se enfrentan a los grandes. Los hiperescaladores y los OEM de automóviles se están movilizando en el desarrollo de la inteligencia artificial para poder usar sus propios chips para sus sistemas.

Todavía en fase de expansión

El mercado de chips de IA está "todavía en la fase de expansión" y "todo el mundo sigue explorando", observó Moll de Arteris. No obstante, está viendo el surgimiento de "un poco de orden" en el frente de los centros de datos. Esto se debe en gran parte a que los hiperescaladores están tomando el control de su destino al desarrollar sus propios procesadores y aceleradores de IA.

La distinción entre los hiperescaladores y otros diseñadores de chips de IA se reduce a un factor. “Poseen conjuntos de datos”, dijo Moll. Los hiperescaladores no comparten conjuntos de datos con otros, pero están desarrollando pilas de software patentado. "Y sienten que pueden crear silicio, mucho más optimizado para su propio acceso a los datos".

Mientras tanto, los proveedores externos, pequeñas empresas emergentes de chips de IA, están "desarrollando nuevos métodos para estructurar los SoC, nuevas formas de usar SRAM y DRAM, apilamiento, uso óptico", dijo Moll. “Hay muchas formas de crear una salsa secreta, lo que les permite hacer IA mucho mejor que lo que pueden hacer los chips de IA disponibles en la actualidad. Los chicos más pequeños están cambiando el juego, son muy inteligentes para hacer las cosas de manera diferente a los demás ".

Por el contrario, los chips de IA perseguidos por los hiperescaladores no son tan innovadores. Los hiperescaladores pueden permitirse utilizar un enfoque más tradicional, observó Moll. Un buen ejemplo es la TPU de Google. "Si lo miras, la arquitectura es excelente, pero no es revolucionaria, en muchos sentidos". A pesar de eso, “Funciona muy bien para lo que quiere hacer Google. Por lo tanto, cumple su propósito ”.

Si los chips de las nuevas empresas de inteligencia artificial más pequeñas son tan novedosos, ¿no deberían abrirse camino en los centros de datos de los hiperescaladores?

"No, no, no", dijo Moll. "Es poco probable que alguno de los chicos más pequeños se expanda en el mercado de centros de datos ... o que los hiperescaladores compren sus productos". Sin embargo, señaló que "los hiperescaladores definitivamente comprarán algunas de estas nuevas empresas, una vez que hayan visto que sus tecnologías son útiles y aplicables a lo que quieren hacer".

Moll describió el tren de pensamientos del hiperescalador como:“Sé cuál es mi conjunto de datos. Sé hacer una especie de arquitectura más centrada. Si alguien tiene una gran idea que funciona bien, tomemos este grupo de personas y la propiedad intelectual, y mejoremos nuestro propio producto ".

Krewell de Tirias Research estuvo de acuerdo. "Tienes que hacer algo espectacular para que los hiperescalares se comprometan a usar tu chip de aprendizaje automático". Cerebras, por ejemplo, empujó el sobre con su chip del tamaño de una oblea, dijo Krewell. "Nvidia sigue siendo la plataforma predeterminada para el trabajo de desarrollo de IA debido a su software omnipresente y su escalabilidad".

¿Qué pasa con el borde?

Para los diseñadores de chips de IA, "la ventaja es una historia completamente diferente", en comparación con los centros de datos, señaló Moll. El mercado final para el borde es versátil, con el deseo de una gama mucho más amplia de soluciones. "Mucha gente todavía está averiguando dónde aplicar la IA y cómo implementarla", dijo Moll.

haga clic para ver la imagen a tamaño completo

El 19 por ciento del mercado total disponible de semiconductores estará relacionado con AI / ML en 2025. (Fuente:Bernstein; Cisco; Gartner; IC Insights; IHS Markit; Machina Research; McKinsey Analysis - Compilado por Arteris)

Krewell de Tirias Research estuvo de acuerdo. “Edge es todavía un área relativamente inexplorada. Todavía hay oportunidades para agregar ML a sensores y dispositivos de borde. Los dispositivos analógicos y en memoria de muy baja potencia son prometedores, así como los aceleradores en MCU y procesadores de aplicaciones. Veo mucho potencial para la inferencia INT4 e INT2 en los procesadores de borde:buena precisión con requisitos de memoria y energía mucho más bajos ”.

Si bien las diversas aplicaciones suenan emocionantes, conlleva el peligro de quedar atrapado en el ciclo de publicidad de Edge AI.

Edge AI se convirtió en una palabra de moda no porque el borde sea un mercado nuevo, ni denota ninguna categoría de producto específica. Más bien, la falta de definición ha convertido a la "ventaja" en un cajón de sastre con el que las nuevas empresas pueden asociar sus productos.

Entre las aplicaciones de vanguardia, Moll ve dos tendencias divergentes. Uno es una "IA dentro de un chip que hace otra cosa", señaló. "Ahí es donde está la explosión".

Este mercado de sistemas integrados es "donde cosas como los factores de forma, la potencia y la temperatura realmente importan", agregó.

Otra tendencia en el otro extremo del espectro son los "chips enormes que solo hacen IA", señaló Moll. Sin embargo, las aplicaciones para chips grandes en el borde todavía están evolucionando.

El mejor ejemplo de "IA dentro de un chip" son probablemente los procesadores de aplicaciones para teléfonos inteligentes, que Moll conoce bien. Los aceleradores de IA han jugado un papel clave en el reconocimiento de voz y el procesamiento de la visión. Hoy en día, la inteligencia artificial se ha convertido en una gran parte del atractivo de ventas de los teléfonos móviles. Un resultado es que "los operadores tradicionales en el sector móvil [como Qualcomm] tienen ventajas", reconoció Moll.

IA en automoción

Moll ve la IA en los vehículos es una historia completamente diferente.

Señaló que habrá un espectro de soluciones, desde chips de visión por computadora con inteligencia artificial hasta un gran chip de inteligencia artificial que realiza todo el procesamiento pesado. A medida que los vehículos avanzan de ADAS a la autonomía, Moll espera que los procesadores de IA más grandes desempeñen un papel fundamental en el mercado de vehículos de gama alta.

Si bien los titulares de la industria automotriz, a menudo armados con sus propios chips de IA pequeños, tienen ventajas en ADAS, hay un amplio espacio para las nuevas empresas de chips de IA en el mercado de la autonomía con chips de IA bastante grandes.

Pero aquí está el giro.

Los fabricantes de equipos originales de automóviles, que imitan a los hiperescaladores, también se están volviendo verticales. Tesla ya ha diseñado su propio chip, llamado computadora de "conducción autónoma total". Hace unas semanas, el CEO de Volkswagen, Herbert Diess, dijo a un periódico alemán que la compañía planea diseñar y desarrollar sus propios chips de alta potencia para vehículos autónomos, junto con el software requerido.

Moll confirmó que los fabricantes de automóviles "están analizando esto con mucho cuidado". Aunque Arteris es una empresa de propiedad intelectual, "Recibimos llamadas de fabricantes de equipos originales de automóviles porque quieren comprender todo el conjunto y quieren tener el control" de "la gran pila de silicio" que está a punto de entrar y alterar la arquitectura del vehículo. .

Las nuevas empresas de chips de inteligencia artificial como Recogni, Blaize y Mythic enumeran la industria automotriz como un segmento de mercado de inteligencia artificial de vanguardia al que se dirigen. Queda por ver cómo los fabricantes de automóviles eventualmente implementarán dichos chips en un vehículo.

Krewell enfatizó:“Las plataformas automotrices aún están evolucionando. La funcionalidad distribuida tiene las ventajas de modularidad y riesgo reducido, pero es más costosa de construir y mantener que un complejo de procesamiento centralizado ".

Añadió:“El otro problema son los datos. Los sensores enviarán una gran cantidad de datos, tener inteligencia en el borde reduce las transferencias de datos, pero con el compromiso de un mayor retraso del sensor y más energía distribuida en el chasis. Algún equilibrio de procesamiento de borde ligero en el sensor podría reducir la carga en el procesador central sin agregar una latencia excesiva o requerir demasiada energía distribuida ".

La batalla de la IA pasa de los chips al software

Krewell observó:“Veo que el enfoque de la IA se mueve de los chips al software. La implementación de la funcionalidad ML requiere un buen software. Y hacer que el aprendizaje automático sea accesible para más ingenieros de diseño y programadores integrados requiere hacer que el aprendizaje automático sea de código bajo. También requiere automatizar la creación de modelos personalizados para la aplicación específica ”.

Moll ha llegado a una conclusión similar. Cuando se le preguntó por qué decidió volver a Arteris desde Qualcomm, citó dos puntos.

Primero, Arteris solía jugar en un nicho:"un lugar estrecho entre los proveedores de propiedad intelectual". Pero ese nicho se ha convertido ahora en "uno de los espacios clave" donde los diseñadores de chips de IA buscan ayuda para "ensamblar SoC muy grandes y complicados" mediante la construcción de muchas redes en chips. Ahí es donde un Network on Chip (NOC) de Arteris puede intervenir para resolver problemas de manera integral.

En segundo lugar, Arteris IP adquirió Magillem el año pasado. Moll ve la "capa de software" que ofrece Magillem como otra clave para crear un SoC muy grande y complicado. Habiendo sido responsable en Qualcomm del equipo que entrega chips de alto nivel, "he llegado a reconocer el valor de lo que Arteris ofrece como usuario, no como vendedor".

>> Este artículo se publicó originalmente en nuestro sitio hermano, EE. Tiempos.