Verificación avanzada:abriendo la puerta a una nueva era de chips de IA

"Hola Siri, ¿cuál es el pronóstico del tiempo para hoy?"

A medida que nuestra vida cotidiana continúa dependiendo de Siri y otros asistentes de inteligencia artificial (IA) para servicios convenientes, como reproducir canciones y realizar un seguimiento de los horarios de las reuniones, no es ningún secreto que cada vez es más difícil proteger los datos personales. Con el impulso de la inteligencia artificial en aumento y la amenaza de pérdida de datos que se avecina, es más importante que nunca para los diseñadores de chips avanzar en las técnicas de seguridad e inteligencia artificial para mantenerse al día con la demanda urgente de más inteligencia.

Pero en la era actual de todo inteligente, las aplicaciones de computación intensiva que incorporan técnicas de inteligencia artificial como el aprendizaje profundo (DL) y el aprendizaje automático (ML) requieren sus propios chips dedicados con diseños completos para impulsar las funciones inteligentes. Desde vehículos autónomos hasta computación de alto rendimiento (HPC), la tecnología subyacente que impulsa estas cargas de trabajo intensivas depende de arquitecturas avanzadas que caminan por el delicado equilibrio entre dar un golpe en el departamento de energía y, al mismo tiempo, adaptarse para mejorar las capacidades de toma de decisiones.

A medida que más dispositivos inteligentes se conectan a la nube, existe un mayor potencial para que la IA evolucione exponencialmente y cree una variedad de oportunidades de mercado. Sin embargo, los fabricantes de chips deben tener en cuenta que las partes clave de los cálculos de IA deben completarse dentro del hardware para emular las condiciones del mundo real. Por lo tanto, los "chips de IA" personalizados no solo son los preferidos, sino que también son esenciales para integrar la IA a escala de manera rentable.

Pero teniendo en cuenta que la generación actual de chips para aplicaciones AI / ML / DL contiene rutas de datos complejas para realizar con precisión el análisis aritmético necesario, la industria tendrá que estar dispuesta y lista para implementar métodos de verificación avanzados para evolucionar y alimentar el próximo movimiento de AI.

Casi todo el mundo diseña chips

No es ningún secreto en el mundo del diseño de chips que con la saturación de la ley de Moore, cada vez es más difícil lograr las ganancias deseadas en el rendimiento de los procesadores de propósito general. Para mitigar esta desaceleración, las empresas más allá de los jugadores tradicionales de semiconductores están poniendo sus sombreros en el círculo del diseño de chips.

Para nombrar algunas de estas empresas, los grandes actores como Google, Amazon y Facebook ahora están invirtiendo fuertemente en el desarrollo de sus propios chips ASIC (circuitos integrados específicos de la aplicación) personalizados en la empresa para respaldar su software de inteligencia artificial único y cumplir con aplicaciones específicas. requisitos. Esta subsiguiente expansión del mercado brinda una gran cantidad de oportunidades para nuevas herramientas y soluciones de diseño que respalden el exigente entorno de diseño de chips actual.

Diseño de chip AI:las rutas de control son diferentes

Un factor crucial en las nuevas inversiones en sistemas en chip (SoC) de IA es la capacidad de realizar cálculos de múltiples tareas a la vez de forma distribuida (en lugar del paralelismo limitado que ofrecen las CPU tradicionales). El diseño necesario para realizar estas tareas implica bloques con gran cantidad de datos compuestos por una ruta de control donde la máquina de estado procesa salidas basadas en entradas específicas, junto con un bloque de cálculo compuesto por lógica aritmética para procesar los datos. Al emplear estas funciones, los diseñadores de chips pueden acelerar drásticamente los cálculos idénticos, predecibles e independientes que requieren los algoritmos de IA.

Aunque el bloque de cálculo aritmético no suele ser un desafío, la sofisticación aumenta considerablemente a medida que aumenta la cantidad de bloques y bits aritméticos simultáneamente, lo que agrega una carga adicional a los equipos de verificación.

En la última década, la informática centrada en datos ha evolucionado más allá de los límites restrictivos de las PC y los servidores. Incluso en el caso simple de un multiplicador de 4 bits, los vectores de prueba deben escribirse para todas las combinaciones de entrada posibles para verificar su funcionalidad completa, es decir, 2 ⁴ =16. Aquí radica el desafío:cuando se trata de verificar escenarios realistas de los chips de IA actuales, los equipos deben verificar los sumadores que tengan entradas de 64 bits. En otras palabras, 2 ⁶⁴ los estados necesitan ser verificados, un logro que llevaría años utilizando enfoques clásicos. Este es solo un ejemplo aislado de muchas posibilidades, pero a medida que la adopción de chips de inteligencia artificial se expande rápidamente y la cantidad de datos generados continúa aumentando, los desafíos que requieren mucho tiempo asociados con la verificación de hardware hacen que la necesidad de soluciones de verificación modernas, seguras y flexibles sea crítica. .

La prueba definitiva:desafíos de verificación

Cuando los equipos diseñan chips de IA, se emplea C / C ++, un algoritmo de diseño rápido y ampliamente utilizado. Una vez que se escribe el código funcional, la información debe traducirse a una representación más orientada al hardware utilizando RTL (lenguaje de transferencia de registros). Este proceso requiere que los equipos desarrollen vectores de prueba para todas las combinaciones posibles o comparen si el RTL coincide con el modelo arquitectónico C / C ++ original, lo que a menudo demuestra ser una tarea bastante intimidante.

Aquí es donde entra en juego la verificación formal. Con esta técnica, se realiza un análisis matemático para considerar todo el diseño del hardware a la vez. Si bien los vectores de prueba generalmente deben escribirse para cada combinación de entrada, la verificación formal proporciona un conducto para verificar contra un conjunto de afirmaciones que especifican el comportamiento previsto al aprovechar los verificadores de modelos.

Incluso hace unos años, habría sido inconcebible pensar que la verificación formal podría ser un método ampliamente utilizado simplemente por las afirmaciones de alto nivel requeridas. Pero avanzando rápido hasta el día de hoy, el diseñador de RTL o el ingeniero de verificación promedio pueden aprender rápida y efectivamente los trucos del oficio.

Sin embargo, en base a la creciente escala y complejidad de los chips de IA de hoy en día, es imposible probarlo completamente simplemente con la verificación del modelo. Verificar estas funciones matemáticas utilizando métodos tradicionales en lugar de los modernos es ineficiente, requiere mucho tiempo y, en última instancia, no es práctico a largo plazo.

Las aplicaciones de IA y ML necesitan una mano adicional

El uso de otras formas de verificación formal (por ejemplo, verificación de equivalencia) proporciona a los ingenieros un sistema robusto para verificar incluso las rutas de datos de IA más complejas. Durante el proceso de verificación de equivalencia, se comparan dos representaciones del diseño y se demuestra que los diseños son equivalentes o se identifican las diferencias específicas entre ellos. Estos motores formales suficientemente potentes proporcionan una gran ventaja durante el proceso de verificación, ya que las dos representaciones pueden estar en niveles de abstracción completamente diferentes e incluso estar escritas en diferentes idiomas.

Comparemos la implementación RTL detallada de un diseño de chip con un modelo arquitectónico C / C ++ de alto nivel. La comparación confirma que el mismo conjunto de entradas produce las mismas salidas para ambas representaciones. Este método eficiente es un ajuste natural para muchos proyectos de inteligencia artificial, dado que la mayoría ya tiene modelos C / C ++ disponibles para verificar los resultados en la simulación o como parte de una plataforma virtual para respaldar el desarrollo y la prueba de software temprano.

A pesar del rápido crecimiento de las aplicaciones de IA, la verificación de equivalencia formal es la única tecnología que puede proporcionar una verificación exhaustiva de las rutas de datos de diseño frente a un modelo de referencia probado. Para ayudar a la evolución desinhibida de la IA hasta ahora, las herramientas de verificación necesitan las siguientes características:facilidad de uso, capacidad de escalar y capacidades de depuración avanzadas.

En el horizonte:cifrado homomórfico

A medida que la industria continúa produciendo billones de bytes de datos que requieren chips de alto rendimiento para sostener esta hazaña computacional, el pronóstico de un número creciente de bits es inevitable. Las universidades y las organizaciones de investigación de todo el mundo están buscando posibilidades de trabajar con bits más grandes de datos de entrada y desarrollar planes de contingencia para diseñar chips que puedan soportar esta afluencia.

Pero con esta avalancha de datos surge la necesidad subsiguiente de seguridad del hardware. El cifrado homomórfico será una pieza integral del rompecabezas AI / ML. Este tipo de cifrado brinda a los diseñadores de chips la capacidad de cifrar datos y realizar los mismos cálculos aritméticos requeridos por el sistema de IA sin descifrarlos y, por lo tanto, reducir el riesgo de filtraciones de datos. Para mejorar tanto la calidad de los resultados como la productividad para el diseño de chips de IA a través de este sistema de cifrado, se necesitarán herramientas de próxima generación.

Edge AI impulsará la explosión de la computación de datos abundantes en tiempo real

Un automóvil autónomo que choca contra un obstáculo inadvertido no está en la lista de deseos de nadie. Este es solo un ejemplo del desastre que los chips de IA podrían infligir si los diseños no se verifican por completo. A medida que crece el apetito del mercado por más capacidades de inteligencia artificial en aplicaciones informáticas, los nuevos dispositivos de inteligencia artificial de vanguardia impulsarán una explosión de computación de datos abundantes en tiempo real y transformarán la forma en que los fabricantes de chips abordan el diseño de semiconductores, lo que conducirá a una mayor productividad, tiempos de respuesta más rápidos y una mejor verificación. soluciones.

El amanecer de un mundo basado en la IA se acerca rápidamente y está más al alcance que nunca. Pero, ¿podemos correr en la rueda del hámster de innovación el tiempo suficiente para que esto suceda? Solo el tiempo lo dirá.