Herramienta de IA predice con precisión velocidades de ejecución de chips, superando al modelo de Intel

La nueva herramienta de aprendizaje automático predice cuánto tiempo tarda un chip de computadora en ejecutar código específico. Es más precisa que el propio modelo de predicción de Intel.

El desafío de predecir el rendimiento

Determinar el número de ciclos de reloj que un procesador tarda en ejecutar un bloque de instrucciones ensamblador en estado estable es crucial tanto para ingenieros de rendimiento como para diseñadores de compiladores.

Desarrollar un modelo analítico para hacerlo es una tarea extremadamente complicada, especialmente en arquitecturas de procesadores modernas donde la tarea se vuelve más propensa a errores y debe realizarse desde cero para cada generación de procesador.

Ahora, investigadores del MIT han construido una herramienta de aprendizaje automático que automatiza este proceso, haciéndolo más rápido, fácil y preciso que las herramientas manuscritas de vanguardia utilizadas actualmente en analizadores estáticos de código máquina y backends de compiladores.

Tres artículos de conferencia

Describieron este nuevo pipeline de aprendizaje automático en tres artículos de conferencia:

1. Ithemal: Un modelo de red neuronal entrenado en bloques básicos de datos etiquetados (bloques de instrucciones de computación). Luego predice cuánto tiempo tarda un microprocesador dado en ejecutar bloques básicos no procesados.
2. BHive: Para validar Ithemal, los investigadores crearon un conjunto de referencia de bloques básicos de diferentes campos, como criptografía, compiladores, aprendizaje automático y gráficos. Recopilaron más de 300.000 bloques y los pusieron en BHive, un conjunto de datos de código abierto. Las pruebas mostraron que Ithemal podía predecir qué tan rápido ejecutarían código los procesadores Intel con mayor precisión que el modelo de rendimiento desarrollado por la propia Intel.
3. Vemal: Los investigadores construyeron un nuevo método para crear automáticamente un algoritmo llamado Vemal que transforma código específico en vectores para que pueda usarse en computación paralela. Vemal supera a los algoritmos de vectorización artesanales utilizados en compiladores industriales, incluido el compilador LLVM.

Usando datos en lugar de documentación del chip

Intel proporciona documentación detallada para explicar la arquitectura de sus chips. Pero solo ciertos desarrolladores expertos crean modelos de rendimiento para simular la ejecución de código en esas arquitecturas. Y dado que estos chips son propietarios, Intel omite cierta información en la documentación.

Lo que hicieron los investigadores fue medir el número promedio de ciclos que un chip tarda en ejecutar instrucciones de bloques básicos (como ejecutar un comando específico, apagar y reiniciar), utilizando una red neuronal.

La red neuronal perfila automáticamente millones de bloques y aprende gradualmente cómo diferentes arquitecturas de procesadores ejecutan código. En términos simples, los investigadores usaron un modelo de inteligencia artificial para analizar datos sin centrarse en la documentación del chip.

Ithemal toma bloques básicos no vistos como entrada y genera un único número que sugiere cuánto tiempo tardará un procesador dado en ejecutar ese código.

En el segundo artículo, los investigadores demostraron que Ithemal funciona mejor que los modelos artesanales convencionales. Mientras que la tasa de error del modelo de predicción de Intel era del 20%, la de Ithemal era del 10% en varios bloques básicos de diferentes dominios.

El modelo puede entrenarse fácilmente en nuevas arquitecturas: solo hay que recopilar más datos de ese chip, pasarlos por el perfilador y utilizar esa información para entrenar Ithemal. Eso es todo; el modelo ya está listo para estimar el rendimiento. Puede aprender velocidades de rendimiento para cualquier arquitectura de procesador, incluida la nueva Unidad de Procesamiento Tensorial de Google.

Sin embargo, los investigadores aún no saben cómo este modelo hace predicciones, ya que gran parte del aprendizaje automático es una caja negra. En el próximo estudio, intentarán explorar técnicas que puedan interpretar estos modelos.