Integración de Modelos Duales de Deep Learning para Automatización Industrial Mejorada

El deep learning es una herramienta invaluable en el arsenal de analistas de datos con nuevas aplicaciones en diferentes esferas, incluyendo aplicaciones industriales. El principio básico del deep learning es usar grandes volúmenes de datos para construir un modelo que haga predicciones precisas.

Consideremos un pequeño ejemplo donde ingenieros de automatización industrial podrían necesitar combinar dos modelos de deep learning. Una empresa de smartphones emplea una línea de producción que fabrica múltiples modelos. Visión computarizada con algoritmos de deep learning realiza el control de calidad.

Actualmente, la línea produce dos smartphones: Teléfono A y Teléfono B. Modelos A y B realizan el control de calidad para Teléfonos A y B, respectivamente. La empresa introduce un nuevo smartphone, Teléfono C. La instalación puede necesitar un nuevo modelo para control de calidad del tercer teléfono, llamado Modelo C. Construir un nuevo modelo requiere enorme cantidad de datos y tiempo.

Figura 2. Un ensemble stacking para redes neuronales de deep learning en Python. Imagen cortesía de Machine Learning Mastery.

Otra alternativa es combinar los aprendizajes del Modelo A y B para construir el Modelo C. El modelo combinado puede realizar control de calidad con ajustes menores a los pesos.

Otro escenario donde los modelos deben combinarse es cuando un nuevo modelo debe realizar dos tareas simultáneamente. Dos modelos de deep learning podrían realizar estas tareas. Un modelo que necesite clasificar un conjunto de datos y hacer predicciones en cada categoría puede crearse combinando dos modelos: uno que clasifique grandes conjuntos de datos y otro que haga predicciones.

Aprendizaje por Ensamble (Ensemble Learning)

Combinar múltiples modelos de deep learning es aprendizaje por ensamble. Esto se hace para hacer mejores predicciones, clasificación u otras funciones de un modelo de deep learning. El aprendizaje por ensamble también puede crear un nuevo modelo con las funcionalidades combinadas de diferentes modelos.

Crear un nuevo modelo tiene muchos beneficios frente a entrenar uno completamente desde cero:

• Requiere muy pocos datos para entrenar el modelo combinado porque la mayor parte del aprendizaje deriva de los modelos combinados.
• Toma menos tiempo construir un modelo combinado comparado con uno nuevo.
• Requiere menos recursos computacionales al combinar modelos.
• Los nuevos modelos combinados tienen mayor precisión y capacidades que los combinados para obtener el nuevo modelo.

Debido a las diferentes ventajas del aprendizaje por ensamble, a menudo se realiza para crear un nuevo modelo. Los respectivos algoritmos, paquetes y modelos entrenados de deep learning deben combinarse, y la mayoría de algoritmos avanzados están escritos en Python.

Saber Python y las respectivas herramientas de deep learning son prerrequisitos para combinar diferentes modelos. Una vez todo en su lugar, se implementan diferentes técnicas para combinar algoritmos de deep learning. Se explican en las siguientes secciones.

Método del Promedio (Ponderado)

En este método, el promedio de los dos modelos se usa como el nuevo modelo. Es el método más directo para combinar dos modelos de deep learning. El modelo creado promediando dos modelos tiene más precisión que los dos modelos combinados.

Para mejorar aún más la precisión y resultado del modelo combinado, el promedio ponderado es una opción viable. Los pesos dados a los diferentes modelos podrían basarse en el rendimiento de los modelos o en la cantidad de entrenamiento que cada uno recibió. En este método, dos modelos diferentes se combinan para formar uno nuevo.

Método Bagging

El mismo modelo de deep learning puede tener múltiples iteraciones. Las diferentes iteraciones se entrenarían con diferentes conjuntos de datos y tendrían diferentes niveles de mejora. Combinar las diferentes versiones del mismo modelo de deep learning es el método bagging.

La metodología es la misma que la del método de promedio. Diferentes versiones del mismo modelo se combinan en promedio simple o ponderado. Este método ayuda a crear un nuevo modelo que no tiene el sesgo de confirmación acumulado con un solo modelo, haciéndolo más preciso y de alto rendimiento.

Método Boosting

El método boosting es similar a usar un bucle de retroalimentación para modelos. El rendimiento de un modelo se usa para ajustar los modelos subsiguientes. Esto crea un bucle de retroalimentación positiva que acumula todos los factores que contribuyen al éxito del modelo.

Figura 3. Método boosting para ensemble learning. Imagen cortesía de Ashish Patel.

El método boosting reduce el sesgo y varianza experimentados por los modelos. Esto es posible ya que esos lados negativos se filtran en iteraciones subsiguientes. El boosting puede hacerse de dos formas distintas: boosting basado en pesos y boosting basado en residuos.

Método de Concatenación

Este método se usa cuando diferentes fuentes de datos deben fusionarse en el mismo modelo. Esta técnica toma diferentes entradas y las concatena al mismo modelo. El conjunto de datos resultante tendrá más dimensiones que el original.

Cuando se hace múltiples veces secuencialmente, las dimensiones de los datos crecerán a un número muy grande, lo que podría llevar a overfitting y pérdida de información crítica, reduciendo el rendimiento del modelo combinado.

Método Stacking

El método stacking para modelos de ensemble deep learning integra los diferentes métodos para desarrollar modelos usando el rendimiento de iteraciones previas para impulsar los modelos previos. Añadir un elemento de promedio ponderado a este modelo apilado mejora las contribuciones positivas de los sub-modelos.

Similarmente, técnicas de bagging y concatenación pueden añadirse a los modelos. El método de combinar diferentes técnicas para combinar modelos puede mejorar el rendimiento del modelo combinado.

Las metodologías, técnicas y algoritmos para combinar modelos de deep learning son innumerables y siempre evolucionando. Habrá nuevas técnicas para lograr la misma tarea con mejores resultados. Las ideas clave sobre combinar modelos son:

• Combinar modelos de deep learning también se llama ensemble learning.
• Combinar diferentes modelos se hace para mejorar el rendimiento de modelos de deep learning.
• Construir un nuevo modelo por combinación requiere menos tiempo, datos y recursos computacionales.
• El método más común es promediar múltiples modelos, donde el promedio ponderado mejora la precisión.
• Bagging, boosting y concatenación son otros métodos para combinar modelos.
• El ensemble learning apilado usa diferentes técnicas de combinación para construir un modelo.