Diseñando un Perceptrón Neuronal Flexible en Python: Arquitectura, Sesgo y Activación

Construyendo un Perceptrón para Clasificación: Arquitectura, Sesgo y Activación

Bienvenido a la serie de redes neuronales de All About Circuits. Nuestras publicaciones previas han cubierto los fundamentos teóricos de las redes neuronales:

1. Cómo Realizar Clasificación Usando una Red Neuronal: ¿Qué es el Perceptrón?
2. Cómo Usar un Ejemplo Simple de Red Neuronal Perceptrón para Clasificar Datos
3. Cómo Entrenar un Perceptrón Neuronal Básico
4. Entendiendo el Entrenamiento Simple de Redes Neuronales
5. Introducción a la Teoría de Entrenamiento para Redes Neuronales
6. Entendiendo la Tasa de Aprendizaje en Redes Neuronales
7. Aprendizaje Automático Avanzado con el Perceptrón Multicapa
8. La Función de Activación Sigmoide: Activación en Redes Neuronales Perceptrón Multicapa
9. Cómo Entrenar un Perceptrón Multicapa Neuronal
10. Entendiendo Fórmulas de Entrenamiento y Retropropagación para Perceptrones Multicapa
11. Arquitectura de Red Neuronal para una Implementación en Python
12. Cómo Crear una Red Neuronal Perceptrón Multicapa en Python
13. Procesamiento de Señales Usando Redes Neuronales: Validación en Diseño de Redes Neuronales
14. Conjuntos de Datos de Entrenamiento para Redes Neuronales: Cómo Entrenar y Validar una Red Neuronal Python

Ahora estamos listos para traducir esta teoría en un sistema de clasificación Perceptrón funcional. La siguiente sección describe la arquitectura que implementaremos en Python, con elecciones de diseño claras que hacen el código portable a otros lenguajes como C.

La Arquitectura de Red Neuronal en Python

El diagrama abajo ilustra la estructura de red que codificaremos:

• Nodos de entrada variables – Esenciales para igualar la dimensionalidad de datos del mundo real.
• Una sola capa oculta – Una sola capa oculta es suficiente para muchas tareas de clasificación, simplificando la implementación.
• Nodos ocultos variables – La cuenta óptima se encuentra empíricamente; discutiremos heurísticas en una publicación futura.
• Nodos de salida fijos (1) – Simplifica el programa inicial; versiones futuras pueden salidas multi-clase.
• Función de activación – Tanto capas ocultas como de salida usan la sigmoide logística: f(x)=1/(1+e^{-x}).

¿Qué es un Nodo de Sesgo? (El Sesgo Mejora la Flexibilidad del Perceptrón)

Los nodos de sesgo —o simplemente sesgos— son constantes agregadas a la suma ponderada de un nodo antes de la activación. Típicamente se establecen en 1 y pueden colocarse en la capa de entrada u oculta.

Los pesos de sesgo se actualizan como cualquier otro peso durante la retropropagación. Incluir nodos de sesgo permite a la red desplazar su frontera de decisión, mejorando rendimiento en datos no linealmente separables.

En la Parte 10 de esta serie, describimos la pre-activación como un producto punto: S_preA = w · x = Σ(w_i x_i). Agregar sesgo b modifica esto a:

S_preA = (w · x) + b = Σ(w_i x_i) + b

El sesgo actúa efectivamente como la intersección-y en la ecuación lineal y = mx + b, desplazando la curva de activación horizontalmente.

Pesos, Sesgo y Activación

Durante el entrenamiento, los pesos escalan la pendiente de la entrada, mientras que el sesgo la desplaza verticalmente. Con la sigmoide logística f_A(x) = 1/(1+e^{-x}), la transición de 0 a 1 se centra en x = 0. Ajustar el sesgo mueve esta transición izquierda o derecha, y la magnitud del peso controla la pendiente de la transición.

Conclusión

Hemos delineado las elecciones arquitectónicas centrales para nuestro Perceptrón y explicado el papel de los nodos de sesgo. En el próximo artículo, nos sumergiremos en el código Python que da vida a este diseño.