¿Qué es la función de activación ReLU?
La Unidad Lineal Rectificada, conocida como ReLU (por sus siglas en inglés, Rectified Linear Unit), es una de las funciones de activación más utilizadas en las redes neuronales modernas. Se define como \( f(x) = \max(0, x) \): si la entrada es positiva, devuelve ese mismo valor sin cambios; si es negativa, devuelve cero. Esta sencilla regla lineal por tramos aporta no linealidad a la red, a la vez que resulta muy económica de calcular y fácil de derivar.
Cómo usar esta calculadora
Introduce tres valores: el valor inicial de x (donde comienza el recorrido), el incremento o tamaño del paso (cuánto cambia x en cada iteración) y el número de repeticiones (cuántos puntos quieres generar). La herramienta evalúa ReLU en cada valor de x, construye una tabla de datos completa (x, f(x)) y dibuja una gráfica de líneas que muestra su forma característica: plana al principio y creciente después, con su vértice en el origen.
La fórmula explicada
ReLU es \( f(x) = \max(0, x) \), lo que equivale a «x si x > 0; en caso contrario, 0». El recorrido se genera mediante la regla $$ f(x_k) = \max\left(0,\; x_k\right), \quad x_k = \text{Start }x + k \cdot \text{Step}, \quad k = 0,1,\dots,\text{Count}-1 $$ para k = 0 hasta iterations - 1, de modo que el valor final de x (endX) es igual a \( \text{startX} + (\text{iterations} - 1) \cdot \text{stepX} \). La función permanece plana en cero para todas las entradas negativas y luego crece con una pendiente constante de 1 para las entradas positivas.
Ejemplo resuelto
Con los valores por defecto startX = -5, stepX = 0,1 e iterations = 101, el recorrido abarca x desde -5 hasta \( -5 + 100 \cdot 0{,}1 = +5 \) a lo largo de 101 puntos inclusive. En x = -2,0, \( f = \max(0,\, -2{,}0) = 0 \). En x = 0, \( f = 0 \). En x = 0,1, \( f = 0{,}1 \). En x = 2,5, \( f = 2{,}5 \). En x = 5,0, \( f = 5{,}0 \). La curva representada se mantiene en cero durante todo el rango negativo y después asciende de forma lineal hasta (5, 5).
Preguntas frecuentes
¿Es ReLU derivable en cero? No. ReLU tiene un vértice (codo) en x = 0, por lo que no es derivable en ese punto. Su derivada es 0 para x < 0 y 1 para x > 0; por convención, la derivada en 0 suele tomarse como 0.
¿Puede ser negativo el paso? Sí. Un paso negativo recorre x en sentido descendente. Un paso igual a cero hace que todos los valores de x coincidan con el valor inicial (una columna constante y degenerada).
¿Por qué es tan popular ReLU? Evita el problema del desvanecimiento del gradiente que afecta a las funciones sigmoide y tangente hiperbólica con entradas positivas, su cálculo es trivial y tiende a producir activaciones dispersas, lo que a menudo acelera el entrenamiento.
