¿Qué es la función Softsign?
La función Softsign es una función de activación empleada en redes neuronales y se define como \(\phi(x) = x / (1 + |x|)\). Al igual que la tangente hiperbólica (tanh), es suave, tiene forma de S y está acotada al intervalo abierto (-1, 1). La diferencia principal está en cómo se aproxima a sus asíntotas: Softsign lo hace de forma polinómica (como \(1/|x|\)), mientras que tanh lo consigue de manera exponencial. Esta saturación más lenta puede ayudar a mitigar el problema del desvanecimiento del gradiente en ciertas arquitecturas.
Cómo usar esta calculadora
Introduce tres valores: el valor inicial de x (la x de la primera fila), el valor del incremento (el paso que se suma en cada fila) y el número de repeticiones (cuántas filas quieres generar). La calculadora elaborará entonces una tabla con x, la función Softsign \(\phi(x)\) y su primera derivada \(\phi'(x)\) para cada punto, que podrás utilizar para representar las curvas o examinar valores concretos.
La fórmula explicada
Para cada fila, sea \(a = 1 + |x|\). Entonces $$\phi(x) = \frac{x}{1+|x|}, \qquad \phi'(x) = \frac{1}{(1+|x|)^{2}}$$ Como \(|x|\) nunca es negativo, el denominador \(a\) siempre vale como mínimo 1, de modo que jamás se produce una división entre cero y la función es suave en todo su dominio. La función Softsign es impar (\(\phi(-x) = -\phi(x)\)), mientras que su derivada es par (\(\phi'(-x) = \phi'(x)\)). En el origen, \(\phi(0) = 0\) y \(\phi'(0) = 1\).
Ejemplo resuelto
Para \(x = -5\): \(a = 1 + 5 = 6\), así que $$\phi(-5) = \frac{-5}{6} = -0.8333333, \qquad \phi'(-5) = \frac{1}{36} = 0.0277778.$$ Para \(x = 1\): \(a = 2\), por lo que \(\phi(1) = 0.5\) y \(\phi'(1) = 0.25\). Para \(x = 0\): \(a = 1\), de manera que \(\phi(0) = 0\) y \(\phi'(0) = 1\). Con los valores por defecto (inicio -5, paso 0.1, 101 filas), la tabla recorre x desde -5 hasta +5.
Preguntas frecuentes
¿Por qué la derivada nunca es negativa? Porque \(\phi'(x) = \frac{1}{(1+|x|)^{2}}\) es el inverso de un cuadrado, siempre es estrictamente positiva, lo que significa que Softsign es monótona creciente.
¿En qué se diferencia Softsign de tanh? Ambas saturan hacia un rango acotado, pero Softsign lo hace de forma más gradual (decaimiento racional) frente al decaimiento exponencial de tanh, manteniendo los gradientes activos en un rango de entradas más amplio.
¿Puede ser negativo el paso? Sí. Un paso negativo hace que la tabla descienda; un paso de cero repite el mismo valor de x en todas las filas.