Калькулятор второй производной сигмоидной функции

Калькулятор второй производной сигмоидной функции

Развивающийся AI Skill PRO

Введите расчет

Математическая формула

σ′′(x)=a2σ(1−σ)(1−2σ)где{a=Усиление aσ=11+e−ax\begin{gathered} \sigma^{\prime\prime}(x) = a^{2}\,\sigma(1-\sigma)(1-2\sigma) \\[1.5em] \text{где}\quad \left\{ \begin{aligned} a &= {{\text{Усиление }a}} \\ \sigma &= \frac{1}{1+e^{-a\,\text{x}}} \end{aligned} \right. \end{gathered}
Статистика использования

Реклама

Результаты

Вторая производная s''_a(x)
-0,057557
безразмерная величина
Сигмоида s_a(x) 0,622459
Первая производная s'_a(x) 0,235004
Вторая производная s''_a(x) -0,057557

Сообщить об ошибке на этой странице

Что вычисляет этот калькулятор

Инструмент находит вторую производную логистической сигмоиды с параметром усиления — её обозначают \(\sigma''_a(x)\) — в точке \(x\) при выбранном значении усиления \(a\) (параметр наклона, который часто называют альфа). Логистическая сигмоида — одна из самых распространённых функций активации в нейронных сетях и статистических моделях, а её производные встречаются повсюду: от обучения на основе градиентов до анализа кривизны.

Формулы

Сигмоида с усилением \(a\) задаётся выражением $$\sigma_a(x) = \frac{1}{1+e^{-a\,x}}.$$ Её первая производная равна $$\sigma'_a(x) = a\,\sigma(1-\sigma),$$ а вторая производная — $$\sigma''_a(x) = a^{2}\,\sigma(1-\sigma)(1-2\sigma),$$ где \(\sigma = \sigma_a(x)\). Поскольку всё выражено через \(\sigma\), калькулятор сначала вычисляет \(\sigma\), а затем использует это значение для обеих производных. Знаменатель \(1 + e^{-a\,x}\) всегда положителен, поэтому деления на ноль здесь никогда не возникает.

Сигмоида, колокол первой производной и волна второй производной на общей оси x
Сигмоида (вверху), её первая производная (колоколообразная кривая) и вторая производная (S-образная волна, пересекающая ноль в центре).

Как пользоваться

Введите усиление \(a\) (по умолчанию 1) и точку вычисления \(x\) (по умолчанию 0,5), после чего вы получите значение сигмоиды, первую производную и главный результат — вторую производную. Чтобы найти точку перегиба, обратите внимание: \(\sigma''_a(x) = 0\) ровно там, где \(\sigma = 0{,}5\), а это происходит при \(x = 0\) при любом усилении.

Реклама

Разбор примера

При \(a = 1\) и \(x = 0{,}5\): \(e^{-0{,}5} = 0{,}606531\), значит $$\sigma = \frac{1}{1{,}606531} = 0{,}622459.$$ Далее \(1 - \sigma = 0{,}377541\) и $$\sigma' = 1 \cdot 0{,}622459 \cdot 0{,}377541 = 0{,}235004.$$ Наконец \(1 - 2\sigma = -0{,}244919\), откуда $$\sigma'' = 1 \cdot 0{,}235004 \cdot (-0{,}244919) = -0{,}057557.$$

Волна второй производной с положительным максимумом, переходом через ноль в центре, отрицательным минимумом и одной отмеченной точкой вычисления
Вычисление s''_a(x): кривая достигает максимума, пересекает ноль в центре сигмоиды, затем опускается к минимуму.

Частые вопросы

За что отвечает усиление \(a\)? Оно определяет крутизну сигмоиды: чем больше \(a\), тем резче переход. При \(a = 0\) значение \(\sigma = 0{,}5\) во всех точках, поэтому обе производные обращаются в ноль.

Где вторая производная равна нулю? В точке \(x = 0\) — это точка перегиба, где сигмоида меняет выпуклость на вогнутость.

Насколько устойчивы вычисления? Вполне устойчивы: при отрицательном \(a\,x\) калькулятор использует эквивалентную форму \(\frac{e^{a\,x}}{1 + e^{a\,x}}\), чтобы избежать переполнения при возведении в степень.

Последнее обновление:

Самые популярные в разделе Математика и статистика

Все калькуляторы раздела Математика и статистика