MCPで接続 →

計算を入力してください

公式

広告

結果

1次微分 s'_a(x)
0.2350037122
無次元
シグモイド値 s_a(x) 0.6224593312
2次微分 s''_a(x) -0.0575567949

この計算ツールでできること

このツールは、ゲイン(傾きの強さ)パラメータ a を持つロジスティックシグモイド関数について、点 x での1次微分を計算します。シグモイド関数はニューラルネットワークやロジスティック回帰で最もよく使われる活性化関数の一つで、その微分はまさに誤差逆伝播法(バックプロパゲーション)で重みを更新する際に必要となる値です。さらにこの計算機では、同じ点でのシグモイド関数の値そのものと2次微分も合わせて出力します。

使い方

ゲイン a(初期値は1)と評価点 x(初期値は0.5)を入力します。どちらも単位を持たない無次元の実数です。「計算」を押すと、メインの結果として1次微分が表示され、その下にシグモイド値と2次微分が表示されます。

公式の解説

シグモイド関数は \( s_a(x) = \dfrac{1}{1 + e^{-a x}} \) で定義されます。便利な性質として、その微分は関数自身の出力だけを使って次のように書けます:

$$s'_a(x) = a \cdot s_a(x) \cdot \bigl(1 - s_a(x)\bigr)$$

2次微分はこれに続いて

$$s''_a(x) = a^2 \cdot s_a(x) \cdot \bigl(1 - s_a(x)\bigr) \cdot \bigl(1 - 2 s_a(x)\bigr)$$

となります。\( 1 + e^{-a x} \) は常に正の値をとるため、この関数はすべての実数 ax に対して定義され、ゼロ除算が起こることはありません。

広告
S字型のシグモイド曲線と釣鐘形の一階微分を同じ座標軸に表示
シグモイド曲線(S字曲線)と、その釣鐘形の一階微分。

計算例

\( a = 1 \)、\( x = 0.5 \) のとき:\( a \cdot x = 0.5 \) なので \( e^{-0.5} \approx 0.60653 \)、\( s = \dfrac{1}{1.60653} \approx 0.622459 \) となります。これより

$$s' = 1 \cdot 0.622459 \cdot (1 - 0.622459) \approx 0.235004$$$$s'' = 0.235004 \cdot (1 - 2 \cdot 0.622459) \approx -0.057557$$

と求められます。

印を付けた点で接線が接しているシグモイド曲線
一階微分は、点xにおける接線の傾きに等しい。

よくある質問

微分が最大になるのはどこですか? \( a > 0 \) のとき、傾きは \( x = 0 \) で最大となり、このとき \( s = 0.5 \)、微分の値は \( a/4 \) になります。

a = 0 のときはどうなりますか? シグモイドは定数 0.5 に潰れてしまうため、1次微分も2次微分も 0 になります。

ゲインパラメータは何のためにありますか? \( |a| \) が大きいほど変化が急になり(ステップ関数に近づき)、小さいほどなだらかになります。\( a \) が負の場合は曲線が反転します。

最終更新: