この計算ツールでできること
このツールは、ゲイン(傾きの強さ)パラメータ a を持つロジスティックシグモイド関数について、点 x での1次微分を計算します。シグモイド関数はニューラルネットワークやロジスティック回帰で最もよく使われる活性化関数の一つで、その微分はまさに誤差逆伝播法(バックプロパゲーション)で重みを更新する際に必要となる値です。さらにこの計算機では、同じ点でのシグモイド関数の値そのものと2次微分も合わせて出力します。
使い方
ゲイン a(初期値は1)と評価点 x(初期値は0.5)を入力します。どちらも単位を持たない無次元の実数です。「計算」を押すと、メインの結果として1次微分が表示され、その下にシグモイド値と2次微分が表示されます。
公式の解説
シグモイド関数は \( s_a(x) = \dfrac{1}{1 + e^{-a x}} \) で定義されます。便利な性質として、その微分は関数自身の出力だけを使って次のように書けます:
$$s'_a(x) = a \cdot s_a(x) \cdot \bigl(1 - s_a(x)\bigr)$$2次微分はこれに続いて
$$s''_a(x) = a^2 \cdot s_a(x) \cdot \bigl(1 - s_a(x)\bigr) \cdot \bigl(1 - 2 s_a(x)\bigr)$$となります。\( 1 + e^{-a x} \) は常に正の値をとるため、この関数はすべての実数 a・x に対して定義され、ゼロ除算が起こることはありません。
計算例
\( a = 1 \)、\( x = 0.5 \) のとき:\( a \cdot x = 0.5 \) なので \( e^{-0.5} \approx 0.60653 \)、\( s = \dfrac{1}{1.60653} \approx 0.622459 \) となります。これより
$$s' = 1 \cdot 0.622459 \cdot (1 - 0.622459) \approx 0.235004$$$$s'' = 0.235004 \cdot (1 - 2 \cdot 0.622459) \approx -0.057557$$と求められます。
よくある質問
微分が最大になるのはどこですか? \( a > 0 \) のとき、傾きは \( x = 0 \) で最大となり、このとき \( s = 0.5 \)、微分の値は \( a/4 \) になります。
a = 0 のときはどうなりますか? シグモイドは定数 0.5 に潰れてしまうため、1次微分も2次微分も 0 になります。
ゲインパラメータは何のためにありますか? \( |a| \) が大きいほど変化が急になり(ステップ関数に近づき)、小さいほどなだらかになります。\( a \) が負の場合は曲線が反転します。