Bu hesaplayıcı ne işe yarar?
Bu araç, kazanç parametreli lojistik sigmoidin ikinci türevini, yani \(\sigma''_a(x)\) ifadesini, seçtiğiniz bir kazanç \(a\) (eğim parametresi, çoğu zaman alfa olarak anılır) için belirli bir \(x\) noktasında hesaplar. Lojistik sigmoid, sinir ağlarında ve istatistiksel modellerde en sık kullanılan aktivasyon fonksiyonlarından biridir; türevleri ise gradyan tabanlı eğitimde ve eğrilik (curvature) analizlerinde sürekli karşımıza çıkar.
Formüller
Kazanç \(a\)'lı sigmoid şöyle tanımlanır: $$\sigma_a(x) = \frac{1}{1+e^{-a\,x}}.$$ Birinci türevi $$\sigma'_a(x) = a\,\sigma\,(1-\sigma),$$ ikinci türevi ise $$\sigma''_a(x) = a^{2}\,\sigma\,(1-\sigma)(1-2\sigma)$$ biçimindedir; burada \(\sigma = \sigma_a(x)\). Her şey \(\sigma\) cinsinden ifade edildiği için hesaplayıcı önce \(\sigma\) değerini bulur, ardından her iki türevde de aynı değeri yeniden kullanır. Payda olan \(1 + e^{-a\,x}\) her zaman pozitif olduğundan sıfıra bölme gibi bir sorun asla yaşanmaz.
Nasıl kullanılır?
Kazanç \(a\) değerini (varsayılan 1) ve değerlendirme noktası \(x\)'i (varsayılan 0,5) girin; ardından sigmoid değerini, birinci türevi ve asıl sonuç olan ikinci türevi okuyun. Dönüm (büküm) noktasını bulmak için şunu unutmayın: \(\sigma''_a(x) = 0\) koşulu tam olarak \(\sigma = 0{,}5\) olduğunda sağlanır ve bu da kazanç ne olursa olsun \(x = 0\) noktasında gerçekleşir.
Çözümlü örnek
\(a = 1\) ve \(x = 0{,}5\) için: \(e^{-0{,}5} = 0{,}606531\) olduğundan $$\sigma = \frac{1}{1{,}606531} = 0{,}622459$$ elde edilir. Buradan \(1 - \sigma = 0{,}377541\) ve $$\sigma' = 1 \cdot 0{,}622459 \cdot 0{,}377541 = 0{,}235004$$ bulunur. Son olarak \(1 - 2\sigma = -0{,}244919\) olur ve $$\sigma'' = 1 \cdot 0{,}235004 \cdot (-0{,}244919) = -0{,}057557$$ sonucuna ulaşılır.
Sıkça sorulan sorular
Kazanç \(a\) ne işe yarar? Sigmoidin dikliğini ölçeklendirir; \(a\) büyüdükçe geçiş daha keskin hale gelir. \(a = 0\) seçilirse \(\sigma\) her yerde \(0{,}5\) olur, dolayısıyla her iki türev de 0 çıkar.
İkinci türev nerede sıfır olur? \(x = 0\) noktasında, yani sigmoidin dışbükeyden (konveks) içbükeye (konkav) geçtiği dönüm noktasında.
Sayısal olarak kararlı mı? Evet. Negatif \(a\,x\) değerlerinde hesaplayıcı, üstel taşmayı (overflow) önlemek için eşdeğer olan \(\frac{e^{a\,x}}{1 + e^{a\,x}}\) biçimini kullanır.