ما هي دالة Softsign؟
دالة Softsign هي دالة تنشيط ناعمة تُستخدم في الشبكات العصبية، وتُعرَّف بالصيغة \(\phi(x) = x / (1 + |x|)\). تحوِّل هذه الدالة أي مدخل حقيقي إلى المجال المفتوح (-1, 1)، تماماً مثل دالة الظل الزائدي (tanh)، لكنها تقترب من حدّي الإشباع بوتيرة أبطأ. هذا الإشباع التدريجي قد يساعد في تقليل مشكلة تلاشي التدرّج (vanishing gradient) أثناء التدريب. توفّر لك هذه الحاسبة قيمة الدالة \(\phi(x)\)، كما توفّر — وهو مخرجها الأساسي — المشتقة الأولى \(\phi'(x)\).
كيفية استخدام الحاسبة
أدخِل أي عدد حقيقي للقيمة \(x\) — موجباً كان أم سالباً أم صفراً — واقرأ النتيجة \(\phi'(x)\) (ميل منحنى Softsign) إلى جانب \(\phi(x)\) (مخرَج التنشيط). لا تتضمّن العملية أي وحدات؛ فالقيمة \(x\) عدد حقيقي مجرّد بلا أبعاد. القيمة الافتراضية للمدخل هي \(x = 0.5\).
شرح الصيغة الرياضية
مشتقة الدالة \(\phi(x) = x / (1 + |x|)\) هي $$f^{\prime}(x) = \frac{1}{\left(1 + \left|x\right|\right)^{2}}$$ وبما أن المقام \((1 + |x|)\) لا يقل أبداً عن 1، فإن المشتقة تكون دائماً موجبة تماماً وتقع ضمن المجال (0, 1]. وتبلغ قيمتها العظمى 1 عند \(x = 0\) حيث يكون انحدار الدالة أكبر ما يمكن. وكلما كبرت \(|x|\) اقتربت \(\phi'(x)\) من الصفر، وهو ما يعكس إشباع الدالة.
مثال محلول
لنأخذ \(x = 0.5\): تكون \(|x| = 0.5\)، ومن ثمّ \(1 + |x| = 1.5\). قيمة الدالة هي $$\phi(0.5) = \frac{0.5}{1.5} = 0.333333\ldots$$ أما المشتقة فهي $$\phi'(0.5) = \frac{1}{1.5^2} = \frac{1}{2.25} = 0.444444\ldots$$ وبذلك يكون لمنحنى Softsign عند \(x = 0.5\) مخرَج قريب من 0.3333 وميل قريب من 0.4444.
الأسئلة الشائعة
هل دالة Softsign قابلة للاشتقاق في كل النقاط؟ نعم. على الرغم من وجود انكسار في \(|x|\) عند \(x = 0\)، فإن المشتقة من اليمين والمشتقة من اليسار للدالة \(\phi\) تساويان كلتاهما 1 عند تلك النقطة، لذا فإن \(\phi\) قابلة للاشتقاق عند الصفر وعند كل النقاط الأخرى.
هل يمكن أن تكون المشتقة سالبة؟ لا. القيمة \(\phi'(x) = 1 / (1 + |x|)^2\) موجبة دائماً، لأنها عبارة عن واحد مقسوماً على عدد موجب مرفوع إلى تربيع.
كيف تُقارن Softsign بدالة tanh؟ كلتا الدالتين تُشبَع نحو المجال (-1, 1)، لكن Softsign تستخدم أطرافاً كثيرة الحدود \((1/x^2)\) بدلاً من الأطراف الأسية لدالة tanh، ولذلك تُشبَع بوتيرة أبطأ وتحتفظ بتدرّجات أكبر قليلاً بعيداً عن الصفر.