ما هي حاسبة المشتقة الأولى لدالة Softplus؟
تحسب هذه الأداة المشتقة الأولى لدالة التفعيل Softplus عند أي قيمة حقيقية للمتغير x. دالة Softplus، المُعرَّفة بالصيغة \(\phi(x) = \ln(1 + e^{x})\)، هي تقريب أملس وقابل للاشتقاق لدالة ReLU (الوحدة الخطية المُصحَّحة) الشائعة الاستخدام في الشبكات العصبية. وما يميزها أن مشتقتها تساوي تمامًا الدالة السينية اللوجستية (sigmoid)، الأمر الذي يجعلها مريحة للغاية في التدريب المعتمد على التدرّج (gradient-based training).
كيفية الاستخدام
أدخِل قيمة x التي تريد حساب المشتقة عندها ثم اضغط على زر الحساب. تُرجِع الحاسبة قيمة \(\phi'(x)\)، وهو عدد يقع دائمًا حصرًا بين 0 و1. القيم الموجبة تدفع الناتج نحو 1، والقيم السالبة تدفعه نحو 0، أما القيمة 0 بالضبط فتعطي 0.5.
شرح الصيغة الرياضية
باشتقاق دالة Softplus نحصل على:
$$\frac{d}{dx}\ln\!\left(1 + e^{x}\right) = \frac{e^{x}}{1 + e^{x}} = \frac{1}{1 + e^{-x}}.$$وهذه هي الدالة السينية اللوجستية \(\sigma(x)\). وللحفاظ على استقرار الحساب عدديًّا، تستخدم الحاسبة الصيغة \(\frac{1}{1 + e^{-x}}\) عندما يكون \(x \geq 0\)، والصيغة المكافئة \(\frac{e^{x}}{1 + e^{x}}\) عندما يكون \(x < 0\)، وذلك لتجنّب طفح القيمة الأسية (overflow) عند المدخلات ذات المقادير الكبيرة.
مثال محلول
لنفترض أن \(x = 0.5\). عندئذٍ \(e^{-0.5} = 0.6065306597\)، أي أن \(1 + e^{-0.5} = 1.6065306597\). وبالتالي $$\phi'(0.5) = \frac{1}{1.6065306597} = 0.622459.$$ لاحظ أن المشتقة أكبر بقليل من 0.5 لأن المُدخَل موجب قليلًا.
الأسئلة الشائعة
لماذا تساوي المشتقة الدالة السينية (sigmoid)؟ لأن تطبيق قاعدة السلسلة على \(\ln(1 + e^{x})\) يُبسَّط جبريًّا إلى \(\frac{1}{1 + e^{-x}}\)، وهي الدالة السينية اللوجستية القياسية.
ما هو مجال قيم \(\phi'(x)\)؟ إنه الفترة المفتوحة \((0, 1)\). تقترب القيمة من 0 عندما يؤول x إلى سالب ما لا نهاية، ومن 1 عندما يؤول x إلى موجب ما لا نهاية، لكنها لا تبلغ أيًّا من الحدّين أبدًا.
هل هناك خطر القسمة على صفر؟ لا. بما أن \(1 + e^{-x}\) أكبر دائمًا من الصفر لكل قيمة حقيقية لـ x، فإن المقام لا يمكن أن يساوي صفرًا إطلاقًا.
