الشرح

كثير من النماذج الحديثة، وخاصة الشبكات العصبية الكبيرة، يعمل كصندوق أسود: تعطيه المدخلات فيخرج النتيجة، دون أن يظهر بوضوح كيف وصل إليها. فتأتي أساليب التفسير لتبيّن أي العوامل أثّرت في القرار وبأي قدر، أو لبناء نماذج أبسط يمكن قراءتها مباشرة.

تزداد أهميتها حين يمس القرار حياة الناس، كالتمويل والتوظيف والصحة، إذ يحتاج المتضرر إلى معرفة السبب، ويحتاج المدقق إلى كشف التحيز والأخطاء. لكن التفسير غالباً تقريب لا يكشف كل ما في النموذج، وقد تقل دقة النموذج حين نفضّل الأبسط منه.

لا تخلطه بـ

الشفافية: الشفافية أن تُفصح الجهة عن استخدامها للنظام وعن حدوده، أما التفسير فيجيب عن سؤال أدق: لماذا اتخذ النموذج هذا القرار بعينه؟

الترجمات المتداولة

رسمي: معتمد من جهة رسمية. شائع: متداول في مصادر عامة. آلية: ترجمة آلية تحتاج مراجعة. قيد التحقق: لم يُتحقق منه بعد.

مصطلحات ذات صلة