الشرح

لا يتحيز النظام عن قصد، وإنما يتعلم الأنماط الموجودة في البيانات التي تدرّب عليها. فإذا كانت البيانات القديمة تعكس عدم توازن، كأن تغلب فئة على أخرى في قرارات التوظيف أو التمويل السابقة، تعلّم النظام هذا النمط وكرّره، وقد يضخّمه. وقد يأتي التحيز كذلك من اختيار المعايير أو طريقة جمع البيانات أو استخدام النظام في سياق لم يُصمَّم له.

ومن طرق الحد منه: فحص البيانات قبل التدريب، واختبار النتائج على فئات مختلفة، وإبقاء إنسان يراجع القرارات المهمة، وتوثيق حدود النظام. وهو أخص من مفهوم التحيز العام في الذكاء الاصطناعي، إذ يركز على أثر الخوارزمية نفسها في العدالة.

لا تخلطه بـ

التحيز في الذكاء الاصطناعي: هو المفهوم الأعم لكل أشكال الانحياز في الأنظمة الذكية، أما التحيز الخوارزمي فيركز على النتائج غير العادلة التي تنتجها الخوارزمية نفسها بسبب البيانات التي تعلمت منها أو تصميمها.

الترجمات المتداولة

رسمي: معتمد من جهة رسمية. شائع: متداول في مصادر عامة. آلية: ترجمة آلية تحتاج مراجعة. قيد التحقق: لم يُتحقق منه بعد.

مصطلحات ذات صلة