في يوم ما، طلبت من محرك البحث صورة “رجل ناجح”. فظهرت لك وجوه بيضاء في بدلات رسمية. ثم طلبت “امرأة ناجحة”، فظهرت وجوه أيضاً — لكن في سياقات مختلفة: مطبخ، ابتسامة هادئة، حضانة. لم يقل أحد للخوارزمية أن تفعل هذا. لكنها فعلته. والسؤال الذي يجب أن يُقلقنا ليس: لماذا فعلته؟ بل: من علّمها؟
الخوارزمية لا تُخترع العالم — تقرأه وتُعيد إنتاجه. والعالم الذي تقرأه مليء بانحيازات تاريخية راسخة. الخطر ليس أنها تُعيد إنتاج هذه الانحيازات فحسب — بل أنها تُضفي عليها طابع “الموضوعية العلمية”، فتُصعّب مواجهتها.
في آخر مرة قبلت فيها نتيجة خوارزمية — توصية وظيفة، تقييم شخص، ترتيب نتائج بحث — هل سألت: من قرر هذا الترتيب؟ ومن يستفيد منه؟ الموضوعية التي لا تُسأل هي بالضبط المكان الذي يختبئ فيه التحيز.
الخوارزمية لا تُخترع التمييز — تُدوّره. تتعلم من بياناتنا التاريخية، ومن صورنا ونصوصنا وأحكامنا المتراكمة عبر عقود، ثم تُعيد تقديمها بلغة رقمية تبدو محايدة. المحايدة في علم البيانات تعني فقط أن النظام لا يُضيف تحيزاً جديداً — لا أنه يُزيل القديم. والفارق بين الأمرين شاسع.
التمييز البشري الصريح يمكن مواجهته بالحجة والقانون والضغط الاجتماعي. أما التمييز الخوارزمي فيختبئ خلف ستار “العلم”. يقول لك “هذا ما تُظهره البيانات” — كأن البيانات كانت سقوطاً مطرياً لا اختياراً بشرياً. وهذا ما يجعله أشد خطورة: لا يُشعرك بأنك تُميّز، بل يُشعرك بأنك تكتشف حقيقة موضوعية.
الانحياز في الخوارزمية ليس خطأً برمجياً يُصلح بسطر كود. هو انعكاس لانحياز في من يجمع البيانات، ومن يختار المعايير، ومن يُحدد ما يعنيه “النجاح” و”الجمال” و”الموثوقية”. ومصممو هذه الأنظمة — غالباً — لا يدركون أنهم يحملون هذه الانحيازات. يظنون أنهم محايدون لأنهم لا يُفكرون في الأمر.
وهنا يكمن التناقض المؤلم: الأنظمة التي تُقرر اليوم وظائف وقروضاً وفرصاً وعلاجات طبية — بُنيت بحسن نية في أغلبها. لكن حسن النية لا يُلغي الأثر. والأثر هو أن طبقية قديمة تُعاد إنتاجها يومياً بلغة جديدة، في سرعة وحجم لم يكن ممكناً قبل الخوارزمية.
أمر الإسلام بالقسط — العدل الدقيق المتوازن — حتى على النفس والأقربين: ﴿كُونُوا قَوَّامِينَ بِالْقِسْطِ﴾. القسط لا يكتفي بغياب الظلم الصريح — يتطلب مراجعة نشطة للأنظمة والأحكام والبيانات التي نبني عليها قراراتنا. في عصر الخوارزميات، هذا المبدأ أصبح أكثر إلحاحاً لا أقل.
الإجابة المختصرة: جزئياً. يمكن تقليل الانحياز بتنويع البيانات، وتنويع فرق التصميم، ومراجعة المخرجات بشكل دوري. لكن لا يمكن إلغاؤه كلياً — لأن كل نظام يحمل في طياته قرارات أخلاقية اتخذها بشر لا يدعون إلى الكمال.
ما يمكن فعله — وما يجب — هو الاعتراف بهذا أولاً. أن “الموضوعية الرقمية” وهم مريح لا حقيقة صارمة. وأن كل نظام يُفرز قرارات مصيرية في حياة الناس يستحق مراجعة نشطة لا ثقة عمياء. المساءلة لا تعني رفض التقنية — تعني امتلاك الشجاعة لسؤالها.
الانحياز الخوارزمي ليس حادثة طارئة في تاريخ التقنية — هو ميزة هيكلية في أي نظام يتعلم من بيانات بشرية. الاعتراف بهذا ليس هجوماً على التقنية، بل شرط للتعامل معها بنضج.
في كل مرة تقبل فيها نتيجة خوارزمية دون سؤال، أنت لا تثق في “العلم” — أنت تثق في قرارات بشر لا تعرفهم، اتخذوها في سياق لم تكن جزءاً منه. والثقة العمياء في الأنظمة — أياً كانت — هي بالضبط ما تُحذّر منه الحكمة قبل أن يُحذّر منه العلم.
﴿يَا أَيُّهَا الَّذِينَ آمَنُوا كُونُوا قَوَّامِينَ بِالْقِسْطِ شُهَدَاءَ لِلَّهِ وَلَوْ عَلَىٰ أَنفُسِكُمْ﴾