التمييز البشري الصريح يمكن مواجهته بالحجة والقانون والضغط الاجتماعي. أما التمييز الخوارزمي فيختبئ خلف ستار “العلم”. يقول لك “هذا ما تُظهره البيانات” — كأن البيانات كانت سقوطاً مطرياً لا اختياراً بشرياً. وهذا ما يجعله أشد خطورة: لا يُشعرك بأنك تُميّز، بل يُشعرك بأنك تكتشف حقيقة موضوعية.

الانحياز في الخوارزمية ليس خطأً برمجياً يُصلح بسطر كود. هو انعكاس لانحياز في من يجمع البيانات، ومن يختار المعايير، ومن يُحدد ما يعنيه “النجاح” و”الجمال” و”الموثوقية”. ومصممو هذه الأنظمة — غالباً — لا يدركون أنهم يحملون هذه الانحيازات. يظنون أنهم محايدون لأنهم لا يُفكرون في الأمر.

وهنا يكمن التناقض المؤلم: الأنظمة التي تُقرر اليوم وظائف وقروضاً وفرصاً وعلاجات طبية — بُنيت بحسن نية في أغلبها. لكن حسن النية لا يُلغي الأثر. والأثر هو أن طبقية قديمة تُعاد إنتاجها يومياً بلغة جديدة، في سرعة وحجم لم يكن ممكناً قبل الخوارزمية.

الإجابة المختصرة: جزئياً. يمكن تقليل الانحياز بتنويع البيانات، وتنويع فرق التصميم، ومراجعة المخرجات بشكل دوري. لكن لا يمكن إلغاؤه كلياً — لأن كل نظام يحمل في طياته قرارات أخلاقية اتخذها بشر لا يدعون إلى الكمال.

ما يمكن فعله — وما يجب — هو الاعتراف بهذا أولاً. أن “الموضوعية الرقمية” وهم مريح لا حقيقة صارمة. وأن كل نظام يُفرز قرارات مصيرية في حياة الناس يستحق مراجعة نشطة لا ثقة عمياء. المساءلة لا تعني رفض التقنية — تعني امتلاك الشجاعة لسؤالها.