في صباح عادي، تفتح تطبيق توصيات الوظائف. يعرض عليك النظام فرصاً “مناسبة” بناءً على سلوكك السابق. تبدو العملية عادلة: خوارزمية محايدة، بيانات موضوعية، قرار “ذكي”. لكن هل تساءلت يوماً لماذا تظهر لك هذه الوظائف بالذات؟ وهل “الموضوعية” هنا حقيقية — أم مجرد وهم يُريح ضميرنا؟
الخوارزميات لا تخترع التمييز — تُعيد تدويره. والأخطر أنها تفعل ذلك بوجه محايد يُخلّص البشر من المسؤولية الأخلاقية عن قراراتهم. هذا ما يُسميه الباحثون “الغطاء الأخلاقي” — وهو ظاهرة تتعلق بعيوبنا نحن قبل أن تتعلق بعيوب التقنية.
حين تسمع “النظام قرر” أو “البيانات تقول” — هل تتوقف لتسأل: من بنى هذا النظام؟ من اختار هذه البيانات؟ من حدد ما تعنيه؟ الموضوعية التي لا يسأل عنها أحد هي بالضبط المكان الذي يختبئ فيه التحيز.
التقنية هنا لا تُخترع التمييز من العدم — بل تُعيد تدويره. الخوارزميات تتعلم من بياناتنا التاريخية، وتاريخنا مليء بالتحيزات. لكن الفارق الجوهري أن القرار الصادر عن “نظام” يبدو أقل قابلية للمساءلة من القرار الصادر عن إنسان. وهذا بالضبط ما يجعل الغطاء الأخلاقي خطيراً — لا لأنه يُخفي الخطأ، بل لأنه يُخفي المسؤول.
تعمل ظاهرة الغطاء الأخلاقي عبر ثلاث آليات نفسية متداخلة تُمكّن الإنسان من اتخاذ قرارات تمييزية مع الحفاظ على إحساسه بالنزاهة.
تبرير النظام: نميل كبشر إلى تبرير الأنظمة القائمة حتى حين تضر بنا — لأن النظام يُقدم لنا “قصة” نستطيع سردها لأنفسنا وللآخرين.
التخلص الأخلاقي: حين يتخذ “النظام” القرار، نتخلص من مسؤوليتنا عنه. لا نحن من رفض ولا نحن من اختار. الخوارزمية “قررت”.
تخيّل منصة تأجير سكن تستخدم خوارزمية لتقييم “موثوقية” المستأجرين. تتعلم الخوارزمية من بيانات سابقة أن سكان أحياء معينة تاريخياً تأخروا عن الدفع. فتبدأ بتقليل درجات المرشحين من هذه الأحياء تلقائياً. حين يُسأل مدير المنصة يقول: “النظام يقرر بناءً على البيانات.”
لكن من اختار البيانات؟ من حدد المعايير؟ من قرر أن “التاريخ” يساوي “المستقبل”؟ الإجابة: بشر. لكن الخوارزمية أخفت هذا البُعد البشري ومنحت الجميع غطاءً أخلاقياً مريحاً — المدير لا يشعر أنه ميّز، والمستأجر المرفوض لا يملك على ماذا يطعن.
المسؤولية ثلاثية الأبعاد: مصممو الخوارزميات مسؤولون عن الانحيازات المُضمَّنة في النماذج. المؤسسات المستخدمة مسؤولة عن مراجعة مخرجات الأنظمة لا قبول نتائجها عمياء. والمجتمع مسؤول عن بناء ثقافة تسأل “كيف يعمل هذا النظام؟” قبل أن تقبل ما يقوله.
لكن ثمة بُعد أعمق — بُعد فردي. حين تقبل قراراً لأن “النظام قاله”، أنت تتنازل عن جزء من مسؤوليتك الأخلاقية وتُحيلها إلى آلة. والآلة لا ضمير لها. وما لا ضمير له لا يتوقف.
أمر الله بالعدل أمراً مباشراً لا يقبل الوساطة: ﴿إِنَّ اللَّهَ يَأْمُرُ بِالْعَدْلِ وَالْإِحْسَانِ﴾. العدل في الإسلام مسؤولية شخصية لا تُحال إلى نظام. وحين تُخفي الخوارزمية وجه القرار، يبقى السؤال: من سيُسأل عنه؟
إذا كان الذكاء الاصطناعي يُعيد إنتاج تحيزاتنا ويُخفيها خلف ستار من الموضوعية، فالسؤال ليس تقنياً — هو سؤال أخلاقي عميق: هل نحن مستعدون لرفع هذا الستار والنظر في عيون أنفسنا؟
القبول بـ”النظام قرر” هو قبول بأن الأخلاق قابلة للتفويض. وتفويض الأخلاق إلى آلة لا تشعر بثقل القرار هو تنازل أخطر مما يبدو — لأنه يُبقي العالم يسير، لكن بضمائر نائمة.
﴿إِنَّ اللَّهَ يَأْمُرُ بِالْعَدْلِ وَالْإِحْسَانِ وَإِيتَاءِ ذِي الْقُرْبَىٰ وَيَنْهَىٰ عَنِ الْفَحْشَاءِ وَالْمُنكَرِ وَالْبَغْيِ ۚ يَعِظُكُمْ لَعَلَّكُمْ تَذَكَّرُونَ﴾