نسمع كثيراً أن الذكاء الاصطناعي عادل لأنه مجرد رياضيات وبيانات، لكن الحقيقة أكثر تعقيداً من ذلك. الخوارزميات تتعلم من البشر، والبشر ليسوا دائماً عادلين. فعندما تتدرب نماذج الذكاء الاصطناعي على بيانات مليئة بالتحيزات التاريخية، فإنها لا تمحوها بل تتعلمها وتعززها أحياناً. المشكلة أن هذه الأنظمة تتخذ اليوم قرارات تمس حياتنا: من يوظف ومن يُقبل في الجامعة ومن يحصل على قرض. فما القصة الكاملة وراء هذا التحيز؟ وكيف يؤثر علينا في حياتنا اليومية؟
من أين يأتي التحيز أصلاً؟
التحيز لا يأتي من الآلة نفسها، بل من البيانات التي تتدرب عليها ومن الأشخاص الذين صمموها. إذا درّبت نظاماً للتوظيف على سير ذاتية لموظفين ناجحين في شركة كان معظمهم من الرجال، سيستنتج النظام أن الرجال أنسب للوظائف. المشكلة أيضاً في من يجمع البيانات ويصنفها: الخيارات البشرية الصغيرة في كل خطوة تتراكم لتصبح قرارات غير عادلة واسعة النطاق، بينما يظن المستخدم أن القرار كان محايداً لأنه صدر عن حاسوب.
أمثلة واقعية حدثت فعلاً
الأمثلة كثيرة ومقلقة. أحد أنظمة التعرف على الوجه أخطأ في التعرف على النساء ذوات البشرة الداكنة بنسب أعلى بكثير من الرجال ذوي البشرة الفاتحة. وفي مجال آخر، اكتشف باحثون أن أنظمة تقييم المخاطر الجنائية في بعض الدول كانت تمنح درجات خطر أعلى لأشخاص من أقليات عرقية لجرائم مشابهة. حتى مساعدات الكتابة الذكية كانت تقترح صياغات نمطية: الطبيب دائماً هو، والممرضة دائماً هي. وفي مجال الإعلانات، لاحظ باحثون أن إعلانات الوظائف ذات الرواتب العالية كانت تُعرض على الرجال أكثر من النساء بسبب تحيز خوارزميات الاستهداف. هذه ليست أخطاء تقنية عابرة، بل انعكاس لتحيزات مجتمعية دخلت البيانات.
لماذا الآثار أخطر مما نتصور؟
خطورة تحيز الخوارزميات أنه يتخفى خلف قناع الموضوعية. عندما يرفضك إنسان قد تشك في تحيزه، لكن عندما يرفضك نظام آلي تميل لتصديق أن القرار عادل. هذا التحيز يؤثر في القروض البنكية، وفرص العمل، والقبول الجامعي، وحتى في الرعاية الصحية حيث أظهرت دراسات أن بعض الأنظمة قللت من أولوية مرضى من فئات معينة. الأخطر أن هذه الأنظمة تعمل على نطاق واسع: قرار متحيز واحد يمكن أن يتكرر ملايين المرات في اليوم دون أن يلاحظه أحد.
هل يمكن إصلاح الخوارزميات؟
الخبر الجيد أن المشكلة قابلة للمعالجة، لكنها تحتاج عملاً جاداً. أول خطوة هي تنويع البيانات التدريبية لتمثل المجتمع كله بعدالة. وثانيها اختبار الأنظمة على فئات مختلفة قبل إطلاقها، لا بعد وقوع الضرر. وثالثها الشفافية: أن يعرف المستخدم متى يتخذ القرار نظام آلي وما هي معاييره. كما ظهرت تقنيات جديدة لكشف التحيز وتصحيحه آلياً. لكن الحل الأهم يبقى بشرياً: فرق تطوير متنوعة ترى المشكلة من زوايا متعددة قبل أن تتحول إلى أزمة.
الذكاء الاصطناعي ليس متحيزاً بطبيعته، لكنه مرآة تعكس تحيزاتنا نحن. والسؤال الحقيقي ليس هل الآلة عادلة، بل هل نحن مستعدون لمواجهة تحيزاتنا عندما تعرضها لنا الآلة بوضوح؟ الإجابة عن هذا السؤال ستحدد شكل مستقبلنا الرقمي.
Mohammed Albaom – محمد البعوم
