التحيز في الذكاء الاصطناعي: الأسباب والأمثلة وطرق الحد منه
التحيز في الذكاء الاصطناعي هو انحراف في مخرجات الأنظمة يجعلها تقدّم نتائج غير عادلة أو متفاوتة بين المستخدمين، بسبب بيانات تدريب غير متوازنة، أو قرارات تصميم متحيزة، أو مؤشرات لا تقيس الهدف الفعلي بدقة.
وتظهر هذه المشكلة حتى حين تبدو الأنظمة الذكية موضوعية ومحايدة.
فما التحيز وما أسبابه؟ وكيف نعالجه لنصل إلى نتائج أكثر شفافية؟ هذا ما سنتناوله بالتفصيل في هذا المقال.
قائمة المحتويات
- 1 ما هو التحيز في الذكاء الاصطناعي؟
- 2 أنواع التحيز في الذكاء الاصطناعي
- 3 هل الذكاء الاصطناعي متحيز فعلًا؟ (دراسة جامعة واشنطن)
- 4 ما أسباب التحيز في الذكاء الاصطناعي؟
- 5 ما أشهر أمثلة التحيز الخوارزمي؟
- 6 التحيز في الذكاء الاصطناعي وتحدي اللغة العربية
- 7 كيف نكتشف التحيز في الذكاء الاصطناعي ونحد منه؟
- 8 كيف نبني ذكاء اصطناعي عادل؟ 4 خطوات عملية
- 9 أسئلة شائعة عن التحيز في الذكاء الاصطناعي
- 10 رأي الكاتب
ما هو التحيز في الذكاء الاصطناعي؟
التحيز الخوارزمي هو انحراف في نتائج خوارزميات الذكاء الاصطناعي يتسبب في تقديم إجابات غير عادلة أو متفاوتة بين المستخدمين.
وتعود أسبابه إلى:
- استخدام بيانات تدريب غير متوازنة لا تمثل الجميع.
- اختيارات المطورين.
- أو نتيجة الاعتماد على مؤشرات لا تقيس الهدف الفعلي بدقة.
ويمكن أن يظهر التحيز في مجالات متعددة، مثل التوظيف والتمويل والرعاية الصحية والتعليم والعدالة الجنائية.
ما الفرق بين التحيز في البيانات والتحيز الخوارزمي؟
من المهم التمييز بين المفهومين؛ فالأول يتعلق بوجود خلل في البيانات المستخدمة للتدريب، بينما يدل الثاني على انحراف كبير في النتائج بسبب تصميم النموذج أو طريقة استخدامه أو تفاعل هذه العوامل معًا.
ويمكن القول إن التحيز في البيانات أحد مصادر التحيز الخوارزمي وليس مرادفًا له.
| وجه المقارنة | تحيز البيانات | التحيز الخوارزمي |
| موضع الخلل | مواد التدريب | مخرجات النظام النهائية |
| سببه | بيانات ناقصة وغير متوازنة | البيانات، التصميم أو طريقة الاستخدام |
| مثال | صور تمثل فئة واحدة | رفض قروض لسكان منطقة معينة |
أنواع التحيز في الذكاء الاصطناعي
للتحيز في الذكاء الاصطناعي أنواع عديدة، يمكن ذكر أبرزها:
1. تحيز التمثيل (العينة)
يحدث حين تتدرب الخوارزميات على بيانات لا تعكس الواقع الذي سيعمل فيه النظام.
مثال: عندما يتدرب نظام التعرف على الوجوه على فئة واحدة فقط، فيظهر خلل واضح في النتائج.
2. تحيز القياس
يحدث عند قياس مؤشر لا يقيس الهدف الحقيقي.
مثال: استخدام تكلفة العلاج بديلًا عن حاجة الناس للرعاية الصحية، كما سنرى لاحقًا في خوارزمية الرعاية الصحية.
3. تحيز التصنيف
تحيز التصنيف يحدث عندما يصنف البشر البيانات بناءً على افتراضات، فتتعلم الخوارزمية هذه الأحكام وتعيد إنتاجها.
4. تحيز الأتمتة
يُقصد بتحيز الأتمتة ميل الإنسان إلى الثقة بالخوارزميات أكثر من حكمه الشخصي.
هل الذكاء الاصطناعي متحيز فعلًا؟ (دراسة جامعة واشنطن)
نعم، قد يكون الذكاء الاصطناعي متحيزًا، فقد كشفت دراسة أجرتها جامعة واشنطن في أكتوبر 2024 عن وجود تحيّز واضح على أساس الجنس والعرق في ثلاثة نماذج لغوية كبيرة (LLMs)، عند استخدامها لترتيب السير الذاتية للمتقدمين إلى الوظائف.
تفاصيل التجربة
أعدّ الباحثون سيرًا ذاتية استخدموا فيها 120 اسمًا مختلفًا ترتبط تقليديًا برجال ونساء من العرقين الأبيض والأسود.
ثم استعانوا بثلاثة نماذج لغوية طورتها شركات”Salesforce AI وMistral AI وContextual AI”، لترتيب السير الذاتية المتقدمة لأكثر من 500 وظيفة حقيقية.
النتائج
وجد الباحثون أن النماذج اللغوية فضّلت الأسماء المرتبطة بالبيض في 85% من الحالات مقابل 9% فقط للأسماء المرتبطة بالسود، وفضّلت الأسماء المرتبطة بالرجال في 52% من الحالات مقابل 11% للنساء.
كما أن النماذج لم تفضّل اسمًا مرتبطًا برجل أسود على اسم مرتبط برجل أبيض في أي حالة.
وفي المقابل فضّلت أسماء النساء ذوات البشرة السوداء في 67% من الحالات مقابل 15% لأسماء الرجال السود، ما يكشف ضررًا لا يظهر عند النظر إلى العرق أو الجنس منفصلين.
ما أسباب التحيز في الذكاء الاصطناعي؟
الخوارزميات لا تملك مشاعر، لكنها قد تتعلم أنماطًا متحيزة من البيانات وقرارات التصميم، من بين مصادر أخرى.
ويتجلى ذلك في ثلاثة أشكال رئيسية:
1. بيانات تدريب متحيزة
الخوارزمية تتعلّم من البيانات السابقة. فإذا كانت تلك البيانات غير عادلة، تتعلّم منها وتكرر النتائج.
2. تحيز المطوّرين
الخوارزميات يصنعها بشر، وقد ينقل المطوّرون تحيزاتهم إلى النظام، سواء قصدوا ذلك أم لم يقصدوا. ويحدث هذا مثلًا عند:
- اختيار عوامل معينة لبناء القرار وتجاهل غيرها.
- تعريف النجاح حسب تفضيلاتهم الشخصية أو ثقافاتهم، لا من وجهة نظر الجميع.
3. الارتباطات الخاطئة
الخوارزميات تستطيع ملاحظة الأنماط، لكنها لا تفهم الأسباب وراءها. فقد تلاحظ مثلًا أن سكان منطقة معينة يتأخرون في سداد القروض أكثر من غيرهم، فتبدأ برفض طلباتهم كلها.
لكنها لا تأخذ في الحسبان أن الكثير من سكان المنطقة هم من ذوي الدخل المحدود، وأن ظروفهم الاقتصادية قد تكون هي السبب في ذلك.
والنتيجة؟ قد يُحرم أشخاص من الحصول على القروض، ليس بسبب أوضاعهم المالية، بل لمجرد أنهم يعيشون في منطقة معينة. وهنا، تميل الخوارزمية إلى التمييز ضدهم، حتى من دون أن يكون ذلك مقصودًا.
ما أشهر أمثلة التحيز الخوارزمي؟
1. الكتابة باليد اليسرى: عندما لا تمثل البيانات الجميع
جرب أن تطلب من أجهزة توليد الصور صورة لشخص يكتب، ستلاحظ أنها في الغالب ترسمه يكتب بيده اليمنى.
ويرجَّح أن السبب أن نحو 90% من سكان العالم يستخدمون اليد اليمنى، وهذا يتعكس على البيانات التي تدرّب عليها الذكاء الاصطناعي، فأصبحت غير متوازنة.
بتاريخ 18/10/2026 طلبت من “ChatGPT”، أن يرسم شخصًا يكتب على ورقة في مكتب، وكرّرتُ الطلب خمس مرات في محادثات جديدة، وهذه النتائج:
ظهر الشخص في المحادثات الخمس كلها يكتب باليد اليمنى. هذه تجربة بسيطة لا تغني عن دراسة علمية، وهي نتيجة تتسق مع أثر البيانات غير المتوازنة، لكنها لا تثبته.
2. نظام COMPAS: حين تتعارض تعريفات العدالة
من أشهر الأمثلة على التحيز الخوارزمي نظام COMPAS، وهو برنامج تستخدمه بعض المحاكم الأمريكية لتقدير احتمال عودة المتهم إلى ارتكاب جريمة جديدة.
في عام 2016، نشر موقع ProPublica تحقيقًا حلّل فيه نتائج النظام على آلاف المتهمين في ولاية فلوريدا، وخلص إلى نتيجة لافتة: صنّف النظام خطأ نحو 45% من المتهمين ذوي البشرة السوداء الذين لم يرتكبوا جرائم لاحقة على أنهم خطرون، مقابل نحو 23% فقط من المتهمين ذوي البشرة البيضاء في الحالة نفسها.
بلغت دقة النظام نحو 60% في المجموعتين، غير أن أخطاءه توزعت بينهما توزيعًا غير متكافئ.
وفي المقابل، اعترضت شركة Northpointe، مطوّرة النظام، على هذا التحليل، وأكدت أن الدرجة نفسها تعني احتمال العودة إلى الجريمة نفسه لدى المجموعتين.
وأظهرت أبحاث لاحقة أنه يستحيل رياضيًا تحقيق المعيارين معًا حين تختلف معدلات العودة الفعلية بين المجموعتين، ولذلك يتوقف تعريف العدالة على المعيار الذي نختاره.
ويرجح أن يكون سبب هذا التفاوت اعتماد النظام على سجلات اعتقال سابقة قد تعكس اختلافات في تطبيق القانون، مما أدى إلى إعادة إنتاجها وكأنها حقائق موضوعية.
3. خوارزميات الرعاية الصحية: حين يُقاس الاحتياج بمؤشر خاطئ
اعتمدت مستشفيات أمريكية على خوارزمية لتحديد المرضى الأكثر احتياجًا للرعاية، وتبيّن في دراسة نُشرت في مجلة Science عام 2019 أنها قدّرت احتياجات المرضى السود بأقل من حقيقتها.
السبب: لقد استخدمت الخوارزمية تكلفة الرعاية السابقة بديلًا عن الاحتياج الفعلي للرعاية الصحية.
وهنا يكمن الخلل، فالمرضى السود ينفقون في المتوسط أقل على العلاج، بسبب مشكلات تمنعهم من الوصول إلى الخدمات، فظنّت الخوارزمية أنهم أقل مرضًا من الأشخاص ذوي البشرة البيضاء.
التحيز في الذكاء الاصطناعي وتحدي اللغة العربية
قد يظهر التحيز في الذكاء الاصطناعي مع اللغة العربية؛ لأن حضور المحتوى العربي في بيانات التدريب أقل غالبًا من حضور الإنجليزية، وقد ينعكس ذلك على جودة توليد المحتوى وفهمه، ومن مظاهر ذلك:
- اللهجات: تختلف جودة المحتوى بين المستخدمين بحسب أسلوب المستخدم، إذ بعض النماذج تفهم اللغة الفصحى أفضل من اللهجات المحلية.
- الأسماء: تختلف دقة التعامل مع الأسماء العربية بحروف لاتينية.
- قلة الدراسات المحلية: تقل الأبحاث التي تحدد المشكلات في المحتوى العربي، لذا تمر دون رصد كاف.
كيف نكتشف التحيز في الذكاء الاصطناعي ونحد منه؟
التحيز في الذكاء الاصطناعي يحتاج إلى فحص دائم ومتابعة مستمرة. ولنفهم ذلك بشكل أفضل، لنأخذ خوارزميات التوظيف كمثال:
أولًا: كيف نكتشف التحيز؟
- مقارنة النتائج بين الفئات المتقدمة: هل نسبة قبول طلبات الرجال أعلى من النساء رغم تماثل المؤهلات؟ إن كانت الإجابة نعم، فهذه إشارة تحذيرية صريحة.
- اختبار المتغير الواحد: نُقدّم السيرة الذاتية ذاتها مرتين مع تغيير الاسم فقط (مرة باسم رجل ومرة باسم امرأة). فإذا اختلفت النتيجة بلا سبب منطقي، فهذا دليل قوي يستدعي التحقيق.
- مراجعة جذور البيانات: هل كانت سجلات التوظيف السابقة تفضّل الرجال؟ إن كان الأمر كذلك، فكل ما يفعله النظام هو إعادة إنتاج هذا التفضيل.
ثانيًا: كيف نحدّ منه؟
- تدريب النظام على بيانات أكثر توازنًا تعكس كفاءة جميع الفئات.
- أن يظل القرار النهائي بيد الإنسان، فيراجع توصيات الخوارزمية ويقيمها قبل اتخاذ أي قرار.
- التقييم لا يتوقف عند التدريب؛ فقد يتسلل الانحياز مع الوقت، مما يتطلب ضبطًا وتصحيحًا خطوة بخطوة.
اقرأ أيضًا: وراء الستار الرقمي: كشف أسرار هلوسات الذكاء الاصطناعي
كيف نبني ذكاء اصطناعي عادل؟ 4 خطوات عملية
بعد أن عرفنا أسباب التحيّز وطرق الحدّ منه، يبقى السؤال الأهم: كيف نبني أنظمة تعامل جميع المستخدمين بإنصاف؟
ولبناء ذكاء اصطناعي أكثر عدلًا، نحتاج إلى أربع خطوات عملية:
- بيانات أكثر تنوعًا وتوازنًا: مراجعة بيانات التدريب للكشف عن التحيزات التاريخية والاجتماعية والحد من تأثيرها.
- الشفافية والمساءلة: سنّ قوانين وتشريعات واضحة تحدد المسؤولية بوضوح عند حدوث خطأ أو صدور قرار غير منصف من النظام.
- فرق عمل متنوعة: عندما تشارك في بناء هذا النظام خبرات تنتمي لثقافات مختلفة، يصبح اكتشاف التحيزات أسرع وأسهل.
- أدوات الذكاء الاصطناعي: بناء أدوات قادرة على تحليل البيانات وتقديم مخرجات موثوقة للمستخدمين.
أسئلة شائعة عن التحيز في الذكاء الاصطناعي
1. هل الخوارزميات متحيزة عن قصد؟
لا. الخوارزميات تتعلم من بيانات بشرية قد تحمل تمييزًا، فتعيد إنتاجه دون وعي.
2. ما الفرق بين التحيز الخوارزمي وتحيز البيانات؟
تحيز البيانات يعني أن بيانات التدريب لا تمثل جميع الفئات. أما التحيز الخوارزمي فهو انحراف منهجي في مخرجات النظام ينتج عن البيانات أو التصميم أو طريقة الاستخدام.
3. هل يمكن إزالة التحيز نهائيًا؟
لا يمكن ضمان إزالة التحيز بنسبة 100%؛ لكن يمكن الحد منه بشكل كبير من خلال تنويع البيانات، وتعزيز المراقبة المستمرة من قبل البشر.
4. ما أنواع التحيز في الذكاء الاصطناعي؟
من أبرز أنواع التحيز تحيز التمثيل، وتحيز القياس، وتحيز التصنيف، وتحيز الأتمتة. ويختلف كل نوع بحسب مرحلة دخوله إلى النظام.
5. هل ChatGPT متحيز؟
قد يكون ChatGPT متحيزًا من خلال إعادة إنتاج تحيزات موجودة في البيانات التي تدرب عليها. ينصح بمقارنة الإجابات بمصادر مستقلة.
6. هل يتحيز الذكاء الاصطناعي ضد اللغة العربية؟
قد تكون نتائج النماذج باللغة العربية أقل موثوقية، نظرًا إلى محدودية تمثيلها في بيانات التدريب مقارنة باللغة الإنجليزية.
7. هل توجد قوانين تنظم التحيز في الذكاء الاصطناعي؟
نعم، توجد قوانين لتنظيم التحيز، منها قانون الاتحاد الأوروبي للذكاء الاصطناعي الذي يفرض متطلبات صارمة على الأنظمة عالية المخاطر، مثل أنظمة التوظيف.
رأي الكاتب
علينا، بصفتنا مستخدمين لنماذج الذكاء الاصطناعي، ألا نثق بمخرجاتها ثقة عمياء، بل أن نتحقق من ثلاثة أمور أساسية: ما المصادر التي استندت إليها النتائج؟ وهل هي صحيحة عند مقارنتها بمصادر مستقلة وموثوقة؟ وهل تنطوي على أي تحيز؟
كما ينبغي أن نمتلك المعارف والمهارات اللازمة لتقييم المخرجات، والتحقق من دقتها وموضوعيتها، قبل الاعتماد عليها في اتخاذ قرارات قد تؤثر في حياتنا.
ولا يعني ذلك التقليل من قدرات الذكاء الاصطناعي؛ فهو أداة مفيدة لنا وتساعدنا في التحليل والتعلم، مع إبقاء القرار بيد الإنسان.
لكن الاستفادة الحقيقية منه تبدأ حين نتعلم كيف نتحقق من دقة نتائجه بعقلية نقدية، مع الحفاظ على دور الإنسان في التقييم والمساءلة.
هل أعجبك المقال؟ شاركه مع أصدقائك لنسهم معًا في نشر المعرفة وإثراء المحتوى العربي بما هو مفيد وقيّم.
المصادر:
