يشير مصطلح تحيز الذكاء الاصطناعي إلى اتجاه أدوات التكنولوجيا الجديدة لتقديم نتائج غير دقيقة بسبب التحيز إلى نتيجة ما على حساب نظيرتها الصحيحة أو الأقرب للصواب.
 

تنتشر تلك الظاهرة بشكل عام في نماذج الذكاء الاصطناعي التي تم تدريبها على فئة معينة من البيانات، مع تجاهل فئة أخرى مضادة أو مكلمة لها، ما قد يؤدي إلى افتراضات خاطئة لعملية التعلم الآلي.
 

وقد يؤدي التحيز إلى إعطاء نتائج غير دقيقة للمطالبات النصية التي يقوم الأفراد بإدخالها، ومن المعلوم أن اتخاذ القرارات بناءً على معلومات غير دقيقة قد يؤدي إلى نتائج غير مقبولة.
 

لماذا قد يحدث التحيز؟
 

- يرجع الأمر إلى البيانات التي تم تدريب نموذج الذكاء الاصطناعي عليها، والتي قد يتم تجميعها بطريقة تنطوي على التمييز بين فئات المجتمع المختلفة، بقصد أو بغير عمد، ولكن ذلك يؤثر على النتائج الذي يعطيها النموذج.
 

للاطلاع على المزيد من المواضيع والتقارير في صفحة مختارات أرقام

- قد تؤدي المطالبات ذاتها التي يقوم بها المستخدمون إلى التحيز، حيث تؤدي الأسئلة المتكررة من منطقة معينة إلى فهم نماذج الذكاء الاصطناعي أن تلك المشكلة مرتبطة بهذا المكان فقط دون غيره.
 

- تؤدي النماذج الرياضية والإحصائية المستخدمة في بناء الذكاء الاصطناعي إلى التحيز، فقد يتم استخدام نماذج إحصائية نجحت في مجتمع معين في حين فشلت في مكان آخر، أو نماذج رياضية غير دقيقة.
 

لتوضيح الأمر، هناك بعض الأمثلة الواقعة التي حدثت بسبب تحيز الذكاء الاصطناعي والتي منها:
 

تحيز الذكاء الاصطناعي

المثال

التوضيح

العنصرية في نظام الرعاية الصحية الأمريكي

- عادةً ما تعمل أنظمة الذكاء الاصطناعي -المدربة على بيانات غير متكافئة- بشكل سيئ في نظام الرعاية الصحية الأمريكي بالنسبة للأقليات.
 

- في عام 2019، وجد باحثون أن الخوارزمية المستخدمة في المستشفيات الأمريكية للتنبؤ بالمرضى الذين سيحتاجون إلى رعاية طبية إضافية فضلت المرضى البيض على نظرائهم السود بهامش كبير.
 

- ولأن التكلفة المرتفعة تؤكد على احتياجات الرعاية الصحية للفرد، فقد أخذت الخوارزمية في الاعتبار نفقات الرعاية الصحية السابقة للمرضى للتفضيل بينهم.
 

تصور الرؤساء التنفيذيين

- تشكل النساء 27% من الرؤساء التنفيذيين في الولايات المتحدة، ولكن وفقًا لدراسة أُجريت عام 2015، فإن 11% فقط من الأفراد الذين ظهروا في بحث صور جوجل عن مصطلح "الرئيس التنفيذي" كانوا من النساء.
 

- وبعد بضعة أشهر من الدراسة، أجرى باحث من جامعة كارنيجي ميلون في بيتسبرج دراسة أخرى.
 

- وجدت تلك الدراسة أن نظام الإعلان عبر الإنترنت الخاص بـ"جوجل" يعرض الوظائف ذات الأجور المرتفعة للذكور أكثر بكثير من النساء.
 

التوظيف في "أمازون"

- لعبت الأتمتة دورًا حاسمًا في تفوق "أمازون" في التجارة الإلكترونية، سواء تلك الأنظمة التي تم استخدامها في إدارة المستودعات أو لاتخاذ خيارات الأسعار.
 

- لكن يزعم بعض الأفراد أن أداة التوظيف التجريبية للشركة استخدمت الذكاء الاصطناعي لإعطاء تقييم للمتقدمين لشغل الوظائف تتراوح من نجمة واحدة إلى خمس نجوم.
 

- اكتشفت الشركة فيما بعد أن نظامها الجديد لا يقيم المتقدمين لوظائف تطوير البرمجيات وغيرها من المناصب الفنية بطريقة محايدة بين الجنسين، حيث يتحيز بشكل غير مباشر ضد النساء.