الذكاء الاصطناعي يمارس التحيز بـ 4 تطبيقات ابرزها توزيع لقاح كورونا

كشفت تقرير حديث أن خوارزميات ونظم الذكاء الاصطناعي بالولايات المتحدة ارتكبت خطأ التحيز ضد فئات بعينها في 4 تطبيقات بالغة الأهمية، هي تحديد من لهم الأولوية في الحصول علي لقاح كورونا، وتقييم منتجات الرهن العقاري، والأولوية في الحصول علي الرعاية الصحية في غير حالات كورونا، والحصول علي قرض لشراء منزل، والحصول علي وظيفة، وجاء التحيز تارة ضد السود، وتارة ضد المرأة، وتارة ضد الأقليات، ومرة رابعة ضد بعض الفئات العمرية.
اعطي الأولوية لأطباء كبار بالسن لم يخالطوا المرضي
تحيز في تقييم منتجات الرهن العقاري
3 طرق مقترحة لمعالجة المشكلة
صدر التقرير عن معهد جرين لينينج الأمريكي  greenlining.org وهو منظمة غير هادفة للربح مقرها مدينة أوكلاند بولاية كاليفورنيا، تعمل من أجل العدالة العرقية والاقتصادية، بعد مراجعة لنتائج العديد من النظم التي تستخدم خوارزميات الذكاء الاصطناعي، في تنفيذ مهام تتعلق بالاختيار بين البشر، في الحصول علي خدمات أو منتجات بعينها.

شملت الأنظمة التي راجعها المعهد نظام تحديد الفئات الأولي بالحصول علي لقاح كورونا الذي طورته جامعة هارفاد، ونظام لاختيار من لهم الأولوية في الحصول علي وظيفة، ونظام  لاختيار من لهم الأولوية في الحصول علي قرض شراء منزل، أو قرض رهن عقاري، ونظام اختيار من لهم الأولوية في الحصول علي رعاية طبية في مجالات غير كورونا، بناء علي مستويات الإنفاق.
,وبحسب ما قالته ديبرا جور مان ، الرئيس التنفيذي للمعهد فإن التقييمات المبنية علي خواززميات الذكاء الاصطناعي، أصبحت منتشرة، لدرجة أن معظمنا ربما لا يعرف حتى أنه يتم إجراء نوع من الأتمتة عند التقييم، والنتيجة التي تمثل قاسما مشتركا بين الأنظمة، تمثلت في أن خوارزميات الذكاء الاصطناعي، تحتفظ بنفس التحيزات العرقية والجنسانية ومستوى الدخل مثل صانعي القرار البشريين،، لأن التكنولوجيا يتم إنشاؤها وتدريبها من قبل الناس ، فإن الخوارزميات – عن قصد أو بغير قصد – يمكنها إعادة إنتاج أنماط من التمييز والتحيز ، غالبًا دون أن يدرك الناس حدوث ذلك. التعرف على الوجه هو أحد مجالات التكنولوجيا التي ثبت أنها متحيزة عنصريًا
خوارزميات سيئة التصميم
فحص التقرير كيف تهدد  الخوارزميات سيئة التصميم بتضخيم العنصرية النظامية، والتمييز بين الجنسين والأحكام المسبقة ضد الأشخاص ذوي الدخل المنخفض. وغيرها، عند اجراء تقييمات يتخذ علي أساسها اجراء معين، لصالح أو في غير صالح البعض، وفي هذا السياق يقول التقرير أن محللي المعهد قاموا بوضع علامة علي خوارزمية ذكاء اصطناعي أنشأتها شركة تدعي “ابتيوم هيلث”، ويتم استخدامها لتحديد أولوية الرعاية الطبية للمرضى، وكان أحد العوامل هو مقدار إنفاق المرضى على النفقات الصحية، مع افتراض أن الأشخاص الأكثر مرضًا ينفقون أكثر على الرعاية الصحية. وتبين أن هذه الخوارزمية، حينما تعمل وفق هذا المعيار، لا تأخذ في اعتبارها  أن الأشخاص الذين لديهم أموال أقل يضطرون أحيانًا للاختيار بين دفع الإيجار أو دفع الفواتير الطبية، وهو أمر من شأنه أن يؤذي المرضى السود بشكل غير متناسب.
وردت شركة اوبتيوم علي هذه النتيجة بقولها أن خوارزميتها ليست متحيزة عنصريا، وتم تصميمها  للتنبؤ بالتكاليف المستقبلية التي قد يتكبدها المرضى الأفراد بناءً على تجارب الرعاية الصحية السابقة ولا ينتج عنها تحيز عنصري عند استخدامها لهذا الغرض-
3 طرق للحل
قدم التقرير ثلاثة طرق، يمكن للحكومات والشركات والمؤسسات تطبقها، لضمان أداء تقنيات الذكاء الاصطناعي بصورة افضل، بعيدا عن التحيزات، الأولي هي ممارسة الشفافية والمساءلة في الخوارزميات، وألا تقدم دائما كصندوق أسود غير معروف كيف يعمل، والثانية  العمل على تطوير خوارزميات مدركة للعرق في الحالات التي تكون فيها منطقية، الثالثة السعي  إلى تضمين السكان المحرومين في افتراضات الخوارزمية، وضمان حدوث ذلك يقع علي المشرعين، الذين يتعين عليهم إصدار القوانين والقواعد الملزمة في هذا الشأن، وتوفير الإرادة السياسة اللازمة لبدء تنظيم الذكاء الاصطناعي.
يذكر أن المعهد يقوم برعاية الجهود التي تتم في ولاية كاليفورنيا، لإصدار القانون المعروف باسم ” محاسبة أنظمة القرار الآلي لعام 2021″، والذي تدرسه الهيئة التشريعية للولاية حاليا، وحال صدوره سيطلب من الشركات التي تستخدم “نظام اتخاذ القرار الآلي” ضرورة تنفيذ اختبارات التحيز والتأثيرات التي قد تحدث على الفئات المهمشة. إذا كان هناك تأثير ، ويوجب علي  المنظمات أن تشرح سبب عدم قانونية المعاملة التمييزية.
و في أبريل 2019 ، قدم السيناتور كوري بوكر من ولاية نيو جيرسي ورون وايدن من ولاية أوريغون والنائبة إيفيت دي كلارك من نيويورك ، وجميعهم من الديمقراطيين ، قانون المساءلة الخوارزمية ، الذي كان سيطلب من الشركات دراسة وإصلاح خوارزميات الحاسبات المعيبة التي نتجت عن ذلك في قرارات غير دقيقة أو غير عادلة أو متحيزة أو تمييزية تؤثر على الأمريكيين. بعد شهر ، قدمت ولاية نيو جيرسي قانون محاسبة الخوارزميات المماثل، لكن أي من هذه التشريعات لم يصدر بعد.