ذكاء الآلة ظالم أحياناً.. العالم يواجه تحيز الخوارزميات ضد بعض البشر، والكونغرس يناقش قوانين لمحاسبتها

في كل دقيقة، تقرر الآلات مستقبلك. التطبيقات البرمجية لا تقترح فقط الكتب والأفلام التي قد تعجبك، بل تحدد أيضاً مقدار الفائدة الذي سوف تدفعه للحصول على قرض، أو إن كنت ستحصل على وظيفة أحلامك، ومدى استعدادك أيضاً لارتكاب جريمة. 

كان الأمل أن تتمكن أجهزة الكمبيوتر المدربة للعثور على الأنماط وسط مجموعة هائلة من البيانات قادرة على اتخاذ تلك القرارات بشكل أكثر موضوعية مما يفعل البشر. وبدلاً من ذلك، يجد الباحثون أن الخوارزميات، الجانب المنطقي من التطبيقات البرمجية، يمكنها تكرار أو حتى تضخيم تحيزات وأحكام القائمين على تصميمها. ويدرس الكونغرس الأمريكي مشروع قانون يهدف إلى مواجهة هذا التحيز عن طريق إجبار مصممي الخوارزميات على طرحها علنياً.

1. ما هي الخوارزمية؟

الأمر بسيط: إنها المعادلة الخاصة بمعالجة المعلومات أو إجراء مهام. ترتيب الأسماء أبجدياً يعتبر خوارزمية؛ وكذلك وصفة عمل الكعك برقائق الشوكولاته. ولكنها عادة ما تكون أعقد من ذلك بكثير؛ شركات مثل فيسبوك وجوجل تنفق المليارات على تطوير الخوارزميات التي تستخدمها لفرز الكم الهائل من المعلومات لديهم ومن أجل حماية أسرار برامجهم، كما تقول صحيفة The Washington Post الأمريكية.

2. كيف يمكن أن تكون الخوارزميات منحازة؟

قد لا يتوقع مهندسو البرمجيات أن تتحيز برامجهم دون قصد ضد بعض الأشخاص. تورّطت فيسبوك، على سبيل المثال، في هذا الأمر عام 2015 عندما حظرت بعض الأمريكيين الأصليين من تسجيل حسابات على المنصة لأن البرنامج اعتقد أن أسماءهم، مثل لانس براون آيز ودانا لون هيل، مزيفة. كما واجهت شركة أمازون مشكلة عام 2015 بسبب نظام الذكاء الصناعي التي كانت تختبره في فحص طلبات المتقدمين للعمل، إذ "علَّم" النظام نفسه استبعاد النساء من خلال البحث عن كلمات مفتاحية معينة في السير الذاتية.

3. من أين تحصل الخوارزميات على بياناتها؟

في كل مرة تسجِّل دخولك إلى أحد التطبيقات، أو تشتري شيئاً ما على الإنترنت أو تشاهد إعلاناً عبر هاتفك، تترك خلفك كمّاً من المعلومات يشير إلى أنشطتك واهتماماتك. وتستحوذ الشركات من كل مكان على تلك البيانات، وكلما زاد استخدامك للإنترنت والشبكات الاجتماعية، زاد مقدار معرفة جوجل وفيسبوك وشركات الإنترنت الأخرى بك. وهناك بعد ذلك البيانات التي جُمعت عبر الوسائل التقليدية، مثل قوائم الناخبين، ورخص القيادة، واشتراكات الصحف والمجلات، وعمليات الشراء عبر بطاقات الائتمان، والتي يمكن ربطها بالمعلومات المتاحة عبر الإنترنت من أجل رسم صورة تعريفية كاملة للأفراد.

4. كيف يمكن أن يتسبب ذلك في تحيُّز الخوارزميات؟

البيانات نفسها غير تمييزية بطبيعتها. ولكن المشكلة في كيفية استخدامها وتفسيرها، خاصة عندما تميّز الخوارزميات الأشخاص وتحدد سماتهم عبر ارتباطات أو بيانات "وكيلة". على سبيل المثال، من غير القانوني في الولايات المتحدة اتخاذ قرارات التوظيف أو الإقراض بناء على العرق أو الجنس أو العمر أو التوجه الجنسي، ولكن هناك ما يشير لتلك السمات في مجموعات البيانات الكبيرة "بالوكالة". 

الموسيقى التي تبثها عبر يوتيوب يمكنها أن تشير إلى نشأتك، بينما عضويتك في سكن طالبات يحدد هويتك الجنسية، والمعيشة في مناطق معينة قد تشير إلى أصلك العرقي. وجدت دراسة نُشرت عام 2017 أن فيسبوك صنّف بعض المستخدمين في فئة "المثليين" بناء على منشورات "أعجبوا بها"، حتى إذا لم يُشِر هؤلاء الأشخاص إلى ذلك بشكل صريح أو علني.

5. ما مشكلة "البيانات الوكيلة"؟

بالنظر إلى خدمات البحث عن وظائف على الإنترنت، على سبيل المثال، وثّق باحثون أن احتمال إحالة تلك الخدمات فرص شغل الوظائف ذات الرواتب العالية إلى النساء والأشخاص الملونين أقل، لأنهم لا يتطابقون مع الصورة النمطية للأشخاص شاغلي تلك الوظائف، معظمهم من الرجال البيض. 

تستخدم هذه الأنظمة تقنية تُسمَّى "النماذج التنبؤية" تصل إلى الاستنتاجات بناء على أنماط تاريخية في البيانات. ولكنها قد تضل في نتائجها عند استخدام البيانات بشكل خاطئ أو لا تمثّل المجتمع المعنيّ بدقة. وجدت دراسة تابعة لجامعة كاليفورنيا أن خوارزمية أنظمة الإقراض أقل تمييزاً بنسبة 40% عن التفاعل البشري المباشر وجهاً لوجه، ولكنها لا تزال تميل لفرض معدلات فائدة أعلى على المقترضين الأمريكيين من أصل لاتيني أو إفريقي. وأحد أسباب ذلك أن ملفاتهم التعريفية تشير إلى أنهم لم يتسوقوا بنفس قدر الأشخاص الآخرين.

6. كيف يتضخَّم التحيُّز في الخوارزميات؟

عند إساءة استخدام البيانات، يصبح بإمكان البرامج تجميع صور نمطية أو الوصول إلى استنتاجات خاطئة. أعلنت مدينة شيكاغو عن خططها في عام 2017 للاستعانة ببرامج "الشرطة التنبؤية" من أجل تعيين ضباط إضافيين في المناطق الأكثر عرضة لجرائم عنف. ولكن المشكلة أن النموذج وجّه الموارد إلى الأحياء التي تحظى بتواجد شرطي كبير بالفعل، أي أنه يعزز من التحيز البشري الموجود بالفعل بين رجال الشرطة. 

وظهرت مشكلات مماثلة مع البرامج التي تقيّم المجرمين. استخدم الشرطة في مدينة درم الإنجليزية بيانات من وكالة Experian الائتمانية، تتضمن مستويات الدخل وأنماط الشراء، للتنبؤ بمعدلات الانتكاس للأشخاص الذين ألقي القبض عليهم. وتوصلت النتائج، بشكل غير دقيق، إلى أن الأشخاص المنتمين إلى خلفيات اجتماعية واقتصادية محرومة أكثر عرضة من غيرهم لارتكاب المزيد من الجرائم.

7. ماذا عن تقنية التعرف على الوجه؟

لم تسلم أنظمة التعرف على الوجه، التي تستخدم الكاميرات الرقمية وقواعد بيانات الصور المحفوظة للتعرف على الأشخاص، من اتهامات التحيز. وكانت الشكوى الأكثر شيوعاً هي عدم دقة تلك الأنظمة في التعرف على الأشخاص أصحاب البشرة الداكنة، وعادة ما يكون ذلك لأنها "دُرّبت" باستخدام مجموعة من الصور أغلبها لأشخاص بيض البشرة. 

ووجدت دراسة تابعة لمعهد ماساتشوستس للتكنولوجيا إن التنوع غير الكافي للعينات قوّض أنظمة التعرف على الوجه من شركات مثل IBM، وMicrosoft وFace Plus Plus. كانت النساء صاحبات البشرة الداكنة أكثر مجموعة تخطئ الأنظمة في التعرف عليها، إذ بلغت معدلات الخطأ حوالي 35%، بينما لم يتعدَّ الحد الأقصى لمعدلات الخطأ في الرجال أصحاب البشرة البيضاء نسبة 1%.

8. ما الذي يجري حالياً لإصلاح ذلك؟

هناك جهود تُبذل في جميع أنحاء العالم لمعالجة ذلك. تدرس لجان مجلس النواب ومجلس الشيوخ الأمريكي مشروع قانون يسمى "قانون محاسبة الخوارزميات لعام 2019" يُلزم الشركات باختبار الخوارزميات للتأكد من عدم تحيزها. ويعمل مركز أخلاقيات البيانات والابتكار في بريطانيا، مجموعة تكلفهم الحكومة من خبراء التقنية وصانعو السياسات والقانونيين، على إعداد تقرير في مارس/آذار المقبل من المتوقع أن ينادي بتشريعات أقوى ومدونة أخلاقيات عالمية لضمان نزاهة الخوارزميات. ويمنح النظام الأوروبي العام لحماية البيانات، الذي دخل حيّز التنفيذ هذا العام، للمواطنين الحق في اختيار البيانات التي يقدمونها ووسائل يحصلون من خلالها على تفسيرات لقرارات الخوارزميات.