التمييز عبر البدائل هو الفيل في غرفة صناعة الذكاء الاصطناعي، وهو أمراً بسيطاً بشكل صادم: تكتشف أنظمة التعلم الآلي أنماطاً في البيانات ترتبط بالخصائص المحمية مثل العرق والعمر والجنس أو الحالة الاجتماعية والاقتصادية ثم تستخدم تلك الأنماط لاتخاذ القرارات، مما يؤدي فعلياً إلى التمييز دون النظر بشكل صريح إلى السمة المحمية نفسها. لا يحتاج الذكاء الاصطناعي معرفة عرق الشخص إذا كان يعلم رمز بريده وعاداته الشرائية وأنماط حديثه. حيث يجد الخوارزم الحجج والتلميحات ويستغلها بلا رحمة. إليك كيفية عمله في الممارسة العملية. درب الذكاء الاصطناعي على بيانات الجريمة التاريخية للتنبؤ بالجرائم المستقبلية، وسوف يتعلم تماماً أن بعض الأحياء، وبعض الأسماء، وبعض أنماط الحركة ترتبط بالاعتقالات. لكن الاعتقالات ليست جريمة بل هي أنماط تطبيق الأمن، التي شكلتها عقود من التنفيذ التمييزي. يتعلم الذكاء الاصطناعي التحيز المضمن في البيانات، ثم يضخمه. وجدت دراسة عام 2019 نشرت في مجلة Science Advances أن أنظمة التحليل الوجهي التجارية كانت لديها معدلات خطأ تصل إلى 34.7٪ للنساء ذات البشرة الداكنة مقارنة بـ 0.8٪ للرجال ذات البشرة الفاتحة. لم تدرب الخوارزميات على أن تكون عنصرية بشكل صريح بل تعلمت فقط من مجموعات بيانات منحازة حيث كانت تضاء البشرة الفاتحة بشكل أفضل. إن حماس المملكة المتحدة لمراقبة الجرائم بالسكين المدعومة بالذكاء الاصطناعي يتجه نحو هذا الكارثة بالضبط. قامت العديد من قوات الشرطة بنشر أو اختبار أنظمة تدعي تحديد حاملي السكاكين المحتملين من خلال تحليل كاميرات المراقبة والتعرف على المشية ومطابقة الأنماط السلوكية. جربت شرطة العاصمة التحليلات التنبؤية للعنف الخطير، وأجرت شرطة جنوب ويلز تجارب التعرف على الوجه. تبدو المنطق مغرياً: استخدام الذكاء الاصطناعي للكشف عن السلوك المشبوه، والتنبؤ بالمناطق الساخنة، وتحديد الأفراد الذين من المحتمل أن يحملوا أسلحة. الواقع هو العنصرية الرياضية على نطاق واسع. تتعلم هذه الأنظمة بشكل لا مفر منه مؤشرات للعرق والطبقة والعمر لأنها ترتبط بمن يتعرض للتوقيف والتفتيش والاعتقال بموجب الممارسات الشرطية الحالية. الشباب السود في لندن هم إحصائياً أكثر عرضة للتوقيف والتفتيش ليس لأنهم يرتكبون جرائم بالسكين أكثر، وإنما لأنهم مستهدفون بشكل أكثر عدوانية. زود المحكمة بذلك البيانات، وسوف يتعلم الذكاء الاصطناعي: اعلم الشباب السود. لا يفهم الخوارزم التمييز العنصري النظامي أو تحيز الشرطة. إنها فقط ترى الأنماط وتحسنها. وجدت أبحاث معهد Ada Lovelace عام 2022 أن الأدوات التنبؤية الشرطية في المملكة المتحدة كانت تراقب بشكل مستمر المناطق ذات النسب العالية من الأقليات العرقية، مما يخلق حلقات رد فعل حيث تنبؤات منحازة تؤدي إلى تنفيذ منحاز، والذي ينتج بيانات منحازة، مما يعزز التنبؤات المنحازة. المشكلة التقنية خبيثة لأن المؤشرات غالباً ما تكون ميزات تنبؤية شرعية عند النظر إليها بشكل منفرد. أزياء اللبس، وقت اليوم، الموقع، أنماط الحركة كل هذه الأشياء تتوافق مع سلوكيات متنوعة. ولكن بمجرد دمجها، تخلق نتائج تمييزية لأنها تعمل كبدائل للخصائص المحمية. قد يتعلم الذكاء الاصطناعي أن الأشخاص الذين يرتدون علامات تجارية معينة في أحياء معينة في أوقات معينة يستحقون الإبلاغ. ليس عنصرياً بوضوح، لكن النمط الذي تعلمه يتطابق تقريباً على العرق والطبقة. قم بإزالة مؤشر واحد، وسيجد الخوارزم آخر. وجد الباحثون في MIT أن حتى عند استبعاد العرق بشكل صريح من خوارزميات العدالة الجنائية، أعادت الأنظمة بناء التحيز العرقي من خلال المؤشرات مثل رموز البريد والأسماء والاتصالات السابقة بالشرطة. والآن يأتي الجزء المقلق: ماذا لو أظهرت البيانات الجديدة ارتفاعاً في جرائم السكين بين الشباب البيض، وبدأ الذكاء الاصطناعي في استهدافهم بدلاً من ذلك؟ هل سيكون هذا عنصريًا؟ بالطبع نعم و هذه هي النقطة الحرجة التي تكشف لماذا هذه الأنظمة مكسورة أساساً. القوانين التي تحمي ضد التمييز تحمي جميع الأعراق، وليس فقط الأقليات. إذا بدأت نظام ذكاء اصطناعي في الإبلاغ عن الشباب البيض بشكل غير متناسب استنادًا إلى أنماط ديموغرافية بدلاً من السلوك الفردي، سيكون ذلك مثالًا على التمييز عبر البدائل، لكنه موجه في اتجاه مختلف. تحظر قانون المساواة لعام 2010 في المملكة المتحدة التمييز استنادًا إلى العرق (بما في ذلك الأبيض)، والعمر، والجنس. النظام الذي يعامل أي مجموعة عرقية أو عمرية باعتبارها مشبوهة مخالفًا لتلك الحمايات، بغض النظر عن المجموعة المستهدفة. لكن القضية الأعمق هي أن مثل هذا النظام سيتعلم من أنماط تنفيذ متحيزة، وليس من معدلات الجريمة الأساسية. إذا بدأت الشرطة فجأة في توقيف وتفتيش الشباب البيض في المناطق الغنية بشكل عدواني، سترتفع بيانات الاعتقال، وسيتعلم الذكاء الاصطناعي النمط، وستبدأ حلقة رد الفعل مع مجموعة ديموغرافية مختلفة. الخلل الأساسي ليس فقط في المجموعة المستهدفة؛ إنه في أن النظام يخلط بين نشاط الشرطة والنشاط الإجرامي. الجرائم تحدث في كل مكان. لكن تطبيق القانون انتقائي. أي ذكاء اصطناعي مدرب على بيانات تطبيق القانون الانتقائي سيتعلم أن يكون تمييزيًا بالاختيار. سواء كان يميز ضد الشباب السود في بريكستون أو الشباب البيض في كورنوال، فإنه لا يزال يستخدم مؤشرات ديموغرافية بدلاً من الأدلة الفردية، وهذا غير قانوني بموجب قانون المملكة المتحدة. حلم المراقبة ينهار في الوقت الحقيقي. في عام 2023، حذرت مكتب مفوض المعلومات في المملكة المتحدة ولجنة المساواة وحقوق الإنسان بشكل مشترك من أن العديد من أنظمة الذكاء الاصطناعي التي تنشرها قوات الشرطة من المحتمل أن تنتهك قوانين حماية البيانات والمساواة. حظرت أمستردام التعرف على الوجه في الأماكن العامة بعد أن استنتجت أن مخاطر التمييز لا يمكن التحكم بها. في سان فرانسيسكو وبوسطن وبورتلاند حظر استخدام الحكومة لتقنية التعرف على الوجه بالكامل. هذه ليست قرارات مضادة للتكنولوجيا، بل اعترافات بأن التكنولوجيا بشكل أساسي لا تعمل بدون تضمين وتضخيم التفاوتات الموجودة مسبقاً. القضية الأساسية هي هذه: أنظمة الذكاء الاصطناعي هي آلات توقع مدربة على البيانات التاريخية لتوقع النتائج المستقبلية. ولكن إذا كانت بياناتك التاريخية تعكس مجتمعاً تمييزيًا وهي كذلك، فإن توقعاتك ستكرر وتضخم ذلك التمييز. لا يوجد إصلاح خوارزمي لهذا. لا يمكنك الهندسة للخروج من بيانات تدريب متحيزة عندما يكون التحيز هو المجتمع نفسه. ستحدد أنظمة مراقبة الجرائم بالسكين المقترحة الأنماط بالتأكيد. لكنها ستكون أنماط لمن يتعرض للمراقبة، وليس من يرتكب الجرائم. وعندما يتم نشر تلك الأنظمة، ستزيد تركيز المراقبة والتفتيش والاعتقالات بشكل أكبر على المجتمعات التي تم استغلالها بالفعل بشكل كبير، مما يخلق حلقة رد الفعل التي تجعل المشكلة غير قابلة للحل.