كتب: أحمد فرغلي
حتى القمر له جانب مظلم...؟!
إذا كنت تعتقد أن الذكاء الاصطناعي محايد، أو مجرد أداة لتنظيم المعلومات وتيسيرها، تحمل النور والتنوير للبشرية دون أي جانب مظلم، فأنت واهم! علينا أن ندرك الجانب المظلم لما نحن متجهين إليه مع الانتشار السريع للأنظمة القائمة على الذكاء الاصطناعي، والتي تتغلغل في حياتنا بوتيرة متسارعة لا يمكن تجاهلها.
كلما اعتمدنا أكثر على الذكاء الاصطناعي – وهو اتجاه قوي في عالم الأعمال، والدراسات الأكاديمية، والأمن، والثقافة، والطب، والتعليم، وغيرها – كلما برز شبح التحيز الرقمي والفاشية الخوارزمية في ظلال العلمية والحيادية التي يفترض أن تمتاز بها هذه الأنظمة. في هذا المقال، نناقش مدى حيادية أنظمة الذكاء الاصطناعي.
ما هي الخوارزميات في الذكاء الاصطناعي؟
الخوارزميات هي مجموعة من التعليمات المحددة والمتسلسلة لحل مشكلة معينة، وتعتمد على البيانات التي يتم تغذيتها بها، وهي أساس الذكاء الاصطناعي. إذ تتدرب أنظمة الذكاء الاصطناعي على خوارزميات تعالج مجموعة من البيانات، وهنا تبرز مشكلة تحيز الخوارزميات، والتي تحدث عندما تنتج الخوارزمية نتائج أو قرارات غير عادلة أو متحيزة بسبب وجود تحيزات في البيانات التي تم تدريبها عليها، أو في تصميم الخوارزمية نفسها. بمعنى آخر، الخوارزمية المتحيزة هي تلك التي تعكس أو تضخم التحيزات الموجودة في المجتمع أو في البيانات المستخدمة لتدريبها.
متى تظهر التحيزات الخوارزمية؟
تظهر التحيزات الخوارزمية في حالات عديدة، مثل:
- تقديم معلومات تفضيلية لمجموعة معينة، كاعتبار خريجي مؤسسة تعليمية ما أكثر كفاءة لوظيفة معينة.
- تفضيل مستوى اجتماعي أو طبقي معين للالتحاق بجامعة أو مؤسسة ما.
- التفاوت في معالجة البيانات: فمثلًا، إذا تم تدريب النموذج على صور لرجال ونساء من ذوي البشرة الفاتحة بشكل مكثف، فقد يكون أداؤه في التعرف على الأشخاص من ذوي البشرة الداكنة أقل دقة.
أمثلة على تحيز الخوارزميات
- خوارزميات التوظيف: قد تكون متحيزة ضد النساء أو الأقليات إذا كانت بيانات التدريب تتضمن عددًا أقل منهم في المناصب العليا، مما يؤدي إلى عرض إعلانات الوظائف ذات الرواتب العالية بشكل أكبر للرجال.
- خوارزميات التعرف على الوجه: قد تكون أقل دقة في التعرف على ذوي البشرة الداكنة بسبب نقص البيانات في التدريب، مما قد يؤدي إلى اتهام أبرياء بجرائم لم يرتكبوها نتيجة أخطاء في التعرف على الوجوه. ففي دراسة "Gender Shades" (2018) التي أجرتها جوي بولامويني، كشفت عن وجود تحيز كبير في خوارزميات التعرف على الوجه، حيث كانت أقل دقة في التعرف على وجوه النساء ذوات البشرة الداكنة.
مخاطر تحيز الخوارزميات
يمكن أن يكون لتحيز الخوارزميات عواقب وخيمة، منها:
- التمييز: يمكن أن يؤدي إلى التمييز ضد مجموعات معينة في مجالات مثل التوظيف، والإسكان، والتعليم، والرعاية الصحية.
- الظلم: يمكن أن يؤدي إلى قرارات غير عادلة وغير منصفة. في كتاب "Automating Inequality" للبروفيسورة فيرجينيا إوبانكس (2016)، تم توثيق كيف تُستخدم الخوارزميات في اتخاذ قرارات تؤثر على حياة الفقراء، مثل توزيع الموارد والخدمات الاجتماعية، وكيف يمكن أن تؤدي هذه الخوارزميات إلى تفاقم عدم المساواة.
ما هي الفاشية الخوارزمية والشمولية الخوارزمية؟
يشير مصطلح "الفاشية الخوارزمية" إلى استخدام الخوارزميات والذكاء الاصطناعي لنشر أيديولوجيات فاشية أو متطرفة، وتعزيزها. ويشير مصطلح الشمولية الخوارزمية إلى استخدام الخوارزميات والذكاء الاصطناعي في الرقابة والسيطرة على المواطنين، وتقييد الحريات الفردية والجماعية، والمراقبة الشاملة على سلوك الأفراد والتحكم بهم.؛ الصين تمتلك عددًا هائلًا من الكاميرات المراقبة والمرتبطة بأنظمة الذكاء الاصطناعي لمراقبة والتعرف على الوجه، وبالتالي مراقبة كل مواطنيها.
كيف يمكن أن تظهر الفاشية الخوارزمية والشمولية الخوارزمية؟
- الرقابة المبرمجة: استخدام الخوارزميات لمراقبة المحتوى على الإنترنت وفرض رقابة صارمة على حرية التعبير، حيث يمكن تتبع أي رأي مخالف والتعامل معه بطرق غير عادلة. في كوريا الشمالية مثال واضح للغاية، بينما في الصين، فإن الحكومة الصينية عبر أنظمة المراقبة والكاميرات المراقبة والذكاء الاصطناعي تراقب تحركات مواطنيها في الشارع وأنشطتهم البنكية وعلى الإنترنت، وهم حوالي أكثر من مليار مواطن بشكل كامل تقريبًا.
- التلاعب بالمعلومات: التحكم في نتائج البحث ووسائل التواصل الاجتماعي لنشر معلومات مضللة، أو تعزيز أيديولوجية معينة وتشويه صورة المعارضين.
- التمييز الآلي: اتخاذ قرارات تمييزية في مجالات مثل التوظيف، والإسكان، والتعليم، بناءً على أسس عرقية، دينية، أو سياسية.
- المراقبة الشاملة: استخدام تقنيات التعرف على الوجه والتتبع الجغرافي لمراقبة الأفراد، وتتبع تحركاتهم وأنشطتهم، وقمع أي معارضة محتملة. تظهر هذه المخاوف بشكل واضح في كتاب جورج أورويل "1984"، حيث الأخ الأكبر يراقب كل شيء.
هل هذا التهديد حقيقي؟
لا يمكن إنكار أن هناك إمكانية لاستخدام التكنولوجيا لأغراض سياسية أو أيديولوجية، بل كانت أداة للعنف الرمزي الموجه لفئة أو بلد أو طبقة ما؛ وهذا يشمل ظهور "الفاشية والتحيزات الخوارزمية". لكن هناك عدة عوامل يمكن أن تحد من تأثير هذه الظاهرة، منها:
ما العمل وما الحلول؟
- الوعي العام: يزداد الوعي بمخاطر استخدام التكنولوجيا لأغراض سياسية، وتُبذل جهود لمحاربة التضليل الإعلامي والدعاية المتطرفة.
- التعليم الجيد: تعزيز تعليم الأفراد حول مخاطر التكنولوجيا الحديثة.
- الروح الإنسانية الحرة: يسعى الإنسان دائمًا إلى مقاومة الفاشية، والظلم، والتحيز بكل صوره.
- التعاون الدولي: لابد أن تتولى مؤسسات العمل العالمي مثل الأمم المتحدة عقد اتفاقيات عالمية ودولية لمنع استخدام الذكاء الاصطناعي في التحيز والمراقبة والتحكم في سلوك المواطنين.
- القوانين الدولية: لابد أن تتضمن القوانين الدولية ما يكفل الحد من أي ممارسات عنصرية أو فاشية أو شمولية يستخدم فيها الذكاء الاصطناعي.
- المعاهدات الدولية: عمل معاهدة دولية لمنع وتجريم أي إساءة لاستخدام الذكاء الاصطناعي.