الذكاء الاصطناعي والانحيازات
في عالم اعتمادنا على الذكاء الاصطناعي (AI) فيه عمال يزيد كل يوم.. فكل يوم بتظهر أبعاد جديدة عندها القدرة على إدهاشنا و من ضمنها "انحيازات ال AI"!
مسألة الانحيازات تعتبر واحد من التحديات اللي بيواجهها المطورين والمستخدمين على حد سواء.. طيب إيه هو الانحياز في ال Ai؟ وإزاي الذكاء الاصطناعي ممكن ينحاز؟ مش دة ميل بشري؟
ما هو الانحيازات في الذكاء الاصطناعي؟
الانحيازات في الذكاء الاصطناعي هي ميل النظام لتفضيل نتايج معينة على أخرى.. الأمثلة كتير على دة.. عندك مثلاً
التعرف على الوجوه: التجارب أثبتت إن برامج التعرف على الوجوه اللي بيتم تدريبها على وشوش من خلفية عرقية معينة بدون تنوع بيكون عندها دقة أقل في التعرف على الوشوش من خلفيات عرقية تانية.
التوظيف والتقييم: وهي التطبيقات اللي بتساعد مسؤولي إدارات الموارد البشرية في فرز السير الذاتية أو ال CVs.. التطبيقات دي لو تم تدريبها وليكن على خريجي جامعات حكومية بنسبة أكبر هيكون انحيازها لاختيار خريجي الجامعات الحكومية على حساب خريجي الجامعات الخاصة.
و غيرها من عشرات الأمثلة اللي بتطرق باب صوته هيعلى كل فترة أكتر من اللي قبلها وهو باب الذكاء الاصطناعي و الأخلاقيات.
طيب إيه هي أسباب الانحيازات في الذكاء الاصطناعي؟
الانحيازات في الذكاء الاصطناعي غالبًا بتنشأ من البيانات اللي بيتم تدريب النظام عليها.. إذا كانت البيانات غير متوازنة أو تحتوي على تحيزات موجودة مسبقًا، فالنظام مش هيبقى متعلم غيرها.. نفس فكرة الطفل اللي بيعيش في بيئة معينة.. وفجأة ينتقل لبيئة تانية تماماً.. هنا بيبدأ يرفضها و يكون مش فاهمها أو مش قادر يتفاعل معاها.
هنا الانحياز مش بيكون بفعل أهواء الآلة أو البرنامج.. ولكنها بتكون بفعل اللي هو اتعلمه و اتدرب عليه.. وبالتالي فالأمر خاضع لأهواء المبرمج أو المطور.
طيب و إيه تأثير توغل الذكاء الاصطناعي في حياتنا؟
الحقيقة إن التأثير متوقف على مدى توغل الذكاء الاصطناعي في حياتنا.. يعني خلال الفترة اللي فاتت كتير من الناس كان بيحتفي بالذكاء الاصطناعي و إنه هيستبدل كتير من أصحاب الأعمال.. تخيل لو الذكاء الاصطناعي حل محل موظف الائتمان في البنك و أنت شخص مصري وهو مش متدرب على المصريين.. وجيت أنت طلبت قرض.. هل ساعتها ممكن يرفضهولك؟
طيب لو الذكاء الاصطناعي حل محل القاضي.. هل ممكن يعتبرك مذنب بس لأنك من بشرة غير اللي هو متدرب عليها؟
طبعاً الأمور لسة بتتطور ولسة وقت طويل على ما الذكاء الاصطناعي يبدأ ياخد قرارات في حياتنا.. لكنه بيدينا إنذار على ضرورة الانتباه للمطورين و المبرمجين.. اللي ضروري تيجي لحظة ويكون ليهم ميثاق يضبط عملية ال Machine learning اللي بيعلموا بيها ال AI Models.
من وجهة نظركم لو جينا نتخيل مع بعض.. إزاي ممكن انحياز الذكاء الاصطناعي يأثر على حياتك؟
مستنيين رأيكم في ال Comments
Comments