طلاب جامعة نيويورك أبوظبي يصممون تطبيقاً يعتمد على الذكاء الاصطناعي

تسعى لعبة جديدة قام بتطويرها فريق من الطلاب الشباب في جامعة نيويورك أبوظبي إلى تسليط الضوء على جانب نادر من النقاش حول الذكاء الاصطناعي: التحيزات.

وتم تصميم اللعبة التفاعلية المستندة إلى الويب – Survival of the Best Fit – لتعليم المستخدمين كيفية تحيز التعلم الآلي، لا سيما عندما يتعلق الأمر بقرارات الموارد البشرية.

في اللعبة، يعمل المستخدم كمدير تنفيذي لتدريب ونشر خوارزمية توظيف مدعومة من الذكاء الاصطناعي. ومع تقدم اللعبة، يتعلم المستخدمون كيف يمكن لمصادر البيانات المتحيزة، إلى جانب الافتقار إلى الإشراف وعملية صنع القرار الغامضة للجهاز أن تشكل تحديات للمستخدم، بحسب صحيفة اريبيان بيزنس.

وقام فريق مؤلف من أربعة طلاب حاليين وخريجين حديثين التقوا في الفصل في جامعة نيويورك في أبوظبي بإنشاء “بقاء الأفضل”.

علياء القطان، أحد أعضاء الفريق: “إنها في الأساس محاكاة تعليمية. سترى صفًا من السير الذاتية للقبول وعليك الانتقال إلى برنامج آلي لصنع القرار.الهدف هو تعليم الناس كيف يحدث هذا الانتقال إلى الأتمتة”.

وقال عضو آخر في الفريق، غابور كسابو، إن اللعبة تأمل في تبديد الأسطورة القائلة بأن الذكاء الاصطناعي يعمل دون تدخل بشري. وقال إن معظم ممارسات الذكاء الاصطناعى للشركات تعتمد على المدخلات البشرية للبيانات السابقة.

وأضاف: “عندما تدخل الكثير من القرارات السابقة في خوارزميات التوظيف، فإننا لا نفهم دائمًا 100 في المائة ما يجري في الخوارزمية. لذلك من الصعب أن نرى كيف تتخذ القرارات. في كثير من المواقف نرى أن الخوارزمية تلتقط التحيزات السابقة التي كان لدى صانع القرار البشري”.

على سبيل المثال، أشار Csapo إلى خوارزمية تجريبية للتوظيف لدى أمازون أجبرت الشركة على التخلي عنها بعد أن تبين أنها تفضيلية للمرشحين الذكور.

“كان ذلك على الأرجح لأنه في السابق كان قسم الهندسة يوظف معظم المرشحين من الذكور، ومن خلال المشروع، نريد فقط زيادة الوعي بكيفية قيام هذه الأنظمة الآلية بالمبالغة في هذه التحيزات أو مساعدتها على الاستمرار بدلاً من مكافحتها”.