دراسة: السيارات ذاتية القيادة قد تصطدم بأصحاب البشرة السوداء

القدس - معا - يبدو أن قائمة المشكلات التي تتعلق بالسيارات ذاتية القيادة لا تنتهي، فبالإضافة إلى ما أثير حولها من مخاوف تتعلق بالأمان، والحوادث التي قد تنجم عن ظروف طارئة على الطرقات، ظهرت مشكلة جديدة حول إمكانية تعرض الأشخاص لحوادث، بسبب لون بشرتهم.

ففي حال كنت من أصحاب البشرة الداكنة، فحظوظك بأن تتعرض لحادث من قبل هذه السيارات أكبر من أصحاب البشرة البيضاء، بحسب دراسة نشرها معهد جورجيا التقني، وذلك كونها قد تكون قادرة على تمييز الأشخاص البيض أكثر من غيرهم.


مُعد الدراسة بدأ بسؤال بسيط، هو: ما مدى دقة أحدث أجهزة كشف الأشياء، وهل ستستطيع التعرف على الأشخاص من مختلف الانتماءات الديمغرافية؟ وللتوصل لإجابة على هذا السؤال، استخدم مجموعة كبيرة من صور المشاة، وقد تم تصنيف الناس وفق مقياس "فيتزباتريك" لتحديد ألوان بشرة الناس.

ومن ثم حلل الباحثون كمية الإجابات الصحيحة التي تعرف عليها عند عرض صور لأشخاص بيض، مع عددها من أصحاب البشرة السمراء.

النتيجة كانت بأن دقة جهاز التعرف كانت أقل بنسبة 5% عند أصحاب البشرة السمراء من البيضاء، وبقيت النسبة ذاتها مع تغيير العوامل المحيطة مثل الوقت أو البيئة المحيطة.

جيمي مورغنسترن أحد القائمين على هذه الدراسة قال:"أهم ما خلصنا إليه هو أنه يجب التأكد من أنظمة الرؤية والتعرف في هذه السيارات".

ما يعيب التقرير وهو بعنوان “Predictive Inequity in Object Detection” أو عدم الانصاف في اكتشاف الكائنات، هو عدم استخدام الباحثين لنفس أجهزة الكشف التي تستخدمها شركات تصنيع هذه السيارات، بل تم استخدام أجهزة يستخدمها الباحثون، كون شركات تصنيع هذه السيارات ترفض الإفصاح عن البيانات الخاصة بهذه التقنية.
لكن هذا لا يعني أن الدراسة غير قيمة، وكتبت كيت كراوفورد، وهي مدير مساعد في معهد AI Now Research Institute كتبت على تويتر:"في العالم المثالي، يجب أن يتاح للأكاديميين دراسة الأجهزة التي تستخدم في السيارات ذاتية القيادة، ومع غياب هذه الإمكانية، فإن هكذا دراسات تعتبر قوية وتعرض لمخاطر جدية".

وبحسب مقال نشر على فوقع VOX فإن الدراسة تسلط الضوء على ما يسمى التحيز الخوارزمي، والمثال الأبرز على هذا ظهر عام 2015، عندما تم التعرف على مواطن أمريكي أسود البشرة على أنه غوريلا، باستخدام تقنية التعرف على الصور في غوغل.

بعد هذه الحادثة بثلاث سنوات، نظام التعرف في أمازون، طابق بين 28 شخص من أعضاء الكونغرس، مع مجرمين، كما أن أنظمة مايكروسوفت، وآي بي إم، و Megvii فشلوا ثلاثتهم بالتعرف على جنس الأشخاص من ذوي البشرة السمراء، خاصة النساء.

وبحسب الموقع، بما أن نظام الخوارزميات يتغذى بالمعلومات من خلال الأمثلة التي تعرض عليه، ففي حال لم يتم تزويد الخوارزميات بأمثلة كثيرة فترة التجريب، فمن الصعب أن يعمل بنجاعة عند يبدأ العمل.

القائمون على هذه الدراسة ألمحوا إلى إمكانية أن تكون أجهزة الكشف قد تعاملت مع أشخاص بيض فقط فترة التجربة.

واقترح الباحثون حلين لتجاوز المشكلة، الأول، يجبر الشركات على تنويع أصول العاملين في فرق تطوير هذه التقنيات، وهذا قد يساعد في حل المشكلة.

أما الحل الثاني، فهو قيام الشركات باختيار خوارزمياتها والتأكد من أنها تلبي معايير معينة تضمن العدالة قبل طرحها.
المصدر: Euronews