نموذج قائم على الذكاء الصناعي يخترع نازيين من ذوي البشرة السمراء... خطأ وقع فيه برنامج «جيميناي» المطوّر من غوغل كان ليمر مرور الكرام بعد المسارعة إلى تصحيحه، لكنه يسلّط الضوء على النفوذ المفرط الذي تتمتع به حفنة من الشركات على هذه التكنولوجيا الأساسية بشكل متزايد.

وقد تحدث الرئيس التنفيذي لمجموعة غوغل سوندر بيتشاي الشهر الماضي عن أخطاء «غير مقبولة على الإطلاق» من جانب تطبيق «جيميناي إيه آي» التابع لشركته، بعد أن أجبرته زلات مثل صور لقوات نازية متنوعة عرقياً على منع المستخدمين موقتاً من إنشاء صور لأشخاص، وفق وكالة «فرانس برس».

وسخر مستخدمو وسائل التواصل الاجتماعي من غوغل، وانتقدوها بسبب صور غير دقيقة تاريخياً، مثل تلك التي تظهر امرأة أميركية سوداء تُنتخب عضواً في مجلس الشيوخ في القرن التاسع عشر، فيما لم يحصل ذلك على أرض الواقع قبل العام 1992.

- «غوغل» تستعد لإطلاق برنامجها الجديد للذكاء الصناعي «جيميناي»
- «تشات جي بي تي» يعطي أجوبة لا معنى لها عن أسئلة المستخدمين
- أداة «أوبن ايه آي» لإنتاج الفيديو بالذكاء الصناعي تثير قلق قطاعات معنية

وقال المؤسس المشارك في غوغل سيرغي برين، في «هاكاثون» للذكاء الصناعي أقيم أخيراً «لقد حصلت أخطاء بالتأكيد لدينا في عملية توليد الصور»، مضيفاً أنه كان ينبغي على الشركة اختبار برنامج «جيميناي» بشكل أكثر شمولاً.

واعتبر أشخاص جرت مقابلتهم خلال مهرجان «ساوث باي ساوثوست» الشهير للفنون والتكنولوجيا في أوستن، أن تعثّر «جيميناي» يسلط الضوء على القوة المفرطة التي تمتلكها حفنة من الشركات على منصات الذكاء الصناعي التي تتجه لتغيير طريقة عيش الناس وعملهم.

ورأى المحامي ورائد الأعمال في مجال التكنولوجيا جوشوا ويفر أن غوغل اعتمدت في برمجيتها هذه في بادئ الأمر مساراً يعتنق بشكل «مفرط» مبادئ حركة الـ«ووك» (المناهضة لكل أشكال التمييز وعدم المساواة)، ما يعني أنها ذهبت بعيداً في جهودها لإبراز الشمول والتنوع.

وقال تشارلي بيرغوين، الرئيس التنفيذي لمختبر فالكيري للعلوم التطبيقية في تكساس، إن غوغل صححت أخطاءها بسرعة، لكنّ المشكلة الأساسية لا تزال قائمة. وشبّه إصلاح غوغل لخطأ «جيميناي» بوضع ضمادة على جرح ناتج عن تلقي رصاصة.

وأشار ويفر إلى أنه في حين كانت غوغل تتمتع برفاهية الحصول على الوقت الكافي لتحسين منتجاتها، فإنها الآن تندفع في سباق الذكاء الصناعي مع «ميكروسوفت»، و«أوبن إيه آي»، و«أنثروبيك» وغيرها، مضيفاً «إنهم يتحركون بسرعة تتخطى حدود معارفهم».

كما أن الأخطاء التي ارتُكبت في إطار الجهود الرامية إلى مراعاة الحساسية الثقافية تشكّل نقاطاً متفجرة، خصوصاً في ضوء الانقسامات السياسية المتوترة في الولايات المتحدة، وهو الوضع الذي تفاقم بسبب منصة إكس المملوكة للملياردير إيلون ماسك.

وقال ويفر «لا يتوانى الناس على منصة إكس» عن الاحتفال بأي حدث محرج في مجال التكنولوجيا، مضيفاً أن رد الفعل على الزلة التي حصلت عبر برنامج جيميناي كان «مبالغاً فيه».

ومع ذلك، أكد ويفر أن هذه الحادثة أثارت تساؤلات حول درجة تحكّم أولئك الذين يستخدمون أدوات الذكاء الصناعي بالمعلومات.

وأشار إلى أنه في العقد المقبل، يمكن أن تتجاوز كمية المعلومات - الصحيحة منها أو الخاطئة - التي يولّدها الذكاء الصناعي تلك التي يولّدها البشر، ما يعني أن أولئك الذين يتحكمون في ضمانات الذكاء الصناعي سيكون لهم تأثير كبير على العالم.

تحيز داخلي وخارجي
قالت كارين بالمر، وهي صانعة محتوى بالواقع المختلط حائزة جوائز لدى شركة «إنترأكتيف فيلمز ليمتد»، إنها تتخيل مستقبلاً يركب فيه شخص ما سيارة أجرة آلية، و«إذا قام الذكاء الصناعي بمسح وجهك واعتقد أن هناك أي انتهاكات عالقة ضدك.. سينقلك إلى مركز الشرطة المحلي»، وليس الوجهة المقصودة.

يجري تدريب الذكاء الصناعي باستخدام كميات هائلة من البيانات ويمكن استخدامه في مجموعة متزايدة من المهام، بدءاً من إنشاء الصور أو الصوت وحتى تحديد ما إذا كان شخص ما مخوّلاً الحصول على قرض، أو ما إذا كان فحص طبي يكشف الإصابة بالسرطان.

لكن هذه البيانات تأتي من عالم مليء بالتحيز الثقافي والمعلومات المضللة وعدم المساواة الاجتماعية، فضلاً عن محتويات عبر الإنترنت يمكن أن تتضمن محادثات غير رسمية بين أصدقاء أو مشاركات استفزازية ومبالغ فيها عن عمد، ويمكن لنماذج الذكاء الصناعي أن تكرر هذه العيوب.

مع «جيميناي»، حاول مهندسو غوغل إعادة التوازن للخوارزميات لتقديم نتائج تعكس التنوع البشري بشكل أفضل.

لكن جاءت هذه الجهود بنتائج عكسية.

وقال محامي التكنولوجيا أليكس شهرستاني، وهو شريك إداري في شركة المحاماة «بروميس ليغال» المتعاونة مع شركات التكنولوجيا «قد يكون من الصعب حقاً معرفة موضع التحيز وكيف جرى تضمينه».

ويعتقد هو وآخرون أنه حتى المهندسين ذوي النوايا الحسنة المشاركين في تدريب الذكاء الصناعي لا يمكنهم إلا أن يجلبوا خبراتهم الحياتية وتحيزهم اللاواعي إلى العملية.

كما انتقد بورغوين من مختبر فالكيري شركات التكنولوجيا الكبرى على إبقاء أعمالها الداخلية في مجال الذكاء الصناعي التوليدي مخفية في «صناديق سوداء»، بحيث لا يتمكن المستخدمون من اكتشاف أي انحيازات مخفية.

وقال «لقد تجاوزت قدرات النواتج فهمنا للمنهجية بكثير».

ويدعو خبراء وناشطون إلى مزيد من التنوع في الفرق التي تنشئ الذكاء الصناعي والأدوات ذات الصلة، وزيادة الشفافية على صعيد كيفية عملها - خصوصاً عندما تعيد الخوارزميات كتابة طلبات المستخدمين «لتحسين» النتائج.