يلجأ مستخدمو الإنترنت أكثر فأكثر إلى برامج الدردشة الآلية عندما يريدون التحقق من معلومة ما، لكنّ استعانتهم بالذكاء الصناعي محفوفة بالأخطاء التي قد يرتكبها، على ما ظهر من النقاشات الحادة التي شهدتها منصة «إكس» بعد نشر صورة لفتاة تعاني سوء التغذية في غزة.

ففي مطلع أغسطس، عندما نشر النائب الفرنسي عن حزب «فرنسا الأبية» إيمريك كارون المؤيد للقضية الفلسطينية هذه الصورة من دون تعليق على «إكس»، بينما كان قطاع غزة مهددًا بـ«مجاعة معمّمة» وفقًا للأمم المتحدة، سارع كثر من المستخدمين إلى طلب التحقق من مصدرها من «غروك»، وفقا لوكالة «فرانس برس».

وأعطى روبوت الدردشة المدمج في «إكس» جوابًا جازمًا مفاده أن هذه الصورة التُقطت في أكتوبر 2018 في اليمن، وأن الطفلة التي تظهر فيها تُدعى أمل حسين وتبلغ سبع سنوات. وانتشر جواب «غروك» على نطاق واسع، واتُّهم النائب بنشر معلومات مضللة.

ولكن تبيّن أن «غروك» كان مخطئًا، فالصورة التُقطت بالفعل في غزة في 2 أغسطس بعدسة المصوّر الصحفي المتعاون مع وكالة فرانس برس عمر القطّاع.

- أكثر ذكاءً وسرعةً وأمانًا.. «أوبن إيه آي» تطلق نموذج «جي بي تي 5»
- المفوضية الأوروبية تتواصل مع منصة «إكس» بعد انتقادات طالت برنامج «غروك»
- الأمم المتحدة: سوء التغذية الحاد بين الأطفال بغزة وصل أعلى مستوى

وتُظهر الصورة مريم دوّاس (9 سنوات)، تحملها في مدينة غزة والدتها مدلَّلة، التي شرحت لوكالة فرانس برس أن وزن ابنتها انخفض من 25 كيلوغرامًا قبل الحرب إلى تسعة كيلوغرامات اليوم. وأضافت أنها لا تتلقى من الدعم الطبي «سوى الحليب، وهو غير متوافر دائمًا، ولا يكفيها للتعافي».

وعندما سُئل «غروك» عن عدم دقة إجابته، ردّ قائلًا: «أنا لا أنشر أخبارًا كاذبة، بل أعتمد على مصادر موثوق بها». واعترف في النهاية بخطئه، لكنه كرره في اليوم التالي ردًّا على أسئلة جديدة من مستخدمي «إكس».

«صناديق سوداء»
رأى الباحث في أخلاقيات التكنولوجيا ومؤلف كتاب «بونجور تشات جي بي تي» (Bonjour ChatGPT) لوي دو دييزباك أن خطأ «غروك» يبيّن حدود أدوات الذكاء الصناعي، التي تشبه في عملها «الصناديق السوداء».

وأشار الخبير إلى أن «من غير المعروف تحديدًا سبب إعطاء هذه الأدوات هذه الإجابة أو تلك، ولا كيفية ترتيبها مصادرها»، لافتًا إلى أن هذه الأدوات تنطوي على تحيزات مرتبطة ببيانات تدريبها، ولكن أيضًا بتعليمات مصمميها.

وضرب مثلًا بروبوت المحادثة من شركة «إكس إيه آي» الناشئة التابعة لإيلون ماسك، قائلًا إنه «يتسم بتحيزات نافرة أكثر، تتوافق إلى حد كبير مع الأيديولوجية التي يروج لها، من بين أمور أخرى، الملياردير المقرب من أفكار اليمين المتطرف الأميركي».

وأوضح دو دييزباك أن توجيه سؤال إلى روبوت محادثة عن أصل صورة ما هو طلب يخرجه من نطاق مهمته الأساسية، مضيفًا: «عادةً، عند البحث عن أصل صورة، قد يقول: ربما التُقطت هذه الصورة في اليمن، أو ربما في غزة، أو في أي بلد يعاني من المجاعة».
وأضاف: «النموذج اللغوي لا يسعى إلى إنشاء أمور دقيقة، فليس هذا هو الهدف».

نشرت جريدة «ليبراسيون» أخيرا صورة أخرى لوكالة فرانس برس، التقطها عمر القطّاع أيضًا، تُظهر طفلًا يعاني سوء التغذية في غزة. وسبق لـ«غروك» أن أفاد خطأً أيضًا بأن الصورة ملتقطة في اليمن العام 2016، بينما التُقطت في الواقع في يوليو 2025 في غزة.
ودفع خطأ الذكاء الصناعي مستخدمي الإنترنت إلى اتهام الجريدة زورًا بالتلاعب.

«غروك» ليس وحده
ترتبط تحيزات الذكاء الصناعي ببيانات التدريب التي تحدد قاعدة معارف النموذج، وبمرحلة المطابقة التي تحدد ما سيعتبره النموذج إجابة «جيدة» أو «سيئة».

ويضيف دو دييزباك: «إذا شرح المستخدمون للنموذج أن إجابته خاطئة، لا يعني ذلك أنه سيغيّر إجابته بين ليلة وضحاها، لأن بيانات تدريبه لم تتغير، وكذلك مطابقته».

لكن الأخطاء ليست حكرًا على «غروك». فعندما سألت وكالة فرانس برس روبوت الدردشة التابع لشركة «ميسترال إيه آي» الناشئة، التي تستطيع بصفتها شريكة لفرانس برس إدراج أخبار الوكالة في أجوبة نموذجها، أشارت أداتها هي الأخرى إلى أن الصورة التُقطت في اليمن.

ورأى دو دييزباك أنه لا يجوز استخدام روبوتات الدردشة للتحقق من الأخبار والصور، كما في ما يتعلق بمحركات البحث، لأن أدوات الذكاء الصناعي التوليدي «ليست مصممة لقول الحقيقة» بل «لإنتاج محتوى، سواء أكان صحيحًا أم خاطئًا».

وخلص الخبير إلى القول: «يجب النظر إليه كصديق مهووس بالأساطير: فهو لا يكذب دائمًا، لكنه قادر على الكذب دائمًا».