أفادت تقارير صحفية بأن شركة «غوغل» أزالت بعض «ملخصات الذكاء الصناعي» المتعلقة بالاستفسارات الصحية، وذلك في أعقاب تحقيق كشف عن تقديم معلومات مضللة قد تشكل خطراً على المستخدمين.

تظهر هذه الملخصات، التي تولدها أنظمة الذكاء الصناعي، في أعلى نتائج البحث لتقديم إجابات مباشرة على الأسئلة. إلا أن تحقيقاً أجرته جريدة «الغارديان» كشف أن هذه الميزة قدمت معلومات صحية غير دقيقة؛ حيث عرضت أرقاماً وبيانات حول «المعدلات الطبيعية لاختبارات وظائف الكبد» دون سياق كافٍ، متجاهلةً الفروقات الحيوية المرتبطة بالجنس، والعمر، والعرق، وفقا لموقع «يورونيوز».

ووفقاً للتحقيق، استقت «غوغل» هذه البيانات من موقع سلسلة مستشفيات هندية، وعرضتها عبر «المقتطفات المميزة» و«ملخصات الذكاء الصناعي».

وعلى الرغم من اختلاف التقنيتين، إذ تعتمد الأولى على استخراج نص مباشر من المواقع بينما تولد الثانية نصاً جديداً، إلا أن كلتيهما وقعتا في فخ عدم الدقة العلمية.

توصيات غير سليمة طبياً
كما رصد الخبراء توصيات غير سليمة طبياً قدمتها الملخصات لمرضى سرطان البنكرياس، تمثلت في نصحهم بتجنب الأطعمة عالية الدهون، وهو ما حذر مختصون من خطورته كونه قد يزيد من احتمالات الوفاة بسبب سوء التغذية المرتبط بالمرض.

- باحثون يستخدمون الذكاء الصناعي لتحسين علاج الصرع عند الأطفال
- برنامج دردشة قائم على الذكاء الصناعي ينافس في مجال الصحة النفسية
- زيادة عدد الأشخاص الذين يلجأون لنصائح طبية من «شات جي بي تي».. الأسباب والمخاطر

تأتي هذه النتائج لتعزز مخاوف الخبراء من ظاهرة «هلوسة» نماذج الذكاء الصناعي، وهي الحالة التي تبتكر فيها الأنظمة إجابات زائفة عند غياب المعلومات الصحيحة.

وفي حين لم ترد «غوغل» بشكل فوري على استفسارات «يورونيوز نيكست» بشأن إزالة هذه الملخصات، أعلنت الشركة مؤخراً عن توسيع الخدمة لتشمل بريد «جي ميل»، مما سيتيح للمستخدمين استرجاع المعلومات من رسائلهم عبر أوامر نصية مباشرة.