تفتقر نماذج الذكاء الصناعي التي تكاثرت منذ إطلاق «تشات جي بي تي» إلى الشفافية في تصميمها، ما يشكل خطراً على التطبيقات التي ترتكز إليها تقنياً، بحسب دراسة أجرتها جامعة ستانفورد ونُشِرَت نتائجها الأربعاء.

أوضح مدير الأبحاث في جامعة ستانفورد ريشي بوماساني في بيان أن درجة الشفافية المطلوب توافرها في ما يسمى «نماذج التأسيس» يجب أن تراوح بين 80 و100%، وفقا لوكالة «فرانس برس».

بيّن مؤشر جديد وضعه وأجرى حسابات على أساسه باحثون في جامعة ستانفورد الواقعة في ولاية كاليفورنيا الأميركية، أن الأكثر شفافية بين النماذج العشرة التي أُخضِعَت للتقويم هو (Llama 2) «لاما 2»، وهو نظام ذكاء صناعي أطلقته مجموعة «ميتا» في يوليو الماضي ويمكن إعادة استخدامه، لكنّ هذا النموذج لا يوفّر في الواقع إلا 54% من الشفافية المطلوبة، وهي نسبة غير كافية مقارنة بما يجب أن يحققه لكي يكون شفافاً، وفقاً لمعدّي الدراسة.

بينما «تشات جي بي تي-4»، وهو المنتَج الرئيسي لشركة «أوبن إيه آي» التي تنتج روبوت «تشات جي بي تي» الشهير والمموَّلة من «ميكروسوفت»، فلا تتعدى درجة شفافيته 48%، فيما حصلت على مراتب أدنى نماذج أخرى تلقى رواجاً، بينها «بالم-2» من «غوغل» و«كلود 2» من «انثروبيك» الممولة من «أمازون».

- روبوتات ميتا للمحادثة: شخصنة الذكاء الصناعي... الوهم الكبير
- مؤلف «غايم أوف ثرونز» وكتّاب آخرون يقاضون «تشات جي بي تي»
- «ميتا» تعد بنموذج أكثر تطورا للذكاء الصناعي

وأوضح معدّو الدراسة أن الافتقار إلى الشفافية «يصعّب على الشركات معرفة ما إذا كان بإمكانها بناء تطبيقات بأمان تقوم على هذه النماذج، وعلى الأكاديميين الاعتماد على هذه النماذج في أبحاثهم». 

ولاحظت الدراسة أن معظم الشركات لا تفصح عن مدى المحتوى المحميّ بحقوق المؤلف والمستخدم لتدريب نموذجها، كذلك لا تكشف الشركات عن استخدام العمالة البشرية لتصحيح بيانات التدريب، الأمر الذي قد يكون مشكلة كبيرة.

وأسف بوماساني لكون الشركات «لا تقدّم معلومات عن عدد المستخدمين الذين يعتمدون على نماذجها، ولا إحصاءات عن البلدان أو الأسواق التي تستخدمها».

رغبة في ظهور ذكاء صناعي أكثر شفافية
وشرح معدّو الدراسة أن صنّاع السياسات والعاملين في الهيئات الناظمة يستطيعون استخدام مؤشر الشفافية هذا في المستقبل، وأعلن الاتحاد الأوروبي والولايات المتحدة والصين والمملكة المتحدة وكندا عن رغبتهم في ظهور ذكاء صناعي أكثر شفافية.

وقال الرئيس الأميركي جو بايدن في يوليو الماضي مخاطباً قادة الشركات العاملة في هذا القطاع إن «الذكاء الصناعي يمثل وعداً كبيراً وضخماً بفرص مذهلة، ولكنه يمثل أيضاً مخاطر على مجتمعنا واقتصادنا وأمننا القومي».

وكان هذا الموضوع على رأس أولويات قمة مجموعة السبع في اليابان في شهر مايو، ومن المقرر أن تستضيف بريطانيا قمة دولية حول الذكاء الصناعي في نوفمبر المقبل.