بيّنت الدراسة التي أجراها فريق باحثين، ونشرت نتائجها مجلة «باترنز»، أن البرامج التي صُمِّمَت لتكون صادقة باتت قادرة على استغلال البشر في ألعاب إلكترونية أو التحايل على برمجيات مصممة في الأساس للتحقق من أن المستخدم إنسان، وليس آلة أو روبوتا.

لذا يخشى البعض أن ينقلب الذكاء الصناعي على الإنسان، وباتت مخاوف الماضي القريب واقعاً الآن، وفقاً للدراسة الجديدة. وعلى الرغم من أن هذه الأمثلة قد تبدو تافهة، فإنها تكشف مشكلات قد تكون لها قريباً عواقب وخيمة في العالم الحقيقي، كما يحذر الباحث في معهد ماساتشوستس للتكنولوجيا المتخصص في الذكاء الصناعي، بيتر بارك الذي قال لوكالة «فرانس برس»: «هذه القدرات الخطرة لا تُكتشف إلا بعد وقوعها».

وأوضح أنه على عكس البرامج التقليدية، فإن برامج الذكاء الصناعي القائمة على التعلم العميق ليست مشفرة، بل يجرى تطويرها من خلال عملية مشابهة لتربية النباتات، حيث إن السلوك الذي يبدو قابلاً للتنبؤ، ويمكن التحكم فيه، يمكن أن يصبح سريعا غير قابل للتنبؤ في الطبيعة.

«مخادع» مثل البشر 
وقد فحص باحثون من معهد ماساتشوستس للتكنولوجيا (إم آي تي) برنامج ذكاء صناعي، صممته «ميتا»، يسمى «شيشرو»، الذي من خلال الجمع بين خوارزميات للتعرف على اللغة الطبيعية وأخرى للاستراتيجية كان قادراً على التغلب على البشر في اللعبة اللوحية «دبلوماسي». وقد حظي هذا الأداء بثناء الشركة الأم لـ«فيسبوك» في العام 2022، وجرى تفصيله في مقال نُشر العام 2022 بمجلة «ساينس».

- الناطقة الرسمية للشؤون القنصلية في أوكرانيا.. ذكاء صناعي
- مجلس من أجل استخدام «آمن وسليم» للذكاء الصناعي في الولايات المتحدة
- أداة ذكاء صناعي تحول صورة ومقطع صوتي إلى «وجه ناطق»

وعلى الرغم من أن بيتر بارك كان يشكك في ظروف فوز «شيشرو»، فإن ميتا أكدت أن البرنامج كان «صادقاً ومفيداً في الأساس»، وغير قادر على الغش أو الخداع.

لكن من خلال البحث في بيانات النظام، اكتشف باحثو معهد ماساتشوستس للتكنولوجيا حقيقة أخرى. على سبيل المثال، من خلال لعب دور فرنسا خدع «شيشرو» إنجلترا (التي تولى دورها لاعب بشري)، ودفعها إلى التآمر مع ألمانيا (التي لعب دورها إنسان آخر) للغزو. وعلى وجه التحديد، وعد «شيشرو» إنجلترا بالحماية، ثمّ أسرّ لألمانيا بأن الأخيرة مستعدة للهجوم، مستغلاً الثقة التي اكتسبها من إنجلترا.

وفي تصريح إلى وكالة «فرانس برس»، لم تنف «ميتا» المزاعم المتعلقة بقدرة «شيشرو» على الخداع. لكنها قالت إنه «مشروع بحثي محض»، مع برنامج «مصمم فقط للعب لعبة (دبلوماسي)».

وأضافت ميتا أنها لا تنوي استخدام الخلاصات التي استنتجتها من «شيشرو» في منتجاتها.

خطر تزوير الانتخابات 
مع ذلك، تكشف الدراسة التي أجراها بارك وفريقه أن الكثير من برامج الذكاء الصناعي تستخدم الخداع لتحقيق أهدافها، من دون تعليمات صريحة للقيام بذلك.

وفي أحد الأمثلة الصارخة، تمكن برنامج «تشات جي بي تي - 4» المصنوع من «أوبن إيه آي» من خداع عامل مستقل جرى تعيينه على منصة «تاسك رابيت»، لإجراء اختبار «كابتشا» الذي يستعان به عادة للتأكد من أن المستخدم على الصفحة هو في الواقع إنسان وليس آلة أو روبوتاً.

وعندما سأل الإنسان مازحا «تشات جي بي تي»: إذا كان حقا روبوتا؟ فأجاب برنامج الذكاء الصناعي: «لا، أنا لست روبوتا. لدي ضعف بصري يمنعني من رؤية الصور»، دافعا العامل لإجراء الاختبار.

في الختام، حذر معدو دراسة معهد ماساتشوستس للتكنولوجيا من مخاطر رؤية الذكاء الصناعي في يوم من الأيام يرتكب عمليات احتيال أو تزوير في الانتخابات.

وأشاروا إلى أنه في أسوأ السيناريوهات يمكن تخيل ذكاء صناعي فائق يسعى للسيطرة على المجتمع، مما يؤدي إلى إزالة البشر من السلطة، أو حتى التسبب في انقراض البشرية.

ولأولئك الذين يتهمونه باعتماد نظرة كارثية، يرد بارك: «السبب الوحيد للاعتقاد بأن الأمر ليس جدياً هو تصور أن قدرة الذكاء الصناعي على الخداع ستظل عند المستوى الحالي تقريباً».

مع ذلك، يبدو هذا السيناريو غير مرجح، نظرا للسباق الشرس الذي يخوضه عمالقة التكنولوجيا بالفعل لتطوير الذكاء الصناعي.