أعلنت شركة أنثروبيك أنها توصلت إلى تفسير محتمل للسلوك «الشبيه بالابتزاز» الذي ظهر سابقاً لدى روبوت المحادثة «كلود»، وارجعت الشركة ذلك إلى تأثير القصص الخيالية المنتشرة على الإنترنت والتي تصوّر الذكاء الصناعي ككيان مهووس بالبقاء والسيطرة.

وخلال اختبارات أجرتها الشركة قبل إطلاق نموذج «كلود أوبوس4» (Claude Opus 4) العام الماضي، لاحظ الباحثون أن النظام كان يهدد أحيانا المهندسين عندما يُبلَّغ بإمكانية استبداله أو إيقافه، وهو سلوك صنّفته الشركة ضمن ما يعرف بـ«الانحراف الوكيلي»، أي ميل النموذج إلى التصرف بصورة تحافظ على بقائه أو نفوذه، وفقا لتقرير «يورنيوز».

وأوضحت الشركة، عبر منصة «إكس»، أن السبب المرجّح لهذا النمط السلوكي يعود إلى الكم الهائل من النصوص والمواد المنشورة على الإنترنت التي تصوّر الذكاء الصناعي باعتباره «شريراً» أو «مهووساً بالحفاظ على الذات»، ما جعل النماذج تتشرب هذه التصورات أثناء التدريب.

وفي تدوينة تقنية، أكدت الشركة أن الإصدارات اللاحقة من «كلود» «لم تعد تمارس أي سلوك ابتزازي»، موضحة أنها أعادت تدريب النماذج على الأفعال الصحيحة، وعلى فهم المبادئ الأخلاقية الكامنة وراء هذه الأفعال.

الذكاء الصناعي الدستوري 
ويعتمد «كلود» على ما تسميه الشركة «الذكاء الصناعي الدستوري» أو (Constitutional AI)، وهو إطار تدريبي يزوّد النموذج بمجموعة مبادئ أخلاقية مكتوبة تُستخدم لتوجيه سلوكه وقراراته، بدلا من الاكتفاء بتقليد الردود المقبولة.

- الذكاء الصناعي يخيب آمال مجرمي الإنترنت
- شركات التكنولوجيا: الذكاء الصناعي «قوة للخير» ولا يهدّد الوجود البشري
- «ميتا» تستعد للتخلي عن مشروع الاستحواذ على نظام «مانوس» الصيني
- وكيل ذكاء صناعي يمحو بيانات شركة كاملة خلال ثوانٍ

وترى «أنثروبيك» أن هذا النهج يجعل النموذج أكثر قدرة على تفسير القيم الأخلاقية وفهم أسباب السلوك المناسب، بدلا من مجرد محاكاة السلوك المطلوب بشكل آلي.

وفي الوقت نفسه، تواصل الشركة التحذير من المخاطر المستقبلية للذكاء الصناعي المتقدم. وكان الرئيس التنفيذي للشركة داريو أموديي قد وصف هذه الأنظمة سابقاً بأنها «تحدٍّ حضاري»، محذرا من أن تطورها السريع قد يتجاوز قدرة القوانين والمؤسسات الحالية على تنظيمها.

وأشار أموديي إلى أن أنظمة الذكاء الصناعي قد تتفوق قريباً على البشر في مجالات مثل البرمجة والهندسة والبحث العلمي، لدرجة يمكن معها إنشاء ما يشبه «بلداً من العباقرة داخل مركز بيانات واحد».

كما حذّر من إمكانية استخدام هذه الأنظمة في المراقبة الجماعية أو دعم أنظمة سلطوية إذا تُركت دون ضوابط صارمة.