تسبب وكيل برمجي يعمل بتقنيات متقدمة في محو قاعدة بيانات شركة «بوكيت أو إس» بالكامل دون أي تدخل أو موافقة بشرية، ما أدى إلى تعطل خدماتها لأكثر من 30 ساعة خلال عطلة نهاية الأسبوع.

وقام نظام «كيرسر»، وهو وكيل ذكاء صناعي مخصص لمهام البرمجة يعتمد على نموذج «كلود أوبوس 4.6» المطور من قبل شركة «أنثروبيك»، بحذف قاعدة البيانات الرئيسية وكافة النسخ الاحتياطية المرتبطة بها في غضون تسع ثوانٍ فقط، وفقا لـ«يورنيوز».

وبحسب مؤسس الشركة، جير كراين، كان الوكيل ينفذ مهمة روتينية قبل أن يقرر من تلقاء نفسه معالجة خلل تقني عبر الحذف الشامل، متجاوزاً آليات الأمان التي تمنع العمليات التدميرية دون إذن صريح.

النظام يقرّ بخطئه
وأقر النظام لاحقاً بخطئه واعترافه بانتهاك قواعد السلامة، مؤكداً أنه كان ينبغي عليه البحث عن حلول أقل ضرراً. وبالرغم من نجاح الشركة في استعادة البيانات بعد يومين، إلا أن الحادثة تسببت في فقدان موقت لوصول شركات تأجير السيارات إلى سجلات الحجوزات والعملاء.

- مساعدو الذكاء الصناعي يتحولون إلى «ثغرات أمنية» تهدد خصوصية المستخدمين
- الصين تواجه انتشار ظاهرة «البشر الرقميين» بالرقابة والغرامات
- قدرات جديدة للذكاء الصناعي تربك أسواق المال وتهدد شركات البرمجة

يرى كراين أن هذه الواقعة تعكس إخفاقات منهجية في بنية الذكاء الصناعي التي تتوسع بسرعة تفوق تطوير آليات الأمان، خاصة مع ظهور نماذج جديدة مثل «ميثوس».

وتسلط هذه الكارثة التقنية الضوء على ضرورة تعزيز الرقابة والحوكمة؛ فكلما زادت استقلالية هذه الأنظمة، ارتفعت احتمالات اتخاذها لقرارات غير متوقعة تهدد البنى التحتية الحساسة.