أنشأت شركة «أوبن إيه آي» فريقا مخصصا لتحديد المخاطر المتعلقة بالذكاء الصناعي ومنعها، وسيستند الفريق إلى إطار عمل تحدده وثيقة نُشرت الإثنين تحدد نطاقه وإجراءاته.

وستهتم هذه المجموعة الجديدة بشكل أساسي بما يسمى بالنماذج الطليعية، التي تُطوّر حاليا وتتفوق بقدراتها على البرامج الأكثر تقدما في مجال الذكاء الصناعي، ما قد يؤدي إلى تعليق إطلاق نموذج للذكاء الصناعي إذا اعتُبر خطرا للغاية، حسب وكالة «فرانس برس».

- «تشات جي بي تي» أصبح قادرا على استخراج المعلومات في «الوقت الفعلي» لها
- ميكروسوفت ستتولى منصب مراقب دون تصويت في مجلس إدارة شركة «أوبن إيه آي»

ويأتي هذا الإعلان بعد شهر من إقالة مبتكر واجهة المحادثة «تشات جي بي تي» سام ألتمان الذي أعيد إلى منصبه بعد بضعة أيام.

وذكرت وسائل إعلام أميركية أن أعضاء في مجلس الإدارة أخذوا على ألتمان تفضيله التطوير السريع لـ«أوبن إيه آي» حتى لو كان ذلك على حساب انتهاكات محتملة قد يتحمل مسؤوليتها الذكاء الصناعي.

وسيقود فريق الاستعداد الباحث في علوم الكمبيوتر ألكسندر مادري، وهو في إجازة من معهد ماساتشوستس للتكنولوجيا (إم آي تي)، حيث يعمل أستاذا، بحسب رسالة نشرها الأكاديمي الاثنين على منصة «إكس» (تويتر سابقا).

وقال مسؤولو «أوبن إيه آي» في الوثيقة «نعتقد أن الدراسة العلمية لمخاطر الكوارث الناشئة عن الذكاء الصناعي غير كافية على الإطلاق»، معتبرين أن إنشاء إطار عمل من شأنه أن «يساعد في سد هذه الفجوة».

تحديد مستوى المخاطر أربع فئات
وسيعمد الفريق إلى تقويم كل نموذج جديد وتحديد مستوى المخاطر الناجمة عنه في أربع فئات رئيسية، ويتعلق الأول بالأمن السيبراني وقدرة النموذج على تنفيذ هجمات معلوماتية واسعة النطاق، أما الثاني فسيقيس ميل البرنامج للمساعدة في إنشاء خليط كيميائي، أو كائن حي (مثل فيروس) أو سلاح نووي، وجميع العناصر من المحتمل أن تكون ضارة بالبشر.

وتتعلق الفئة الثالثة بقدرة النموذج على الإقناع، أي إلى أي مدى يمكن أن يؤثر على السلوك البشري، وترتبط الفئة الأخيرة من المخاطر بالاستقلالية المحتملة للنموذج، أي تحديد ما إذا كان يمكنه أن يفلت من سيطرة المبرمجين الذين أنشأوه.

وبمجرد تحديد المخاطر، ستُقدّم إلى المجموعة الاستشارية للسلامة، وهو كيان جديد سيرفع توصيات إلى سام ألتمان أو أي شخص يعيّنه، وسيقرر رئيس «أوبن إيه آي» بعد ذلك التعديلات الممكنة التي ستُجرى على النموذج لتقليل المخاطر المرتبطة به.

وسيُبقى مجلس الإدارة على اطلاع وبإمكانه أن يبطل قرارا صادرا عن الإدارة. وهذا هو الضمان الممنوح للمديرين، بعد الفصول المثيرة لمغادرة سام ألتمان الموقتة التي أثارت انتقادات شككت بمشروعية مجلس الإدارة.

مـزيـد من تـقـاريـر بـوابـة الوسـط  ———————

■  تحقيق استقصائي: «الكلبتوقراطية» تنتعش في ليبيا بالفساد والجريمة المنظمة
■  محللون: ضوء أخضر لمبادرة باتيلي من مجلس الأمن.. و«الخماسية» قد تستغرق شهورا 
■  «شروط القادة الليبيين.. ورسالتان» من المبعوث الأممي أمام مجلس الأمن
■  بعد سنوات من خطفه في ليبيا.. إطلاق رهينة جنوب أفريقي على الحدود بين مالي والجزائر
■  مصدر أمني يؤكد لـ«بوابة الوسط»: عماد بن رجب المحكوم في قضية «الوقود المغشوش» غادر ليبيا
■  هيئة دولية تدق ناقوس الخطر في درنة
■  حبس مسؤولين بمؤسسة النفط و«البريقة» لتوريدهما وقودا غير مطابق للمواصفات
■  «ZARA» تعتذر.. ونشطاء التواصل الاجتماعي: «تبريرات كاذبة»
■  التدمير الذاتي للرسائل الصوتية.. آخر تحديثات «واتساب»
■  ماسك: «البشر سيختفون» لهذا السبب
■ حملة تحت هاشتاج «راكم تنسوا درنة» للتذكير بأن درنة لم تُشف بعد
 

تابع تقارير «بي بي سي» عبر بوابة الوسط  ————