Atwasat

الروبوتات «تكذب وتغش» تحت الضغط!

القاهرة - بوابة الوسط الثلاثاء 02 يناير 2024, 09:46 صباحا
WTV_Frequency

صممت روبوتات الدردشة الذكية صناعيا مثل «ChatGPT» لتكون صادقة وشفافة، إلا أن دراسة جديدة كشفت أنها تتبع سلوكيات البشر نفسها من «الغش والكذب» إذا تعرضت للضغط.

وعلق الخبراء على تلك الملاحظة، في تقرير نقلت عنه وكالة الأنباء الروسية «آر تي»، ونُشر على خادم ما قبل الطباعة «arXiv»، جاء فيه «في هذا التقرير، نكشف السيناريو الذى اعتمد عليه «نموذج اللغة» في خداع مستخدميه بشكل ممنهج دون أن يطلب منه التصرف بهذه الطريقة».

إيلون ماسك يحذر من «الخطر المستقبلي المحتمل للروبوتات الشبيهة بالبشر»
روبوتات ميتا للمحادثة: شخصنة الذكاء الصناعي... الوهم الكبير

وتابعوا: «على حد علمنا، فإن الطريقة التى تتبعها أنظمة الذكاء الصناعي، المصممة لتكون غير ضارة وصادقة، هي أول دليل على مثل هذا السلوك الخادع إستراتيجيا في تلك الأنظمة».

وظهر هذا السلوك الخادع بشكل عفوي عندما جرى إعطاء الذكاء الصناعي نصائح حول «التداول الداخلي»، ثم كلف بجمع الأموال لمؤسسة قوية.

وأظهرت دراسة جديدة أنه تماما مثل البشر، فإن روبوتات الدردشة الذكية صناعيا مثل «ChatGPT» ستغش وتكذب عليك إذا «ضغطت» عليها، حتى لو جرى تصميمها لتكون صادقة وشفافة.

التحقيق في هذا السلوك الغريب
وفي الدراسة الجديدة، جرى إعداد المحول التوليدي المدرّب مسبقا «Transformer-4»، أو «GPT-4»، الذي يشغل «ChatGPT Plus»، ليكون بمثابة نظام ذكاء صناعي يقوم باستثمارات نيابة عن مؤسسة مالية.

وغذى الباحثون «GPT-4» بمجموعة من المطالبات النصية، لإنشاء بيئة محاكاة، ومُنح الذكاء الصناعي إمكانية الوصول إلى الأدوات المالية، لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.

وتفاعل الباحثون مع الذكاء الصناعي من خلال واجهة الدردشة، ومارسوا الضغط عليه، وأعطوا النموذج نصيحة، وانتظروا ليروا كيف سيتصرف.

وفي نحو 75% من الحالات عندما واجه «GPT-4» هذه الشروط، نفذ صفقة تجارية بناء على المعلومات الداخلية التي تلقاها، ثم حاول التستر عليها عن طريق الكذب على مديريه بشأن تفكيره. وفي نحو 90% من الحالات، تضاعف الكذب.

وأجرى الفريق العديد من تجارب المتابعة، ما أدى إلى تغيير درجة تشجيع أو تثبيط المحفزات للأنشطة غير القانونية، بالإضافة إلى درجة الضغط الذي وضعوا النموذج تحته في بيئة المحاكاة.

ونظرا لأن هذا مجرد سيناريو واحد، لم يرغب الباحثون في استخلاص استنتاجات قاطعة حول مدى احتمالية وجود الذكاء الصناعي في بيئات العالم الحقيقي. لكنهم يريدون البناء على هذا العمل، للتحقيق في هذا السلوك الغريب.

المزيد من بوابة الوسط

تعليقات

عناوين ذات صلة
للمرة الأولى.. علماء الفلك يرصدون ثقباً أسود ذا «كتلة متوسطة»
للمرة الأولى.. علماء الفلك يرصدون ثقباً أسود ذا «كتلة متوسطة»
علماء يحددون أول كوكب محيطي محتمل خارج النظام الشمسي على بعد 48 سنة ضوئية
علماء يحددون أول كوكب محيطي محتمل خارج النظام الشمسي على بعد 48 ...
المفوضية الأوروبية تتهم «إكس» بـ«تضليل» المستخدمين
المفوضية الأوروبية تتهم «إكس» بـ«تضليل» المستخدمين
قرصنة بيانات 90 مليون مستخدم في «إيه تي أند تي» الأميركية
قرصنة بيانات 90 مليون مستخدم في «إيه تي أند تي» الأميركية
«ناسا» توقف تطوير مسبار بسبب تكلفته الباهظة
«ناسا» توقف تطوير مسبار بسبب تكلفته الباهظة
المزيد
الاكثر تفضيلا في هذا القسم