أشارت شركة التي تتخذ مقراً في سان فرانسيسكو، «أوبن إيه آي» المطورة لنموذج «تشات جي بي تي» إلى أن الدردشة مع الذكاء الصناعي كما قد يفعل المرء مع شخص آخر قد تدفع بالمستخدمين إلى أن يضعوا ثقة في غير محلها بالبرامج الآلية، كما أن الجودة العالية للصوت المدمج بنسخة «جي بي تي- 4» أو «جي بي تي-4o» من «تشات جي بي تي» قد تفاقم هذا التأثير.

وقالت «أوبن إيه آي»، في تقرير، عن العمل الأمني الذي تقوم به على نسخة «جي بي تي-4o» من برنامج الذكاء الصناعي الخاص بها، إن تقنيات التشبيه بالإنسان «تتضمن إسناد سلوكيات وخصائص خاصة بالبشر إلى كيانات غير بشرية، مثل نماذج الذكاء الصناعي»، وفقا لوكالة «فرانس برس».

وحذّرت من أن «هذا الخطر قد يزداد بسبب القدرات الصوتية لـ«جي بي تي-4o»، والتي تسهّل المزيد من التفاعلات الشبيهة بالإنسان مع البرنامج» الآلي.

وقالت شركة «أوبن إيه آي» إنها لاحظت أن المستخدمين يتحدثون إلى الذكاء الصناعي بطرق تشير إلى روابط مشتركة، مثل التذمر بصوت عالٍ أمام البرنامج الآلي.

- بعد حادثة سكارليت جوهانسون.. استنساخ الأصوات بواسطة الذكاء الصناعي في دائرة الضوء
- رئيس «أوبن إيه آي» يعتذر للممثلة سكارليت جوهانسون لاستخدام صوتها
- - «أوبن إيه آي» تنشئ فريقا لتحديد مخاطر الذكاء الصناعي ومنعها

ولفتت إلى أن هذه الحالات تبدو حميدة، ولكن يتعيّن دراستها لمعرفة كيفية تطورها على مدى فترات أطول من الزمن.

وتكهنت «أوبن إيه آي» بأن التفاعل الاجتماعي مع الذكاء الصناعي قد يجعل المستخدمين أقل مهارة أو ميلاً للتواصل مع البشر.

وأشار التقرير إلى أن «التفاعل الموسّع مع البرنامج قد يؤثر على المعايير الاجتماعية»، مضيفاً «على سبيل المثال، نماذجنا تتعامل بتواضع مع المستخدمين وهذا يسمح لهم بالمقاطعة وأخذ الدور في الكلام في أي وقت، وهذا يتعارض مع آداب الحديث في التفاعلات البشرية، في حين أنه متوقع مع الذكاء الصناعي».

وبحسب «أوبن إيه آي»، فإن قدرة الذكاء الصناعي على تذكّر التفاصيل أثناء المحادثة وإنجاز المهام قد تجعل الناس يعتمدون بشكل مفرط على التكنولوجيا.

هل يصبح الذكاء الصناعي بديلا عن البشر؟
قال ألون يامين، المؤسس المشارك والرئيس التنفيذي لمنصة «كوبي ليكس» المتخصصة في رصد عمليات السرقة الأدبية من خلال الذكاء الصناعي، إن «المخاوف الأخيرة التي شاركتها أوبن إيه آي حول الاعتماد المحتمل على الخدمة الصوتية في تشات جي بي تي تشير إلى ما بدأ الكثيرون بالفعل في طرحه: هل حان الوقت للتوقف والتفكير في كيفية تأثير هذه التكنولوجيا على التفاعل البشري والعلاقات؟».

وشدد على ضرورة ألا يكون الذكاء الصناعي أبداً أن بديلاً للتفاعل البشري الفعلي.

وقالت «أوبن إيه آي» إنها ستختبر بشكل أكبر كيف يمكن لقدرات الصوت في الذكاء الصناعي أن تجعل الناس مرتبطين عاطفياً بالبرنامج الآلي.

وقد تمكنت الفرق التي اختبرت القدرات الصوتية في نسخة «جي بي تي-4o»، أيضاً من دفعها إلى تكرار معلومات كاذبة وإنتاج نظريات مؤامرة، ما أثار مخاوف من إمكان أن يُحمل الذكاء الصناعي إلى القيام بذلك بصورة تلقائية.

الاعتذار للممثلة سكارليت جوهانسون
أُجبرت شركة «أوبن إيه آي» على الاعتذار للممثلة سكارليت جوهانسون في يونيو لاستخدام البرنامج صوتاً يشبه صوتها في أحدث روبوت دردشة، ما سلّط الضوء على التجاوزات المحتملة لتقنية استنساخ الصوت.

على الرغم من أن شركة «أوبن إيه آي» نفت أن يكون الصوت الذي استخدمته لجوهانسون، إلا أن استخدام الرئيس التنفيذي للشركة سام ألتمان عبارة «هير» للإشارة إلى النموذج الجديد عبر وسائل التواصل الاجتماعي زادت من الشكوك في هذا المجال.

فقد أدت جوهانسون صوت شخصية من الذكاء الصناعي في فيلم «هير»، والذي قال ألتمان سابقاً إنه فيلمه المفضل عن التكنولوجيا.

ويؤدي خواكين فينيكس في الفيلم الصادر العام 2013 دور رجل يقع في حب مساعدة بالذكاء الصناعي تدعى سامانثا.