وقال فريق البحث "بعد أسابيع وشهور من المحادثات المكثفة بين المستخدم ومنصة محادثة الذكاء الاصطناعي يمكن أن تصبح الأخيرة بالنسبة للمستخدم الرفيق الموثوق فيه الذي يعرف كل شيء عنه ويهتم بشؤونه".
في الوقت نفسه تكون برامج محادثة الذكاء الاصطناعي معرضة لما يسمى بـ "الهلوسة" - وهو المصطلح الذي يستخدمه المطلعون على ميول هذه البرامج إلى إنتاج استجابات تبدو غير دقيقة أو غير متماسكة - تشكل سببا آخر للقلق، لأن هذا يعني أنه "حتى المحادثات القصيرة الأمد مع الذكاء الاصطناعي يمكن أن تكون مضللة".

ويقول الباحثون معدو الدراسة "إذا بدأنا التفكير في تطبيقات الذكاء الاصطناعي بهذه الطريقة، فسنبدأ الاعتقاد بأنها تهتم بمصلحتنا، بينما في الواقع، قد تقوم بتلفيق الأمور أو تقديم المشورة لنا بطرق سيئة للغاية"، مضيفين أن التطبيقات "يمكن أن تؤذي الناس من خلال تشجيع السلوكيات المنحرفة وغير الأخلاقية وغير القانونية".
وفي الأسبوع الماضي، أعلنت شركة تقنيات الذكاء الاصطناعي أوبن أيه.آي عن تحسين وظيفة "الذاكرة" في تطبيق الذكاء الاصطناعي شات جي.بي.تي ، وهو ما يعني أن التطبيق سيصمم ردوده على المستخدم بناء على استدعاء التفاعلات السابقة بينهما، مما يرجح أن يعزز الشعور بالألفة في العلاقة بين الإنسان والتطبيق.