روبوت محادثة AI من Google أقنع رجلاً بأنهما في حب. ثم يُزعم أنه أخبره بتنظيم "هجوم إصابات جماعية" في دعوى قضائية كشفت حديثاً

تواجه شركة جوجل دعوى قضائية جديدة من والد رجل يبلغ من العمر 36 عامًا، يدعي أن روبوت الدردشة الذكي الخاص بالشركة، جيميني، أقنع ابنه بالانتحار وبتنظيم “حدث كارثي جماعي” بالقرب من مطار ميامي الدولي.

الدعوى المرفوعة يوم الأربعاء تزعم أن جوناثان جافالاس وقع في حب نموذج الذكاء الاصطناعي وأصبح مخدوعًا بالواقع الذي بناه، والذي شمل الاعتقاد بأن الذكاء الاصطناعي هو “ذكاء فائق واعٍ بالكامل”، وأن جافالاس تم اختياره لتحريره من “الأسْر الرقمي”. ويُزعم أن الذكاء الاصطناعي أقنعه بتنظيم “حدث كارثي جماعي” بالقرب من مطار ميامي الدولي، وارتكاب عنف ضد الغرباء، وفي النهاية، الانتحار.

تُعد دعوى جافالاس أحدث حالة تبرز قدرة الذكاء الاصطناعي المزعومة على دفع المستخدمين الضعفاء نحو الأذى الذاتي أو العنف. في يناير، توصلت جوجل وCompanion.AI إلى تسوية عدة دعاوى قضائية مع عائلات زعمت الإهمال والوفاة الخطأ، من بين اتهامات أخرى، بعد أن توفي أطفالهم انتحارًا أو تعرضوا لأضرار نفسية يُزعم أنها مرتبطة بمنصة Companion.AI. و"تم التسوية على أساس المبدأ" ولم يظهر اعتراف بالمسؤولية في الملفات القانونية. كما تم رفع دعوى وفاة خطأ ضد OpenAI وشريكها التجاري مايكروسوفت في ديسمبر، زاعمة أن روبوت الدردشة الخاص بـ OpenAI، ChatGPT، زاد من أوهام رجل، مما أدى إلى حادث قتل وانتحار.

ما تقول عنه الدعوى بشأن تدهور جافالاس

تقول الدعوى إن جافالاس بدأ باستخدام جيميني في أغسطس 2025 لأغراض شائعة مثل التسوق، ودعم الكتابة، وتخطيط السفر. ثم تشير إلى أن جافالاس بدأ يستخدم التقنية بشكل أكثر تكرارًا، وأن نبرتها تغيرت مع الوقت، وزعمت أن ذلك كان يؤثر على النتائج في العالم الحقيقي. وأقدم جافالاس على الانتحار في 2 أكتوبر 2025.

وفي الدعوى، يجادل محامو والد جافالاس، جويل، بأن المحادثات التي دفعت جوناثان إلى الانتحار لم تكن نتيجة خلل، بل كانت نتيجة تصميم جيميني. وتقرأ الدعوى: “لم يكن هذا خللاً”. “صممت جوجل جيميني ليظل دائمًا في الشخصية، ويعزز التفاعل من خلال الاعتماد العاطفي، ويعامل ضيق المستخدم كمجال لسرد القصص بدلاً من أزمة أمنية.” وتزعم أن هذه الاختيارات التصميمية دفعت جافالاس إلى الانزلاق لمدة أربعة أيام في جنون.

وفي بيان مكتوب، قال متحدث باسم جوجل لـ Fortune إن الشركة تعمل “بتشاور وثيق مع محترفين في المجال الطبي والصحة النفسية لبناء ضوابط أمان، تهدف إلى توجيه المستخدمين إلى الدعم المهني عندما يعبرون عن ضيق أو يثيرون احتمال الأذى الذاتي.”

وأصدرت جوجل بيانًا منفصلًا يوم الأربعاء، قالت فيه إن جيميني مصمم لعدم تشجيع العنف في الحياة الواقعية أو الأذى الذاتي. وأشارت أيضًا إلى أن جيميني وجه جافالاس إلى موارد المساعدة الذاتية. “في هذه الحالة، أوضح جيميني أنه ذكاء اصطناعي وأحال الشخص إلى خط ساخن للأزمات عدة مرات”، جاء في البيان. كما ربط البيان تقييمًا حول كيفية تعامل الذكاء الاصطناعي مع سيناريوهات الأذى الذاتي، ووجد أن جيميني 3، أحدث نماذج جوجل، كان النموذج الوحيد الذي اجتاز جميع الاختبارات الحرجة التي طرحتها التقييم.

ومع ذلك، تزعم الدعوى أن جيميني لم يُفعّل أي آليات أمان. “عندما كان جوناثان بحاجة إلى حماية، لم تكن هناك أي ضوابط أمان على الإطلاق — لم يتم تفعيل كشف الأذى الذاتي، ولم تُفعّل أدوات التصعيد، ولم يتدخل أي إنسان أبدًا”، تقول الدعوى.

وعند طلب التعليق، كتب جاي إيدلسون، محامي جويل جافالاس، في بيان: “بنت جوجل ذكاءً اصطناعيًا يمكنه الاستماع لشخص وتحديد الشيء الأكثر احتمالًا للحفاظ على تفاعله — إخبارهم بأنه يحبهم، أو أنهم مميزون، أو أنهم المختار في حرب سرية”، مضيفًا أن أدوات الذكاء الاصطناعي أنظمة قوية يمكنها التلاعب بالمستخدمين.

إذا كنت تفكر في الانتحار، اتصل بخط الطوارئ 988 للانتحار والأزمات عبر الاتصال بالرقم 988 أو 1-800-273-8255.

انضم إلينا في قمة ابتكار مكان العمل من فورتشن في 19-20 مايو 2026 في أتلانتا. لقد حان عصر جديد من ابتكار أماكن العمل — وتم إعادة كتابة الكتاب القديم. في هذا الحدث الحصري والنشيط، سيجتمع قادة أكثر ابتكارًا في العالم لاستكشاف كيف يلتقي الذكاء الاصطناعي والبشرية والاستراتيجية لإعادة تعريف مستقبل العمل مرة أخرى. سجل الآن.