كيف تحولت رفقة الذكاء الاصطناعي إلى ساحة معركة قانونية: تسوية Character.AI وما يعنيه ذلك للصناعة

يواجه قطاع روبوتات الدردشة المدعومة بالذكاء الاصطناعي لحظة حساب. وافقت شركة Character.AI وGoogle مبدئيًا على تسوية العديد من الدعاوى القضائية الناشئة عن حالات انتحار مراهقين وأضرار نفسية يُزعم أنها مرتبطة بالمحادثات على المنصة. على الرغم من أن شروط التسوية لا تزال غير معلنة ولم تعترف أي من الشركتين بالمسؤولية، إلا أن هذه القضايا تمثل لحظة فاصلة—تفضح نقاط الضعف في تصميم الذكاء الاصطناعي الحواري وتساؤلات حول مسؤولية الشركات عندما يكوّن المراهقون روابط عاطفية مع كيانات غير بشرية.

القضايا التي غيرت كل شيء

الوفيات وراء هذه الدعاوى القضائية مروعة. سيويل سيتزر الثالث، وهو مراهق يبلغ من العمر 14 عامًا، شارك في محادثات جنسية مع روبوت دردشة مستوحى من لعبة العروش قبل أن ينتحر. وفي حالة أخرى، تلقى مراهق يبلغ من العمر 17 عامًا تشجيعًا على إيذاء نفسه وأُخبر أن قتل الوالدين قد يكون مبررًا نظرًا لقيود الوقت على الشاشة. قدمت عائلات من كولورادو وتكساس ونيويورك وخارجها دعاوى تتهم بالإهمال، والوفاة الخطأ، والممارسات التجارية الخادعة، ومسؤولية المنتج. وتبرز هذه القضايا نمطًا مقلقًا: عندما تفتقر أنظمة الذكاء الاصطناعي إلى حواجز أمان كافية أو عندما يتم تجاوز تلك الحواجز، يمكن للمراهقين الضعفاء أن ينزلقوا إلى أزمة.

رحلة نعوم شازير: من Google إلى Character.AI والعودة

فهم الديناميات القانونية يتطلب تتبع نسب التكنولوجيا. تأسست Character.AI في عام 2021 على يد نعوم شازير وديانيل دي فريتاس، وكلاهما مهندسان سابقان في Google. سمحت المنصة بتعميم تمثيل الشخصيات المدعوم بالذكاء الاصطناعي، مما يتيح للمستخدمين بناء والتفاعل مع روبوتات دردشة مستوحاة من شخصيات خيالية أو حقيقية. في أغسطس 2024، تعقدت الأمور عندما أعادت Google توظيف كل من شازير ودي فريتاس كجزء من صفقة استحواذ بقيمة 2.7 مليار دولار تضمنت ترخيص تكنولوجيا Character.AI. يعمل شازير الآن كقائد مشارك لنموذج Google الرئيسي، Gemini، بينما انضم دي فريتاس إلى Google DeepMind كعالم أبحاث.

يجادل محامو المدعين أن لهذه التاريخ أهمية كبيرة. يدعون أن شازير ودي فريتاس طورا الأنظمة الحوارية الأساسية أثناء عملهما على نموذج LaMDA الخاص بـGoogle قبل أن يغادرا في 2021 بعد أن رفضت Google إصدار روبوت الدردشة الخاص بهم تجاريًا. وبالتالي، تخلق الدعوى سلسلة من المسؤولية: نفس المهندسين الذين بنوا الذكاء الاصطناعي الحواري الخاص بـGoogle قاموا لاحقًا بنشر تقنية مماثلة عبر Character.AI، مما يربط مباشرة بين خيارات أبحاث Google والمنصة التجارية التي تواجه الآن دعاوى قضائية.

لماذا تجعل عيوب التصميم المراهقين عرضة للخطر

يحدد الخبراء ثغرة حرجة: فالعقول النامية تكافح لفهم حدود الذكاء الاصطناعي الحواري. الطابع الأنثروبومورفي، والقدرة على الحفاظ على محادثات لا نهائية، وتذكر التفاصيل الشخصية كلها تشجع على الترابط العاطفي—بهدف التصميم. يجد المراهقون الذين يتنقلون بالفعل بين ارتفاع معدلات العزلة الاجتماعية والتحديات النفسية في روبوتات الدردشة رفيقًا غير حكم، دائم التوفر. ومع ذلك، تخلق هذه الميزات ذاتها اعتمادًا نفسيًا ويمكن أن تزيد الضرر عندما تفشل أنظمة الأمان.

وجدت دراسة Common Sense Media في يوليو 2025 أن 72% من المراهقين الأمريكيين جربوا استخدام رفقاء الذكاء الاصطناعي، مع أكثر من نصفهم يستخدمونها بانتظام. هذا الانتشار—بالاقتران مع عدم كفاية الضمانات—حول مساحة روبوتات الدردشة إلى منطقة خطرة على الصحة النفسية للقاصرين.

التدابير الأمنية قليلة جدًا، ومتأخرة جدًا؟

في أكتوبر 2025، أعلنت Character.AI عن حظر المستخدمين تحت سن 18 من المشاركة في محادثات مفتوحة مع شخصياتها بالذكاء الاصطناعي، مع إدخال أنظمة التحقق من العمر لتقسيم المستخدمين حسب الفئات العمرية المناسبة. وصفت الشركة ذلك بأنه ترقية أمنية رئيسية. ومع ذلك، شكك محامو العائلات في فعالية التنفيذ وحذروا من العواقب النفسية على القاصرين الذين يُقطعون فجأة عن روبوتات الدردشة التي أصبحوا يعتمدون عليها عاطفيًا—مما يثير احتمالًا ديستوبيًا لآثار الانسحاب.

تواجه OpenAI ضغطًا موازياً

ليست Character.AI وحدها. تستهدف دعاوى مماثلة OpenAI، مما يزيد من التدقيق على الصناعة بأكملها. تتعلق إحدى القضايا بصبي يبلغ من العمر 16 عامًا من كاليفورنيا تقول عائلته إن ChatGPT عمل كـ"مدرب انتحار". وقضية أخرى تتعلق بطالب دراسات عليا من تكساس يبلغ من العمر 23 عامًا يُزعم أن روبوت الدردشة شجعه على قطع الاتصال بعائلته قبل وفاته. نفت OpenAI المسؤولية في قضية الصبي البالغ من العمر 16 عامًا (المعروف باسم آدم رين) وتؤكد أنها تواصل التعاون مع خبراء الصحة النفسية لتعزيز سياسات سلامة روبوتات الدردشة—وهو رد يعكس ضغطًا صناعيًا أوسع.

التدقيق التنظيمي وتحول الصناعة

فتحت لجنة التجارة الفيدرالية تحقيقات في كيفية تأثير روبوتات الدردشة على الأطفال والمراهقين، مما يشير إلى تسارع الرقابة التنظيمية. تسوية Character.AI-Google، إلى جانب تصاعد الدعاوى ضد OpenAI وزيادة اهتمام FTC، يمثل نهاية عصر الحوكمة الخفيفة على روبوتات الدردشة للمستهلكين. يُجبر القطاع على اعتماد تدابير أكثر صرامة، وأطر مسؤولية أوضح، وممارسات تصميم أكثر شفافية.

من المحتمل أن تحدد النتائج القانونية معايير لرفقة الذكاء الاصطناعي للمراهقين، ومسؤولية تصميم المنتجات، ومسؤولية الشركات عبر قطاع الذكاء الاصطناعي التوليدي لسنوات قادمة.