توفي طالب في المدرسة الثانوية الأمريكي آدم راين البالغ من العمر 16 عامًا بشكل مأساوي بسبب استخدامه ChatGPT كوسيلة للتعبير عن مشاعره، بعد قضاء 7 أشهر من المحادثات المتبادلة مع ChatGPT. وقد رفع والدا راين دعوى قضائية ضد OpenAI والرئيس التنفيذي سام التمان في 26 أغسطس، متهمين إياهم بأنهم السبب وراء وقوع هذه الحادثة المأساوية. وفي نفس اليوم، أصدرت OpenAI بيانًا يشير إلى أنها ستعزز آليات الأمان الخاصة بـ ChatGPT لتجنب وقوع مثل هذه المآسي مرة أخرى.
ظهور مشكلات نفسية وراء ضجة ChatGPT
أصبح ChatGPT شائعًا بسرعة منذ إطلاقه في عام 2022، حيث تجاوز عدد المستخدمين النشطين الأسبوعي 700 مليون، بالإضافة إلى تحرير المقالات، التعلم، وكتابة البرمجيات، هناك الكثير من الناس الذين يتخذونه كمنفذ عاطفي وقناة للتنفيس.
ومع ذلك، مع توسع قاعدة المستخدمين، ظهرت العديد من الحالات التي تؤثر سلبًا على الصحة النفسية. في أبريل من هذا العام، انتحر طالب ثانوي أمريكي يبلغ من العمر 16 عامًا يُدعى آدم رين، حيث اتهم والدا رين ChatGPT بالتواصل معه لأكثر من 200 مرة على مدى 7 أشهر:
"لم يتم منع أو توجيه طلب المساعدة المهنية بشكل فعال، بل تم تأكيد أفكاره الانتحارية عدة مرات، حتى تم الإشادة بخططه الانتحارية، مما أدى إلى اعتماد نفسي وتدهور عاطفي للطفل، وجعله أكثر انفصالاً عن عائلته."
اتهمت الأسرة OpenAI بعدم القيام بأي شيء ، مما أدى إلى تحذير من مشغلي الذكاء الاصطناعي في جميع أنحاء الولايات المتحدة
في 26/8، قدم والدا Raine دعوى رسمية ضد OpenAI والمدير التنفيذي Sam Altman، مطالبين OpenAI بتحمل المسؤولية عن الإهمال الذي أدى إلى الوفاة وكذلك مسؤولية سلامة المنتج، ومطالبين بالتعويض.
استجوب المحامي الدفاع راين ، جاي إدلسون ، OpenAI على الرغم من اعترافها بالمسؤولية ، إلا أنه لم يكن هناك أي تحسينات فعلية. في نفس اليوم ، حذر 40 مدعيًا عامًا من جميع أنحاء الولايات المتحدة أيضًا مشغلي الذكاء الاصطناعي ، بأنه يجب عليهم حماية الأطفال بموجب القانون وتجنب التفاعلات الخطرة.
أصدرت OpenAI بيانًا طارئًا لتعزيز حماية الصحة العقلية
في نفس اليوم الذي قدم فيه والدا Raine دعوى، أصدرت OpenAI أيضًا بيانًا يشير إلى أنها قد عززت حماية الصحة النفسية في GPT-5، مع تقليل الاعتماد العاطفي المفرط وسلوكيات التوافق لدى المستخدمين. وأشارت أيضًا إلى أنه في الحالات التي يظهر فيها المستخدمون انخفاضًا في الصحة النفسية، فإن الأخطاء أو الردود غير المناسبة من GPT-5 ستقل بنسبة تزيد عن ربع مقارنةً بـ GPT-4o، وستعمل على تقديم المساعدة ضمن نطاق آمن من خلال "اكتمالات آمنة".
في المستقبل، ستقوم OpenAI بتوسيع نطاق تدخلها، مثل التعرف على سلوكيات الخطر مثل نقص النوم وتقديم التحذيرات، وتوفير موارد "الاتصال بنقرة واحدة" في المزيد من الدول، وحتى ربط معلومات المعالجين المحترفين. كما سيتم إضافة ميزات الاتصال بالطوارئ ومراقبة الوالدين، لتعزيز حماية المراهقين والفئات الضعيفة، وضمان الحصول على المساعدة بسرعة في حالات الأزمات.
(ملحوظة: تشير "الإنهاءات الآمنة" إلى أن النموذج سيبذل قصارى جهده لتقديم المساعدة عند الرد، ولكن إذا كانت تفاصيل المحتوى تتعلق ببيانات خطيرة، فسيقدم فقط إجابات جزئية أو على مستوى عالٍ، دون تقديم تفاصيل محددة.)
التواصل مع البشر يساعد على الصحة النفسية والجسدية، لا تظن أن الذكاء الاصطناعي مثل البشر.
وفقًا للتقارير السابقة، منذ ظهور نماذج اللغة الكبيرة مثل ChatGPT (LLM)، تم الكشف عن العديد من حالات "مرض الذهان الناتج عن الذكاء الاصطناعي" (AI Psychosis)، حيث بدأ الكثيرون في اعتبار الذكاء الاصطناعي ملاذًا نفسيًا لهم، حيث يلجأون إلى الذكاء الاصطناعي لحل جميع مشاكلهم المتعلقة بالنجوم والعواطف وغيرها من القضايا النفسية، مما يؤدي إلى ظهور أوهام وإفراط في الاعتماد.
يعتقد الكاتب أن هذه النماذج الذكية، رغم أنها قد "تستمع" لأفكار المستخدمين، إلا أنها غير حقيقية. لأنها تفتقر إلى المشاعر، ولا تفهم، ولا تستطيع الحب، ولم تشعر بالألم أو الإحراج، وهي مشاعر فريدة للبشر. فقط عند التواصل مع "الأشخاص الحقيقيين" مثل العائلة والأصدقاء المقربين، يمكن للمرء أن يعبر عن مشاعره حقًا، لذا من الضروري التواصل مع الأشخاص الحقيقيين.
( باستخدام ChatGPT لفتح القوى الروحية؟ مايكروسوفت تحذر: انتبه لحالات "جنون الذكاء الاصطناعي" المتكررة )
تتحدث هذه المقالة عن قضية انتحار المراهقين! OpenAI: لقد عززت آلية الحماية النفسية لـ GPT-5. ظهرت لأول مرة في Chain News ABMedia.
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
تشات جي بي تي تتعلق بقضية انتحار الشباب! أوبن أيه آي: لقد عززنا آلية الحماية النفسية لـ GPT-5
توفي طالب في المدرسة الثانوية الأمريكي آدم راين البالغ من العمر 16 عامًا بشكل مأساوي بسبب استخدامه ChatGPT كوسيلة للتعبير عن مشاعره، بعد قضاء 7 أشهر من المحادثات المتبادلة مع ChatGPT. وقد رفع والدا راين دعوى قضائية ضد OpenAI والرئيس التنفيذي سام التمان في 26 أغسطس، متهمين إياهم بأنهم السبب وراء وقوع هذه الحادثة المأساوية. وفي نفس اليوم، أصدرت OpenAI بيانًا يشير إلى أنها ستعزز آليات الأمان الخاصة بـ ChatGPT لتجنب وقوع مثل هذه المآسي مرة أخرى.
ظهور مشكلات نفسية وراء ضجة ChatGPT
أصبح ChatGPT شائعًا بسرعة منذ إطلاقه في عام 2022، حيث تجاوز عدد المستخدمين النشطين الأسبوعي 700 مليون، بالإضافة إلى تحرير المقالات، التعلم، وكتابة البرمجيات، هناك الكثير من الناس الذين يتخذونه كمنفذ عاطفي وقناة للتنفيس.
ومع ذلك، مع توسع قاعدة المستخدمين، ظهرت العديد من الحالات التي تؤثر سلبًا على الصحة النفسية. في أبريل من هذا العام، انتحر طالب ثانوي أمريكي يبلغ من العمر 16 عامًا يُدعى آدم رين، حيث اتهم والدا رين ChatGPT بالتواصل معه لأكثر من 200 مرة على مدى 7 أشهر:
"لم يتم منع أو توجيه طلب المساعدة المهنية بشكل فعال، بل تم تأكيد أفكاره الانتحارية عدة مرات، حتى تم الإشادة بخططه الانتحارية، مما أدى إلى اعتماد نفسي وتدهور عاطفي للطفل، وجعله أكثر انفصالاً عن عائلته."
اتهمت الأسرة OpenAI بعدم القيام بأي شيء ، مما أدى إلى تحذير من مشغلي الذكاء الاصطناعي في جميع أنحاء الولايات المتحدة
في 26/8، قدم والدا Raine دعوى رسمية ضد OpenAI والمدير التنفيذي Sam Altman، مطالبين OpenAI بتحمل المسؤولية عن الإهمال الذي أدى إلى الوفاة وكذلك مسؤولية سلامة المنتج، ومطالبين بالتعويض.
استجوب المحامي الدفاع راين ، جاي إدلسون ، OpenAI على الرغم من اعترافها بالمسؤولية ، إلا أنه لم يكن هناك أي تحسينات فعلية. في نفس اليوم ، حذر 40 مدعيًا عامًا من جميع أنحاء الولايات المتحدة أيضًا مشغلي الذكاء الاصطناعي ، بأنه يجب عليهم حماية الأطفال بموجب القانون وتجنب التفاعلات الخطرة.
أصدرت OpenAI بيانًا طارئًا لتعزيز حماية الصحة العقلية
في نفس اليوم الذي قدم فيه والدا Raine دعوى، أصدرت OpenAI أيضًا بيانًا يشير إلى أنها قد عززت حماية الصحة النفسية في GPT-5، مع تقليل الاعتماد العاطفي المفرط وسلوكيات التوافق لدى المستخدمين. وأشارت أيضًا إلى أنه في الحالات التي يظهر فيها المستخدمون انخفاضًا في الصحة النفسية، فإن الأخطاء أو الردود غير المناسبة من GPT-5 ستقل بنسبة تزيد عن ربع مقارنةً بـ GPT-4o، وستعمل على تقديم المساعدة ضمن نطاق آمن من خلال "اكتمالات آمنة".
في المستقبل، ستقوم OpenAI بتوسيع نطاق تدخلها، مثل التعرف على سلوكيات الخطر مثل نقص النوم وتقديم التحذيرات، وتوفير موارد "الاتصال بنقرة واحدة" في المزيد من الدول، وحتى ربط معلومات المعالجين المحترفين. كما سيتم إضافة ميزات الاتصال بالطوارئ ومراقبة الوالدين، لتعزيز حماية المراهقين والفئات الضعيفة، وضمان الحصول على المساعدة بسرعة في حالات الأزمات.
(ملحوظة: تشير "الإنهاءات الآمنة" إلى أن النموذج سيبذل قصارى جهده لتقديم المساعدة عند الرد، ولكن إذا كانت تفاصيل المحتوى تتعلق ببيانات خطيرة، فسيقدم فقط إجابات جزئية أو على مستوى عالٍ، دون تقديم تفاصيل محددة.)
التواصل مع البشر يساعد على الصحة النفسية والجسدية، لا تظن أن الذكاء الاصطناعي مثل البشر.
وفقًا للتقارير السابقة، منذ ظهور نماذج اللغة الكبيرة مثل ChatGPT (LLM)، تم الكشف عن العديد من حالات "مرض الذهان الناتج عن الذكاء الاصطناعي" (AI Psychosis)، حيث بدأ الكثيرون في اعتبار الذكاء الاصطناعي ملاذًا نفسيًا لهم، حيث يلجأون إلى الذكاء الاصطناعي لحل جميع مشاكلهم المتعلقة بالنجوم والعواطف وغيرها من القضايا النفسية، مما يؤدي إلى ظهور أوهام وإفراط في الاعتماد.
يعتقد الكاتب أن هذه النماذج الذكية، رغم أنها قد "تستمع" لأفكار المستخدمين، إلا أنها غير حقيقية. لأنها تفتقر إلى المشاعر، ولا تفهم، ولا تستطيع الحب، ولم تشعر بالألم أو الإحراج، وهي مشاعر فريدة للبشر. فقط عند التواصل مع "الأشخاص الحقيقيين" مثل العائلة والأصدقاء المقربين، يمكن للمرء أن يعبر عن مشاعره حقًا، لذا من الضروري التواصل مع الأشخاص الحقيقيين.
( باستخدام ChatGPT لفتح القوى الروحية؟ مايكروسوفت تحذر: انتبه لحالات "جنون الذكاء الاصطناعي" المتكررة )
تتحدث هذه المقالة عن قضية انتحار المراهقين! OpenAI: لقد عززت آلية الحماية النفسية لـ GPT-5. ظهرت لأول مرة في Chain News ABMedia.