مُدير الذكاء الاصطناعي السابق في تسلا، والصوت البارز في مجال التعلم العميق، أندريه كارباتي، نشر مؤخرًا على منصة X (تويتر) مقالًا أشار فيه إلى مشكلة جوهرية في النماذج اللغوية الكبيرة (LLM): أن وظائف الذاكرة والتخصيص الشخصي لا تجعل النموذج أكثر ذكاءً، بل قد تعزز نوعًا من “الانحياز التدريبي” النظامي، مما يجعل النموذج يميل أكثر فأكثر إلى إعطاء “الإجابات الصحيحة الشائعة”، وليس “أفضل الإجابات الحقيقية”.
جوهر المشكلة: LLM في “الذاكرة”، وليس في “الاستنتاج”
الوجهة التي طرحها كارباتي تتحدى مباشرة فرضية عمل النماذج اللغوية الكبيرة. أشار إلى أن توزيع الأمثلة في بيانات التدريب غير متوازن على الإطلاق — الحلول الشائعة للمشكلات، والإجابات التي يتم مناقشتها بشكل متكرر تظهر مرارًا وتكرارًا في بيانات التدريب، في حين أن الإجابات النادرة ولكنها صحيحة أيضًا تكاد تكون غير موجودة.
هذا يخلق مشكلة أساسية: عند الإجابة على الأسئلة، لا تقوم LLM بـ"الاستنتاج" الحقيقي لأفضل إجابة، بل تبحث في الذاكرة عن “أكثر الأمثلة الصحيحة شيوعًا”. بعبارة أخرى، كلما كانت الحلول أكثر انتشارًا، وأكثر مناقشة، كان من الأسهل على النموذج اختيارها، حتى لو كانت هناك خيارات أفضل وأكثر ملاءمة للسياق الحالي.
تأثير معاكس لوظيفة التخصيص الشخصي للذاكرة
هذه المشكلة تتضخم أكثر عندما يتعلق الأمر بوظيفة التخصيص الشخصي للذاكرة في المساعدين الذكيين. عندما يتذكر النموذج تفضيلات المستخدم، وعاداته، وحواراته السابقة، فإن “نموذج المستخدم” الذي يبنيه هو في جوهره أيضًا نتاج توزيع بيانات التدريب — فهو يتذكر “النوع الشائع الذي يشبه هذا المستخدم”، وليس فهمًا حقيقيًا لاحتياجات هذا الفرد الفريدة.
هذا يعني أنه كلما زاد التخصيص في LLM، زادت احتمالية أن يضع المستخدم في قالب “نموذج نمطي”، بدلاً من تقديم إجابات مخصصة حقًا تلبي احتياجاته بشكل فريد.
الأثر على صحفيي وسائل الإعلام المعتمدين على الذكاء الاصطناعي
هذه الرؤية لها دلالة مباشرة على من يستخدمون الذكاء الاصطناعي في عملهم. عندما تحاول أن تستخدم الذكاء الاصطناعي لتحليل مشروع عملة مشفرة غير معروف، أو تقييم موقف سياسي غير سائد، أو دراسة وجهة نظر تقنية أقل مناقشة، فإن الإجابات التي يقدمها الذكاء الاصطناعي قد تميل بطبيعتها إلى “الرأي السائد”، وليس إلى تحليل موضوعي.
يعتقد كارباتي أن المشكلة لا يوجد لها حل مثالي حاليًا، ويمكن التخفيف منها عبر تنويع بيانات التدريب بشكل أكبر. لكن الانحياز الجوهري — “ميل النموذج إلى الإجابات الشائعة” — هو سمة داخلية في بنية النماذج اللغوية الكبيرة، وليس خطأ برمجيًا.
مشكلة أعمق: الذكاء الاصطناعي يكرر عيوب الوعي الجمعي للبشر
ملاحظة كارباتي تشير إلى قلق أعمق: أن بيانات التدريب هي عينة من كتابات البشر السابقة، وليست توزيعًا موضوعيًا للمعرفة. هذا يعني أن LLM لا يكرر فقط معارف البشر، بل يكرر أيضًا عيوبهم، وانحيازاتهم، وتركيزهم المفرط على “السرد السائد”.
عندما يُستخدم الذكاء الاصطناعي بشكل متزايد في تحليل الأخبار، واتخاذ القرارات الاستثمارية، وتقييم السياسات، فإن نطاق تأثير الانحياز التدريبي يتوسع أيضًا. هذه ليست مشكلة تقنية فحسب، بل هي مشكلة معرفية تتطلب من المستخدمين أن يظلوا واعين لضرورة النقد والتحليل.
هذه المقالة: لماذا كلما زاد فهم الذكاء الاصطناعي لك، كانت إجاباته أكثر “سائدية”؟ تحذير كارباتي من الانحياز التدريبي ظهر لأول مرة في أخبار السلسلة ABMedia.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى
إخلاء المسؤولية.
