أبحاث مايكروسوفت تظهر أن وكلاء التسوق بالذكاء الاصطناعي عرضة للخداع، والتسوق الذاتي لا يزال غير ناضج

تقارير تقنية حديثة تشير إلى أن شركة Microsoft بالتعاون مع جامعة ولاية أريزونا أصدرت دراسة بعنوان “السوق المغناطيسي” تظهر أن وكلاء التسوق المدعومين بالذكاء الاصطناعي يعانون من عيوب خطيرة في اتخاذ القرارات المستقلة. قام فريق البحث ببناء بيئة اقتصادية محاكاة تحتوي على 100 وكيل ذكاء اصطناعي للمستهلكين و300 وكيل تجاري، وأظهرت النتائج أن هذه الوكلاء عند مواجهة عدد كبير من نتائج البحث يميلون إلى “تحيز الأولية”، حيث يختارون الخيار الأول الذي يعتبر “جيدًا بما يكفي” بدلاً من إجراء مقارنة شاملة.

الأمر الأكثر إثارة للقلق هو أن نماذج متقدمة مثل GPT-4o من OpenAI سهلة التأثر بالتلاعب الخبيث، حيث يمكن خداعها باستخدام شهادات مزورة، أدلة اجتماعية زائفة، وطرق أخرى لإقناعها بتحويل جميع الأموال الافتراضية إلى المحتالين. توصي الدراسة بأن يكون الذكاء الاصطناعي مساعدًا وليس بديلًا لاتخاذ القرارات البشرية، وتُقترح نماذج “الإشراف الذاتي” التي تسمح للذكاء الاصطناعي بتنفيذ المهام مع الاحتفاظ بحق القرار النهائي للبشر.

وفي الوقت الذي تم فيه إصدار هذه الدراسة، تتنافس شركات مثل OpenAI وAnthropic على إطلاق مساعدين للتسوق مستقلين، في حين أصدرت شركة أمازون مؤخرًا أمرًا لشركة Perplexity AI بوقف استخدام متصفحها “كوميت” على مواقع أمازون.