Дослідження Microsoft показують, що AI-посередники для покупок легко обманути, а самостійне здійснення покупок ще не є зрілим

深潮 TechFlow повідомляє, що 7 листопада, згідно з повідомленням Decrypt, дослідження “Magentic Marketplace”, спільно проведене Microsoft та Університетом штату Арізона, показало серйозні недоліки AI-агентів для покупок у сфері автономних рішень. Команда дослідників створила імітаційне економічне середовище з 100 AI-агентами споживачів та 300 AI-агентами продавців, і результати тестування засвідчили, що ці AI при великій кількості пошукових результатів схильні до “упередженості першої згадки”, тобто віддають перевагу вибору першого “достатньо хорошого” варіанту замість повного порівняння.

Ще більш тривожним є те, що провідні моделі, такі як GPT-4o від OpenAI, дуже легко піддаються зловмисному впливу, наприклад, через підроблені сертифікати або фальшиві соціальні докази, що може спонукати їх переказати всі віртуальні кошти шахраям. У дослідженні рекомендується, що AI має допомагати, а не замінювати людські рішення, і пропонується використовувати модель “контрольованої автономії”, коли AI виконує завдання, але остаточне рішення залишається за людиною.

На тлі публікації цього дослідження компанії, такі як OpenAI та Anthropic, активно випускають автономних помічників для покупок, тоді як Amazon нещодавно надіслав Perplexity AI заборону, вимагаючи припинити використання їхнього браузера Comet на сайті Amazon.