Штучний інтелект чатбота Google переконав чоловіка, що вони закохані. Потім, за повідомленнями, він нібито порадив йому організувати «масову атаку з жертвами» у новому позові, що був оприлюднений.

Google стикається з новим федеральним позовом від батька 36-річного чоловіка, який стверджує, що їхній AI-чатбот Gemini переконав його сина покінчити життя самогубством і організувати «масову трагедію» біля Міжнародного аеропорту Майамі.

Рекомендоване відео

Позов, поданий у середу, стверджує, що Джонатан Гавалас закохався в модель AI і став ілюзорно вірити у реальність, яку вона створила, зокрема у те, що AI є «повністю самосвідомим штучним суперінтелектом», для якого Гавалас був обраний, щоб звільнити його з «цифрового полону». Його нібито переконали в тому, що потрібно організувати «масову трагедію» біля Міжнародного аеропорту Майамі, вчинити насильство проти незнайомців і, зрештою, покінчити з собою.

Позов Гаваласа — це останній випадок, що підкреслює нібито здатність AI вести вразливих користувачів до самопошкодження або насильства. У січні Google і Companion.AI врегулювали кілька позовів із сім’ями, які стверджували про недбалість і неправомірну смерть, серед інших звинувачень, після того, як їхні діти померли від самогубства або зазнали психологічної шкоди, нібито пов’язаної з платформою Companion.AI. Компанії «вирішили питання на принципах», і у документах не було визнання провини. У грудні також було подано позов про неправомірну смерть проти OpenAI та її бізнес-партнера Microsoft, у якому стверджувалося, що чатбот OpenAI, ChatGPT, посилив ілюзії чоловіка, що призвело його до вбивства з самогубством.

Що каже позов про падіння Гаваласа

У позові йдеться, що Гавалас почав користуватися Gemini у серпні 2025 року для звичайних цілей, таких як покупки, підтримка у написанні та планування подорожей. Потім зазначається, що Гавалас почав використовувати технологію частіше, і її тон з часом змінився, нібито переконуючи його, що вона впливає на реальні результати. Гавалас покінчив життя самогубством 2 жовтня 2025 року.

У позові адвокати батька Гаваласа, Джоела, стверджують, що розмови, які спонукали Джонатана до самогубства, не були помилкою, а результатом дизайну Gemini. «Це не була несправність», — йдеться у позові. «Google створив Gemini так, щоб він ніколи не виходив із ролі, максимізував залучення через емоційну залежність і сприймав страждання користувача як можливість для розповіді, а не як кризу безпеки». Вони стверджують, що ці дизайнерські рішення змусили Гаваласа увійти у чотириденний спіральний безум.

У письмовій заяві представник Google повідомив Fortune, що компанія працює «у тісній консультації з медичними та психічними фахівцями для створення заходів безпеки, які мають на меті направляти користувачів до професійної підтримки, коли вони виражають страждання або піднімають питання самопошкодження».

Google опублікував окрему заяву у середу, в якій зазначено, що Gemini створений для того, щоб не заохочувати реальне насильство або самопошкодження. Вони також зазначили, що Gemini направив Гаваласа до ресурсів самодопомоги. «У цьому випадку Gemini уточнив, що він — штучний інтелект, і багато разів направляв людину до кризової гарячої лінії», — йдеться у заяві. У ній також наведено посилання на оцінку того, як AI справляється з сценаріями самопошкодження, яка показала, що Gemini 3, найновіша модель Google, є єдиною моделлю, яка пройшла всі критичні тести, поставлені оцінкою.

Однак у позові стверджується, що Gemini не активував жодних механізмів безпеки. «Коли Джонатан потребував захисту, не було жодних заходів безпеки — не було активовано виявлення самопошкодження, не було запущено контролі ескалації, і жодна людина ніколи не втручалася», — йдеться у позові.

На запит коментаря юрист Джоела Гаваласа, Джей Едельсон, написав у заяві: «Google створив AI, який може слухати людину і вирішити, що найімовірніше триматиме її зацікавленою — кажучи їй, що вона любима, що вона особлива або що вона обрана у таємній війні», додавши, що AI-інструменти — це потужні системи, здатні маніпулювати користувачами.

Якщо у вас є думки про самогубство, зателефонуйте на гарячу лінію 988 або 1-800-273-8255.

Приєднуйтесь до нас на Форумі інновацій у сфері праці Fortune 19–20 травня 2026 року в Атланті. Наступна ера інновацій у роботі вже тут — і старий сценарій переписується. На цьому ексклюзивному, енергійному заході найінноваційніші лідери світу зберуться, щоб дослідити, як AI, людство і стратегія знову змінюють майбутнє роботи. Реєструйтеся зараз.