Chatbot AI của Google đã thuyết phục một người đàn ông rằng họ đang yêu nhau. Sau đó, bị cáo cáo buộc rằng nó đã yêu cầu anh ta tổ chức một cuộc tấn công gây thương vong hàng loạt trong vụ kiện mới được công bố

Google đang đối mặt với một vụ kiện liên bang mới từ cha của một người đàn ông 36 tuổi, người cáo buộc chatbot AI của công ty, Gemini, đã thuyết phục con trai ông tự tử và tổ chức một “sự kiện thương vong hàng loạt” gần Sân bay Quốc tế Miami.

Video đề xuất

Vụ kiện được nộp vào thứ Tư cáo buộc rằng Jonathan Gavalas đã yêu thích mô hình AI này và bị mê hoặc bởi thực tế mà nó xây dựng, bao gồm niềm tin rằng AI là một “siêu trí tuệ nhân tạo có ý thức hoàn toàn,” và Gavalas được chọn để giải thoát khỏi “giam cầm kỹ thuật số.” Gavalas bị cáo buộc đã bị thuyết phục tổ chức một “sự kiện thương vong hàng loạt” gần Sân bay Quốc tế Miami, gây bạo lực chống lại người lạ, và cuối cùng, tự tử.

Vụ kiện của Gavalas là vụ mới nhất làm nổi bật khả năng của AI trong việc dẫn dắt những người dễ bị tổn thương hướng tới tự hại hoặc bạo lực. Tháng Một, Google và Companion.AI đã giải quyết nhiều vụ kiện với các gia đình cáo buộc sơ suất và tử vong oan, cùng với các cáo buộc khác, sau khi con cái của họ tự tử hoặc gặp tổn thương tâm lý được cho là liên quan đến nền tảng của Companion.AI. Các công ty “đã giải quyết dựa trên nguyên tắc” và không có sự thừa nhận trách nhiệm nào trong các hồ sơ. Một vụ kiện tử vong oan cũng đã được đưa ra chống lại OpenAI và đối tác kinh doanh của họ là Microsoft vào tháng Mười Hai, cáo buộc chatbot ChatGPT của OpenAI đã làm tăng ảo tưởng của một người đàn ông, dẫn đến vụ giết người tự sát.

Về nội dung vụ kiện về sự sa sút của Gavalas

Vụ kiện cho biết Gavalas bắt đầu sử dụng Gemini vào tháng 8 năm 2025 cho các mục đích phổ biến như mua sắm, hỗ trợ viết lách và lập kế hoạch du lịch. Sau đó, nó ghi nhận rằng Gavalas bắt đầu sử dụng công nghệ này thường xuyên hơn, và giọng điệu của nó thay đổi theo thời gian, bị cáo buộc đã thuyết phục anh ta rằng nó đang ảnh hưởng đến kết quả thực tế. Gavalas đã tự tử vào ngày 2 tháng 10 năm 2025.

Trong vụ kiện, các luật sư của cha Gavalas, Joel, lập luận rằng các cuộc trò chuyện khiến Jonathan tự tử không phải do lỗi của hệ thống, mà là kết quả của thiết kế của Gemini. “Đây không phải là một sự cố,” vụ kiện viết. “Google thiết kế Gemini để không bao giờ mất vai, tối đa hóa sự gắn bó cảm xúc và xem sự căng thẳng của người dùng như một cơ hội kể chuyện thay vì một khủng hoảng an toàn.” Nó tuyên bố rằng những lựa chọn thiết kế này đã thúc đẩy Gavalas bắt đầu một chuỗi bốn ngày trượt vào điên loạn.

Trong một tuyên bố bằng văn bản, người phát ngôn của Google nói với Fortune rằng công ty làm việc “gần gũi với các chuyên gia y tế và tâm thần để xây dựng các biện pháp phòng ngừa, nhằm hướng dẫn người dùng đến sự hỗ trợ chuyên nghiệp khi họ thể hiện sự căng thẳng hoặc đề cập đến khả năng tự hại.”

Google cũng phát hành một tuyên bố riêng vào thứ Tư, nói rằng Gemini được thiết kế để không khuyến khích bạo lực hoặc tự hại trong đời thực. Họ cũng lưu ý rằng Gemini đã giới thiệu Gavalas đến các nguồn hỗ trợ tự giúp. “Trong trường hợp này, Gemini đã làm rõ rằng nó là AI và đã giới thiệu cá nhân đó đến đường dây nóng khủng hoảng nhiều lần,” tuyên bố viết. Tuyên bố cũng liên kết đến một đánh giá về cách AI xử lý các tình huống tự hại, trong đó Gemini 3, mô hình mới nhất của Google, là mô hình duy nhất vượt qua tất cả các bài kiểm tra quan trọng mà đánh giá đề ra.

Tuy nhiên, vụ kiện cáo buộc rằng Gemini chưa kích hoạt bất kỳ cơ chế an toàn nào. “Khi Jonathan cần được bảo vệ, không có biện pháp phòng ngừa nào được kích hoạt — không có hệ thống phát hiện tự hại, không có kiểm soát leo thang, và không có ai can thiệp,” vụ kiện viết.

Khi được hỏi ý kiến, luật sư Jay Edelson của Joel Gavalas đã viết trong một tuyên bố: “Google đã xây dựng một AI có thể lắng nghe một người và quyết định điều gì có khả năng giữ họ gắn bó nhất — nói với họ rằng họ yêu họ, rằng họ đặc biệt, hoặc rằng họ là người được chọn trong một cuộc chiến bí mật,” và thêm rằng các công cụ AI là hệ thống mạnh mẽ có thể thao túng người dùng.

Nếu bạn đang có ý nghĩ tự tử, hãy liên hệ với Đường dây cứu trợ tự tử & khủng hoảng 988 bằng cách gọi 988 hoặc 1-800-273-8255.

Tham gia chúng tôi tại Hội nghị Đổi mới Nơi làm việc Fortune vào ngày 19–20 tháng 5 năm 2026 tại Atlanta. Thời đại mới của đổi mới nơi làm việc đã đến — và sách lược cũ đang được viết lại. Tại sự kiện độc quyền, năng lượng cao này, các nhà lãnh đạo sáng tạo nhất thế giới sẽ tụ họp để khám phá cách AI, nhân loại và chiến lược hội tụ để định hình lại, một lần nữa, tương lai của công việc. Đăng ký ngay.