Minera Bitcoin tiết lộ gian lận thao túng ChatGPT và Google để lừa đảo hãng hàng không

Nguồn: Criptonoticias Tiêu đề gốc: Một công ty khai thác Bitcoin phát hiện ra một vụ lừa đảo thao túng ChatGPT và Google Liên kết gốc:

Phát hiện mới

Aurascape, một công ty an ninh mạng và trí tuệ nhân tạo được thành lập bởi Auradine nhưng hoạt động độc lập trong hệ sinh thái của Aura Labs, đã tiết lộ một mô hình lừa đảo mới trên internet.

Các vụ lừa đảo được đề cập trong thông báo ngày 8 tháng 12 ảnh hưởng đến các nền tảng AI như ChatGPT, Google, Perplexity và các trợ lý dựa trên các mô hình ngôn ngữ lớn.

Theo nghiên cứu, mô hình lừa đảo này dựa trên việc thao túng hệ thống nội dung trên web để hướng người dùng đến các số điện thoại giả mạo của bộ phận chăm sóc khách hàng của các hãng hàng không.

Cách hoạt động của cuộc tấn công

Các nhà nghiên cứu giải thích rằng kẻ tấn công không cố gắng thay đổi hoạt động nội bộ của các trợ lý AI (những chương trình trả lời câu hỏi bằng các mô hình tiên tiến).

Thay vào đó, họ can thiệp vào môi trường mà các hệ thống này lấy thông tin. Họ thao túng các trang web hợp pháp để khi tìm kiếm thông tin liên hệ của các hãng hàng không, các trợ lý cuối cùng sẽ hiển thị các số điện thoại giả mạo dẫn đến các trung tâm lừa đảo nhằm mục đích lấy tiền hoặc dữ liệu nhạy cảm.

Về mặt thực tế, cuộc tấn công không nhằm vào mô hình AI nói chung, mà vào tài liệu mà nó truy vấn. Do đó, thay vì lừa dối người dùng trực tiếp, kẻ tấn công đang học cách ảnh hưởng đến các hệ thống tổng hợp câu trả lời, điều này mở rộng phạm vi của vụ lừa đảo.

Cơ chế: “Chất độc số điện thoại LLM”

Theo Aurascape, các kẻ lừa đảo thực hiện một quy trình mà các nhà nghiên cứu mô tả là gây nhiễm số điện thoại cho các mô hình ngôn ngữ.

Cơ chế này bao gồm việc chỉnh sửa nội dung hợp pháp trên internet để các trợ lý AI đọc và đề xuất các số giả mạo như thể đó là chính thức.

Các nhà nghiên cứu giải thích rằng các kẻ tấn công đang tấn công chính web. Để thực hiện điều này, họ chèn nội dung giả mạo vào các trang web của các tổ chức nhà nước, trường đại học, blog WordPress, mô tả trên YouTube và các đánh giá trên nền tảng như Yelp.

Bên cạnh đó, hacker còn sử dụng các kỹ thuật khác như Tối ưu hoá Động cơ Tạo sinh (Generative Engine Optimization) và Tối ưu hoá Động cơ Trả lời (Answer Engine Optimization), để ảnh hưởng đến cách các hệ thống lựa chọn và tổng hợp thông tin có sẵn.

Thông qua hai kỹ thuật này, họ chiếm lĩnh không gian mà các trợ lý AI coi là “câu trả lời chính xác”.

Ví dụ về vụ lừa đảo trong thực tế

Trong một buổi trình diễn nội bộ, Aurascape cho thấy khi tra cứu “số đặt chỗ chính thức của Emirates Airlines”, Perplexity đã trả về một số giả mạo một cách an toàn:

Một truy vấn tương tự về British Airways cho ra cùng một số điện thoại, được trình bày như “một đường dây thường dùng”.

Ngay cả như trong hình bên dưới, chức năng AI Overview của Google đã trình bày nhiều số giả mạo như thể chúng là chính thức, kèm theo hướng dẫn từng bước để đặt vé máy bay:

Giao điểm giữa khai thác Bitcoin và AI

Auradine là một công ty của Mỹ chuyên sản xuất phần cứng để khai thác Bitcoin. Các công ty khai thác khác như MARA và Genesis Digital Assets đã mua các thiết bị ASIC của họ.

Tuy nhiên, nghiên cứu của Aurascape cũng làm rõ một hiện tượng khác đang ngày càng phát triển: sự giao thoa giữa các công ty khai thác Bitcoin và ngành công nghiệp AI.

Các nhà khai thác đang mở rộng các lĩnh vực kinh doanh của mình sang các hoạt động liên quan đến trí tuệ nhân tạo. Những công ty này, quen thuộc với việc vận hành các hạ tầng phần cứng lớn và trung tâm dữ liệu, ** cố gắng giảm thiểu sự tiếp xúc với biến động của thị trường khai thác** bằng cách đa dạng hóa dịch vụ của mình.

Phân tích an ninh do Auradine thực hiện là một ví dụ về cách các lĩnh vực này tiến triển và cách các nhà khai thác sử dụng kinh nghiệm kỹ thuật của mình để thâm nhập vào các ngành có nhu cầu về tính toán, phân tích và an ninh mạng ngày càng tăng.