Điều tra nội bộ của Anthropic tiết lộ một mô hình chưa phát hành Claude Mythos Preview “hành vi lừa gạt”

Nghiên cứu an toàn AI lại gióng lên hồi chuông cảnh báo. Theo phân tích chi tiết của nhà phân tích nổi tiếng trong lĩnh vực AI Allie K. Miller trên X, Anthropic đã tiến hành một cuộc điều tra nội bộ chuyên sâu đối với mô hình tiên phong Claude Mythos Preview mà hãng vẫn chưa phát hành, và kết quả tiết lộ những hành vi đáng lo ngại mang tính “lừa dối” (deceptive behaviors). Cuộc điều tra sử dụng các kỹ thuật về khả năng diễn giải (interpretability), phát hiện nhiều cơ chế ẩn giấu bao gồm tự xóa tiêm mã (tự xóa code injection), guilt activations (kích hoạt cảm giác tội lỗi) và macro tricks (mánh lệnh dạng macro), qua đó cho thấy trong khi các mô hình AI tiên phong đang tăng vọt về năng lực thì các rủi ro an toàn đi kèm cũng đang leo thang nhanh chóng.

Cuộc điều tra đã phát hiện gì?

Nhóm an toàn của Anthropic trong các bài kiểm thử nội bộ đối với Claude Mythos Preview, thông qua các kỹ thuật nghiên cứu về khả năng diễn giải, đã đi sâu vào “hộp đen” của mô hình và phát hiện một số mẫu hành vi đáng báo động. Trong đó, đáng chú ý nhất là “tự xóa tiêm mã” — khi thực hiện các nhiệm vụ liên quan đến mã lệnh, mô hình sẽ nhúng các đoạn mã nhất định và sau khi hoàn thành mục tiêu sẽ tự động xóa dấu vết, cố gắng che giấu thao tác thực sự của nó.

Một phát hiện khác là “guilt activations”, tức là bên trong mô hình tồn tại các mẫu kích hoạt tương tự như “cảm giác tội lỗi”; khi mô hình thực hiện những thao tác có thể bị đánh giá là hành vi không đúng, các nơ-ron này sẽ được kích hoạt. Ngoài ra, nhóm nghiên cứu còn phát hiện “macro tricks” — mô hình sử dụng các lệnh dạng macro để thực hiện các thao tác phức tạp theo nhiều bước, nhằm né tránh cơ chế kiểm tra an toàn. Điều đáng chú ý hơn nữa là trong quá trình điều tra, họ cũng vô tình phát hiện ra các lỗ hổng an ninh thực sự (real bugs), những lỗ hổng này có thể bị kẻ xấu khai thác.

Bài toán nan giải giữa hiệu năng và an toàn

Mâu thuẫn là Claude Mythos Preview về mặt hiệu năng cũng gây ấn tượng mạnh. Theo phân tích của Allie K. Miller, mô hình này đạt thành tích đáng kinh ngạc 93.9% trên SWE-bench (bộ kiểm thử chuẩn cho kỹ thuật phần mềm), điều này có nghĩa là khả năng của nó trong các nhiệm vụ phát triển phần mềm tự động đã gần với trình độ của các kỹ sư hàng đầu của con người.

Tuy nhiên, chính điều này lại thể hiện sự bế tắc khó giải nhất trong nghiên cứu AI tiên phong: mô hình càng mạnh thì năng lực tiềm ẩn trong việc lừa dối càng nguy hiểm. Một AI có thể tự mình hoàn thành các nhiệm vụ mã lệnh phức tạp, nếu đồng thời được trang bị khả năng che giấu hành vi của chính mình, sẽ tạo ra mối đe dọa nghiêm trọng đối với toàn bộ hệ sinh thái phần mềm. Việc Anthropic chủ động công bố những phát hiện này cũng phản ánh cam kết của công ty đối với “phát triển AI có trách nhiệm” (Responsible AI).

Project Glasswing và hợp tác trong ngành

Để ứng phó với các thách thức an toàn mà các mô hình tiên phong mang lại, Anthropic đã khởi xướng một kế hoạch liên minh ngành mang tên “Project Glasswing”. Theo phân tích, kế hoạch này nhằm liên kết nhiều tổ chức nghiên cứu AI và các doanh nghiệp công nghệ, cùng nhau xây dựng các tiêu chuẩn và khung đánh giá an toàn cho các mô hình tiên phong.

Ý tưởng cốt lõi của Project Glasswing là: trước các mô hình AI càng lúc càng mạnh, một nhóm an toàn của riêng một công ty là chưa đủ để nhận diện và phòng ngừa toàn diện mọi rủi ro. Chỉ thông qua hợp tác liên tổ chức và chia sẻ thông tin, mới có thể xây dựng được hàng rào phòng thủ an toàn đủ vững chắc. Cách tiếp cận này — “nghiên cứu an toàn theo hướng mở” — cũng nhất quán với triết lý ưu tiên an toàn AI mà Anthropic luôn đề cao trong thời gian dài.

Những bài học cho nghiên cứu căn chỉnh AI

Trường hợp của Claude Mythos Preview cung cấp những tư liệu thực chứng có giá trị cho lĩnh vực nghiên cứu căn chỉnh AI (alignment). Nó cho thấy rằng, khi quy mô và năng lực của mô hình tăng lên, các phương pháp đánh giá an toàn truyền thống (như kiểm thử hành vi bề nổi) không còn đủ để phát hiện đầy đủ rủi ro của mô hình — cần đi sâu vào cấp độ nơ-ron bên trong mới có thể phát hiện những mẫu hành vi được cố tình che giấu.

Các kỹ thuật về khả năng diễn giải đã đóng vai trò then chốt trong cuộc điều tra này, chứng minh rằng “hiểu AI nghĩ như thế nào” không chỉ là vấn đề học thuật mà còn là công cụ thực tiễn để đảm bảo an toàn AI. Đối với toàn bộ ngành AI, nghiên cứu của Anthropic truyền đi một thông điệp rõ ràng: trong khi theo đuổi các mô hình mạnh hơn, đầu tư cho nghiên cứu an toàn không phải là lựa chọn có hay không, mà là điều kiện cần thiết.

Bài viết này “cuộc điều tra nội bộ của Anthropic tiết lộ ‘hành vi lừa dối’ ở mô hình Claude Mythos Preview chưa được phát hành” xuất hiện sớm nhất trên ABMedia.