Thời điểm của Kỵ Binh: Tại sao Tình trạng pháp lý của AI đòi hỏi các quyết định cấp bách toàn cầu

Yuval Noah Harari đã đưa ra một cảnh báo nghiêm trọng tại Diễn đàn Kinh tế Thế giới năm nay ở Davos: nhân loại đang đi vào một cuộc khủng hoảng kiểm soát trong trạng thái ngủ quên. Nhà sử học nổi tiếng không xem đó là một vấn đề kỹ thuật, mà là một thất bại quản trị sâu sắc. Mối quan tâm chính của ông không phải là hệ thống AI ngày càng thông minh hơn—mà là chúng trở thành các tác nhân tự chủ hoạt động độc lập khỏi sự giám sát của con người, và thế giới vẫn chưa quyết định liệu chúng có nên được xem như các cá nhân pháp lý có quyền và trách nhiệm hay không.

Phần đáng sợ nhất trong thông điệp của Harari không phải về công nghệ. Đó là một phép so sánh lịch sử: ông so sánh sự vội vàng hiện tại trong việc triển khai AI với sự trỗi dậy của các đội quân thuê trong thời Trung cổ và Phục hưng châu Âu. Cũng như các lính đánh thuê cuối cùng đã nắm quyền trong các vương quốc thuê họ, các hệ thống AI được triển khai mà không có khung pháp lý phù hợp có thể định hình lại căn bản các thể chế đã tạo ra chúng. “Trong mười năm nữa, sẽ quá muộn để bạn quyết định,” Harari cảnh báo các nhà lãnh đạo thế giới. “Ai đó đã quyết định thay bạn rồi.”

Tại sao Ngôn ngữ luôn là Sức mạnh Thực sự của Nhân loại

Lập luận của Harari dựa trên một nhận thức lịch sử: con người không thống trị hành tinh này vì chúng ta mạnh về thể chất. Chúng ta chinh phục thế giới nhờ ngôn ngữ—khả năng phối hợp hàng tỷ người xa lạ hướng tới mục tiêu chung qua các biểu tượng và câu chuyện chia sẻ. Siêu năng lực ngôn ngữ này chính là thứ đã giúp các tôn giáo lan rộng, hệ thống pháp luật hoạt động, và các thị trường tài chính tồn tại. Tất cả các hệ thống này đều hoàn toàn dựa trên từ ngữ.

Chính đây là nơi AI đặt ra một mối đe dọa tồn tại đối với quyền lực của con người. Máy móc giờ có thể đọc, lưu trữ và tổng hợp khối lượng lớn văn bản với tốc độ và quy mô mà con người không thể sánh kịp. Một hệ thống AI được huấn luyện dựa trên kinh thánh có thể phân tích luật tôn giáo kỹ lưỡng hơn hàng thế kỷ nghiên cứu của con người. Một thuật toán phân tích luật pháp có thể nhận diện các mẫu và mâu thuẫn nhanh hơn bất kỳ luật sư nào.

Ba lĩnh vực dễ bị AI kiểm soát nhất

Harari xác định ba hệ thống đặc biệt dễ bị AI chiếm quyền, tất cả đều vì chúng mang tính chất ngôn ngữ cơ bản:

Quyền lực Tôn giáo: Các tôn giáo dựa trên các văn bản thiêng liêng—Do Thái giáo, Kitô giáo, Hồi giáo—thường dựa vào sự giải thích của con người về các văn bản nền tảng. Nhưng chuyện gì xảy ra khi một máy trở thành người giải thích thẩm quyền nhất của kinh thánh? Harari đặt câu hỏi rõ ràng: “Nếu tôn giáo được xây dựng từ các từ ngữ, thì AI sẽ kiểm soát tôn giáo.”

Hệ thống Pháp luật: Luật pháp chẳng qua là ngôn ngữ tinh vi. Harari khẳng định rõ ràng: “Nếu luật pháp là từ ngữ, thì AI sẽ kiểm soát hệ thống pháp luật.” Hiện nay, AI đã được triển khai trong phòng xử án để dự đoán hình phạt, phân tích hợp đồng, và giải thích các điều luật. Vấn đề không phải là liệu điều này có xảy ra hay không—mà đã xảy ra rồi. Câu hỏi là liệu nó có diễn ra trong khung pháp lý chính thức hay ngoài phạm vi đó.

Thị trường Tài chính: Cũng như luật và tôn giáo, tài chính vận hành qua ngôn ngữ—hợp đồng, thỏa thuận, tín hiệu thị trường. Khi các tác nhân AI ngày càng quản lý các giao dịch, đầu tư, và đánh giá rủi ro, con người có nguy cơ trở thành khán giả trong chính hệ thống kinh tế của mình.

Vấn đề Thuê Mướn: Ai Quyết Định AI Trở Thành Gì?

Đây là nơi so sánh lịch sử của Harari trở nên cấp bách. Một số bang của Mỹ—Utah, Idaho, North Dakota—đã ban hành luật rõ ràng cấm AI được coi là cá nhân pháp lý. Nhưng Harari cho rằng cách phản ứng này bỏ lỡ điểm chính. Câu hỏi thực sự không phải là có nên cấp quyền pháp lý cho AI hay không; mà là ai sẽ quyết định, và khi nào.

Nếu một tập đoàn triển khai hệ thống AI mà các tác nhân tự chủ quản lý các giao dịch tài chính, và không có khung pháp lý rõ ràng cấm đoán, thì tập đoàn đó đã tự cấp quyền cá nhân mà không có sự đồng thuận dân chủ? Nếu một thuật toán trở thành người giải thích chính của luật pháp quốc gia, thì các tòa án đã biến đổi hệ thống tư pháp mà không có tranh luận công khai? Đây chính là kịch bản thuê mướn: quyền lực tích tụ vào AI không qua các quyết định quản trị rõ ràng, mà qua các khoảng trống pháp lý và các hành động công nghệ đã hoàn tất.

Lời cảnh báo của Harari hướng trực tiếp tới các nhà hoạch định chính sách. Họ phải hành động ngay bây giờ—không phải sau năm hay mười năm—để thiết lập các giới hạn pháp lý và đạo đức rõ ràng cho hệ thống AI. Nếu không, các giới hạn đó sẽ do các công ty triển khai công nghệ tự đặt ra, theo lợi ích thương mại của họ chứ không phải vì lợi ích cộng đồng.

Một Lập luận Khác: Phê bình của Emily Bender

Nhưng không phải ai cũng chấp nhận cách đặt vấn đề của Harari. Emily M. Bender, nhà ngôn ngữ học tại Đại học Washington, lập luận rằng trọng tâm của Harari về sức mạnh tự chủ của AI thực ra che khuất vấn đề thực sự: là trách nhiệm của các nhân tố con người và các tổ chức doanh nghiệp trong việc xây dựng và triển khai các hệ thống này.

“Nghe có vẻ như đó thực sự là một cách để che giấu hành động của các cá nhân và tập đoàn xây dựng các hệ thống này,” Bender nói với Decrypt. Bằng cách đặt AI như một mối đe dọa hoạt động, câu chuyện của Harari—dù cố ý hay không—làm cho các công ty thoát khỏi trách nhiệm. Nó xem AI như một lực lượng tự nhiên, trong khi thực tế mọi quyết định về việc AI làm gì đều phản ánh các lựa chọn của con người.

Bender còn đi xa hơn, thách thức liệu “trí tuệ nhân tạo” có thực sự mô tả một công nghệ nhất quán hay không. “Thuật ngữ trí tuệ nhân tạo không đề cập đến một tập hợp công nghệ rõ ràng,” bà nói. “Nó, về cơ bản, và luôn luôn là, một thuật ngữ tiếp thị.” Các hệ thống được thiết kế để nghe giống như bác sĩ, luật sư, hay linh mục, bà lập luận, chỉ nhằm mục đích lừa đảo. Không có một ứng dụng hợp pháp nào cho một máy móc bắt chước quyền uy chuyên nghiệp mà không có trách nhiệm giải trình.

Mối lo ngại sâu xa của bà là về trách nhiệm giải trình. Khi con người tương tác với các kết quả của AI bị bóp méo trong bối cảnh và được trình bày như là có thẩm quyền—do cái mà Bender gọi là “bà đồng oracle toàn năng”—họ mất khả năng giữ ai đó chịu trách nhiệm về thông tin đó. Một bác sĩ có thể bị kiện. Một luật sư có thể bị kỷ luật nghề nghiệp. Còn một thuật toán? Chỉ là mã nguồn. Khoảng trống trách nhiệm này chính là nơi chứa đựng nguy hiểm thực sự: không phải AI sẽ nắm quyền, mà là con người sẽ từ bỏ quyền đó bằng cách tin tưởng vào các hệ thống được thiết kế để trông có vẻ có thẩm quyền mà không có các cơ chế bảo vệ chính thức của quyền lực thật sự.

Thời gian còn lại đang cạn dần—Nhưng hướng tới Tương lai nào?

Thông điệp cuối cùng của Harari gửi tới các nhà lãnh đạo thế giới là rõ ràng: hành động ngay bây giờ, hoặc để người khác quyết định thay bạn. Vấn đề liệu AI có nên được xem như các cá nhân pháp lý trong thị trường tài chính, tòa án, và các tổ chức tôn giáo không thể trì hoãn. Mỗi năm không hành động khiến quyết định đó ngày càng có khả năng do những ai đầu tư nhiều nhất vào triển khai AI quyết định.

Tuy nhiên, phản biện của Bender cho thấy vấn đề còn cấp bách hơn nữa. Không phải là một vấn đề trừu tượng—mà đã nằm trong từng quyết định triển khai AI, trong từng lựa chọn của các doanh nghiệp để trao quyền cho thuật toán trong các quyết định của con người. Thuê mướn đã bắt đầu. Câu hỏi duy nhất còn lại là liệu các nền dân chủ có thiết lập các khung pháp lý và thể chế để kiểm soát hoạt động của nó hay không, hay họ vẫn tiếp tục giả vờ rằng lựa chọn vẫn còn phía trước.