🆕 @SentientAGI gần đây đã giới thiệu một khái niệm rất có giá trị tại NeurIPS — OML (Open, Monetizable, Loyal).

Bộ khung mới này đang định nghĩa lại ranh giới của "mô hình mở", với mục tiêu là để các mô hình vừa có thể duy trì tính chất mở, vừa có thể thực hiện quản trị rõ ràng, nguồn gốc có thể xác minh, và các động lực kinh tế bền vững. AI mã nguồn mở luôn tồn tại một mâu thuẫn cốt lõi: một khi trọng số được công khai, quyền kiểm soát của mô hình và giá trị sáng tạo gần như không thể được đảm bảo, các nhà phát triển khó khăn trong việc theo dõi nguồn gốc sử dụng, cũng như không thể xây dựng hệ thống kinh tế ổn định. OML được tạo ra nhằm giải quyết những vấn đề tồn tại lâu dài này.

OML cho phép mô hình duy trì tính linh hoạt trong khi vẫn bảo vệ quyền lợi của tác giả gốc. Trong mô hình mã nguồn mở truyền thống, việc sao chép, đổi tên và phát hành lại mô hình là hiện tượng phổ biến, cách thức này làm giảm giá trị và niềm tin vào sự sáng tạo. Cơ chế mã hóa mà OML đưa ra giúp mô hình có "danh tính có thể xác minh", bất kỳ hành động sử dụng, sửa đổi hoặc triển khai nào đều có thể được ghi lại và kiểm toán.

Trong kiến trúc hệ thống, OML áp dụng thiết kế hai lớp "Lớp kiểm soát (Control Plane)" và "Lớp dữ liệu (Data Plane)".

Lớp kiểm soát chủ yếu chịu trách nhiệm quản lý khóa, đánh giá chính sách và xác thực hành vi.
Lớp dữ liệu chịu trách nhiệm thực hiện suy diễn thực tế của mô hình.

Trước mỗi lần chạy mô hình, lớp điều khiển sẽ xác minh thông tin ủy quyền để đảm bảo việc thực thi phù hợp với yêu cầu chính sách; sau khi chạy, tất cả các thao tác sẽ tự động được ghi vào nhật ký chữ ký, tạo thành một bản ghi không thể bị thay đổi. Ngay cả khi mô hình chạy cục bộ, nó vẫn có thể giữ được chứng minh chạy đáng tin cậy, không phụ thuộc vào API tập trung hoặc nền tảng bên ngoài. Kiến trúc này nâng cao đáng kể tính khả dụng và an toàn của mô hình.

Một điểm nổi bật khác là Dấu vân tay mã hóa (Fingerprint). OML nhúng một tập hợp các đặc điểm mã hóa ẩn vào mô hình, những đặc điểm này không ảnh hưởng đến hiệu suất của mô hình nhưng có thể xác minh nguồn gốc khi cần. Bất kỳ ai nghi ngờ nguồn gốc của một mô hình chỉ cần thực hiện yêu cầu xác minh mã hóa, mô hình sẽ tạo ra một chuỗi phản hồi độc đáo dài 32 bit, chứng minh quyền sở hữu của nó. Cơ chế này cung cấp bằng chứng rõ ràng về tính nguyên bản của mô hình và biến các mô hình mã nguồn mở thành tài sản kỹ thuật số có thể cấp phép và giao dịch.

Xét từ góc độ ngành, OML cung cấp một mô hình "quản trị mở" mới. Nó làm cho việc phân phối và sử dụng mô hình trở nên minh bạch hơn, các nhà nghiên cứu có thể tiếp tục hợp tác trong môi trường công khai, trong khi các doanh nghiệp và dự án cũng có thể tạo ra lợi nhuận ổn định thông qua hệ thống cấp phép có thể truy xuất. Hành vi của mô hình, hồ sơ sử dụng và trạng thái cấp phép đều có thể được kiểm tra, từ cả khía cạnh kỹ thuật và thể chế xây dựng một hệ sinh thái mã nguồn mở bền vững.

Tại Hội thảo Lock-LLMs của NeurIPS, Sentient đã trình bày những thành tựu của OML trong việc ngăn chặn việc lạm dụng kiến thức của mô hình. OML thông qua việc giới thiệu một lớp kiểm soát mã hóa, giúp cho quá trình hoạt động của mô hình có khả năng thực thi chính sách có thể xác minh. Ngay cả khi trọng số của mô hình hoàn toàn công khai, vẫn có thể đảm bảo rằng quá trình hoạt động tuân theo các quy tắc đã được thiết lập thông qua cơ chế này.

Sự xuất hiện của OML đã mang đến một cách cân bằng mới cho hệ sinh thái mô hình nguồn mở. Nó làm rõ hơn ý nghĩa của việc mở cửa - chia sẻ không còn đồng nghĩa với việc mất kiểm soát, đổi mới có thể song hành với quản trị. Thông qua thiết kế ba trong một gồm mã hóa, ủy quyền và kiểm toán, OML cung cấp một khung hoạt động trưởng thành và lâu dài cho AI mở trong tương lai. Cơ chế này giúp mô hình mở có được nền tảng phát triển bền vững, đồng thời cho phép lợi ích của nghiên cứu, thương mại và cộng đồng coexist trong cùng một hệ thống.

#KAITO #SentientAGI #Sentient