🆕 @SentientAGI a récemment présenté un concept très précieux à NeurIPS - OML (Open, Monetizable, Loyal).

Ce nouveau cadre redéfinit les limites des "modèles ouverts", avec pour objectif de permettre aux modèles de conserver leurs caractéristiques ouvertes tout en réalisant une gouvernance claire, une traçabilité vérifiable et des incitations économiques durables. L'IA open source a toujours été confrontée à une contradiction fondamentale : une fois que les poids sont rendus publics, le contrôle du modèle et la valeur originale sont presque impossibles à garantir, rendant difficile pour les développeurs de suivre l'origine de l'utilisation et d'établir un système économique stable. L'OM a été créé pour résoudre ces problèmes de longue date.

OML permet aux modèles de maintenir la flexibilité d'utilisation tout en préservant les droits des auteurs originaux. Dans le modèle open source traditionnel, il est courant que les modèles soient copiés, renommés et publiés à nouveau, ce qui affaiblit la valeur et la confiance dans l'originalité. Le mécanisme de cryptage introduit par OML confère aux modèles une "identité vérifiable", permettant d'enregistrer et d'auditer toute utilisation, modification ou déploiement.

Dans l'architecture du système, OML adopte une conception à deux niveaux avec une "couche de contrôle (Control Plane)" et une "couche de données (Data Plane)".

La couche de contrôle est principalement responsable de la gestion des clés, de l'évaluation des politiques et de l'authentification des comportements.
La couche de données est responsable de l'exécution réelle de l'inférence du modèle.

Avant chaque exécution du modèle, la couche de contrôle vérifie d'abord les informations d'autorisation pour s'assurer que l'exécution est conforme aux exigences de la politique ; après l'exécution, toutes les opérations sont automatiquement écrites dans un journal de signature, formant un enregistrement immuable. Même si le modèle fonctionne localement, il peut conserver une preuve d'exécution fiable, sans dépendre d'une API centralisée ou d'une plateforme externe. Cette architecture améliore considérablement la disponibilité et la sécurité du modèle.

Un autre point fort est l'empreinte cryptographique (Fingerprint). OML intègre un ensemble de caractéristiques cryptées cachées dans le modèle, qui n'affectent pas les performances du modèle, mais peuvent être utilisées pour vérifier la provenance si nécessaire. Quiconque soupçonne l'origine d'un modèle peut simplement soumettre une demande de vérification cryptographique, et le modèle générera une chaîne de réponse unique de 32 bits, prouvant son appartenance. Ce mécanisme fournit une preuve claire de l'originalité du modèle et permet aux modèles open source de devenir des actifs numériques autorisés et échangeables.

D'un point de vue sectoriel, l'OML propose un nouveau modèle de "gouvernance ouverte". Il rend la distribution et l'utilisation des modèles plus transparentes, permettant aux chercheurs de continuer à collaborer dans un environnement public, tandis que les entreprises et les porteurs de projets peuvent également générer des revenus stables grâce à un système d'autorisation traçable. Le comportement des modèles, les enregistrements d'utilisation et l'état des autorisations sont tous vérifiables, établissant ainsi un écosystème open source durable sur les plans technique et institutionnel.

Lors de l'atelier Lock-LLMs à NeurIPS, Sentient a présenté les résultats de l'OML dans la prévention de l'abus des connaissances des modèles. L'OML introduit une couche de contrôle cryptographique, permettant au processus d'exécution du modèle de posséder une capacité d'exécution des politiques vérifiable. Même si les poids du modèle sont complètement ouverts, ce mécanisme peut garantir que l'exécution suit les règles établies.

L'apparition de l'OML a apporté une nouvelle manière d'équilibrer l'écosystème des modèles open source. Elle clarifie davantage la signification de l'ouverture : partager ne signifie plus perdre le contrôle, l'innovation peut coexister avec la gouvernance. Grâce à une conception intégrant la cryptographie, l'autorisation et l'audit, l'OML offre un cadre opérationnel plus mature et à long terme pour l'IA ouverte de demain. Ce mécanisme permet aux modèles ouverts de bénéficier d'un terreau propice au développement durable, tout en permettant la coexistence des intérêts de la recherche, du commerce et de la communauté au sein d'un même système.

#KAITO #SentientAGI #Sentient