L'expert a qualifié la technologie ZKP de fondement de la « nouvelle ère de l'IA » - ForkLog : cryptomonnaies, IA, singularité, avenir

# Un expert a qualifié la technologie ZKP de fondement de « la nouvelle ère de l'IA »

La technologie des preuves à divulgation nulle (ZKP) sera à la base d'une nouvelle ère de l'intelligence artificielle fiable et de l'identification numérique, estime le PDG de Billions Network, Evan McMullen.

Elle offrira aux particuliers et aux organisations la possibilité d'interagir de manière sécurisée et transparente avec diverses plateformes.

L'essence du problème

Avec la propagation des agents IA, les gens doivent fournir de plus en plus de données biométriques pour prouver qu'ils ne sont pas des bots.

Si des informations personnelles deviennent accessibles au public, des machines peuvent en profiter. Par exemple, pour se faire passer pour une personne réelle. Cela peut perturber le fonctionnement des systèmes conçus pour filtrer les utilisateurs “non vivants”.

Il y a une « course à l'armement » : plus les vérifications sont rigoureuses, plus le risque de fuite de données sur le réseau est élevé.

Il est inacceptable d'exiger de la transparence des personnes tout en acceptant l'opacité des machines, estime McMullen. Tant les bots que les utilisateurs en ligne ont besoin de moyens plus efficaces pour vérifier leur identité.

Collecter des données biométriques et former des registres centralisés n'est pas une solution, car de telles bases attireront inévitablement l'attention des cybercriminels.

Le manque de confiance entrave le progrès

L'absence de mécanismes pour vérifier de manière fiable l'identité de l'intelligence artificielle pose des problèmes. Tant que les agents IA peuvent se faire passer pour des humains, manipuler les marchés ou effectuer des transactions non autorisées, les entreprises ne sont pas pressées d'adopter largement des systèmes autonomes.

Macmullen a souligné que les LLM deviennent plus dangereux après un réentraînement - ils produisent des réponses nuisibles ou indésirables 22 fois plus souvent par rapport aux réseaux neuronaux « de base » initiaux.

Pirater, c'est-à-dire contourner les systèmes de sécurité intégrés via un jailbreak, de telles solutions configurées sont aussi plus simples.

Si le service ne comprend pas qui s'adresse à lui, toute tentative d'interaction avec l'IA devient un risque potentiel de fuite ou d'utilisation non autorisée.

Les systèmes d'IA légitimes ont besoin de données vérifiables pour participer à l'économie émergente « agent-agent ». Si un bot de trading effectue une opération avec un autre bot, les deux parties doivent être sûres de son identité et du système de responsabilité.

Du point de vue des gens, la situation est également imparfaite. Les systèmes traditionnels de vérification de l'identité entraînent souvent des fuites massives de données, permettent une surveillance autoritaire et rapportent des milliards de dollars aux entreprises grâce à la vente d'informations personnelles sans aucune compensation pour les propriétaires.

Les gens ne veulent pas partager leurs données personnelles, mais les exigences réglementaires les obligent à le faire.

Solution

Les preuves à divulgation nulle peuvent devenir un outil permettant aux humains et aux IA de confirmer leurs qualifications sans risque d'abus.

Les ZKP permettent aux acteurs de vérifier certaines assertions sans divulguer les données d'origine. Exemples :

• l'utilisateur confirme qu'il a plus de 21 ans sans indiquer sa date de naissance;
• L'IA démontre un apprentissage sur un ensemble de données éthiques sans divulguer des algorithmes brevetés;
• l'organisation financière s'assure que le client respecte les exigences réglementaires, sans conserver ses informations personnelles.

«Les ZKP peuvent complètement changer la donne, nous permettant de prouver qui nous sommes sans transmettre de données confidentielles. Mais leur adoption reste lente», a souligné McMullen.

La technologie reste encore une solution de niche dans une zone grise de réglementation et est peu connue du grand public. De plus, les entreprises qui gagnent de l'argent en collectant des données personnelles ne sont pas intéressées par l'intégration des ZKP.

Cependant, les acteurs du marché de l'identification plus flexibles commencent déjà à appliquer des technologies de zéro connaissance, a déclaré Macmullen.

«Avec l'émergence de normes réglementaires et une sensibilisation accrue, les ZKP pourraient devenir la base d'une nouvelle ère d'IA fiable et d'identification numérique. La technologie permettra aux particuliers et aux organisations d'interagir de manière sécurisée et transparente avec les plateformes», a ajouté l'expert.

Conséquences

L'IA générative pourrait rapporter des trillions de dollars à l'économie mondiale chaque année, cependant une grande partie de ce potentiel reste non réalisé en raison des barrières liées à la vérification de l'identité :

• Les investisseurs institutionnels exigent un respect rigoureux des exigences KYC/AML avant d'investir dans des stratégies basées sur l'intelligence artificielle;
• les entreprises insistent sur la vérification de l'identité des agents avant de permettre aux systèmes autonomes d'accéder à l'infrastructure critique;
• Les régulateurs ont besoin de mécanismes de responsabilité avant d'approuver l'intégration de l'IA dans des domaines sensibles.

«Les systèmes d'identification basés sur ZKP répondent à toutes les exigences énumérées ci-dessus, tout en préservant la confidentialité et l'autonomie», a déclaré McMullen.

De plus, la technologie est capable de résoudre le problème croissant des deepfakes. Chaque fragment de contenu peut être lié à un créateur vérifié sans révéler son identité.

Rappelons qu'en juillet, des certificats d'identité numériques ont été mis en service en Chine.