El experto llamó a la tecnología ZKP el fundamento de la "nueva era de la IA" - ForkLog: criptomonedas, IA, singularidad, futuro

# Un experto ha llamado a la tecnología ZKP el fundamento de la «nueva era de la IA»

La tecnología de pruebas de conocimiento cero (ZKP) será la base de una nueva era de inteligencia artificial confiable e identificación digital, considera el CEO de Billions Network, Evin McMullen.

Ella proporcionará a individuos y organizaciones la oportunidad de interactuar de manera segura y transparente con diversas plataformas.

La esencia del problema

Con la proliferación de agentes de IA, las personas deben proporcionar cada vez más datos biométricos para confirmar que no son bots.

Si la información personal se hace pública, las máquinas pueden aprovecharla. Por ejemplo, para hacerse pasar por una persona real. Esto puede interrumpir el funcionamiento de los sistemas diseñados para filtrar a los usuarios “no vivos”.

Surge una “carrera armamentista”: cuanto más rigurosa es la verificación, mayor es el riesgo de filtración de datos en la red.

No es aceptable exigir transparencia de las personas y aceptar la opacidad de las máquinas, considera McMullen. Tanto a los bots como a los usuarios en línea les hacen falta formas más efectivas de verificación de identidad.

Recopilar datos biométricos y formar registros centralizados no es una solución, ya que dichas bases inevitablemente atraerán la atención de los ciberdelincuentes.

La falta de confianza obstaculiza el progreso

La falta de mecanismos para verificar de manera confiable la identidad de la inteligencia artificial crea problemas. Mientras los agentes de IA puedan hacerse pasar por personas, manipular mercados o realizar transacciones no autorizadas, las empresas no se apresuran a adoptar sistemas autónomos de manera amplia.

McMullen enfatizó que los LLM después de ser reentrenados se vuelven más peligrosos: generan respuestas dañinas o indeseables 22 veces más a menudo en comparación con las redes neuronales “base” originales.

Hackear, es decir, eludir los sistemas de seguridad incorporados a través del jailbreak, también es más sencillo con tales soluciones ajustadas.

Si el servicio no entiende quién le está contactando, cualquier intento de interacción con la IA se convierte en un riesgo potencial de filtración o uso no autorizado.

Los sistemas de IA legítimos necesitan datos verificables para participar en la economía emergente de “agente-agente”. Si un bot de trading realiza una operación con otro bot, ambas partes deben estar seguras de su identidad y del sistema de rendición de cuentas.

Desde el punto de vista de las personas, la situación también es imperfecta. Los sistemas tradicionales de verificación de identidad a menudo conducen a filtraciones masivas de datos, permiten la supervisión autoritaria y generan miles de millones en ingresos para las corporaciones por la venta de información personal sin ninguna compensación para los propietarios.

Las personas no quieren compartir datos personales, pero los requisitos normativos obligan a hacerlo.

Solución

Las pruebas de conocimiento cero pueden convertirse en una herramienta mediante la cual tanto las personas como la IA podrán verificar sus credenciales sin riesgo de abusos.

ZKP permiten a los sujetos verificar ciertas afirmaciones sin revelar los datos de origen. Ejemplos:

• el usuario confirma que tiene más de 21 años, sin proporcionar la fecha de nacimiento;
• La IA demuestra el aprendizaje en un conjunto de datos ético sin revelar algoritmos patentados;
• la organización financiera se asegura de que el cliente cumpla con los requisitos regulatorios sin almacenar su información personal.

«ZKP pueden cambiar completamente la situación, permitiéndonos demostrar quiénes somos, sin transmitir datos confidenciales. Pero su implementación sigue siendo lenta», subrayó McMullen.

La tecnología sigue siendo una solución de nicho en una zona gris de regulación y es poco conocida por el público en general. Además, las empresas que ganan dinero con la recopilación de datos personales no están interesadas en integrar ZKP.

Sin embargo, los jugadores más flexibles del mercado de identificación ya comienzan a aplicar tecnologías de divulgación cero, señaló McMullen.

«A medida que aparezcan estándares normativos y aumente la concienciación, los ZKP pueden convertirse en la base de una nueva era de IA confiable e identificación digital. La tecnología brindará a individuos y organizaciones la oportunidad de interactuar de manera segura y transparente con las plataformas», añadió el experto.

Consecuencias

La IA generativa puede aportar billones de dólares anualmente a la economía mundial, sin embargo, una parte significativa de este potencial permanece sin realizar debido a las barreras relacionadas con la verificación de identidad:

• los inversores institucionales exigen un cumplimiento confiable de los requisitos KYC/AML antes de invertir dinero en estrategias basadas en inteligencia artificial;
• las empresas insisten en la verificación de la identidad de los agentes antes de permitir que los sistemas autónomos accedan a la infraestructura crítica;
• los reguladores necesitan mecanismos de rendición de cuentas antes de aprobar la implementación de IA en áreas sensibles.

«Los sistemas de identificación basados en ZKP cumplen con todos los requisitos mencionados anteriormente, manteniendo al mismo tiempo la confidencialidad y autonomía», señaló McMullen.

Además, la tecnología puede abordar el creciente problema de los deepfakes. Cada fragmento de contenido se puede vincular a un creador verificado sin revelar su identidad.

Recordemos que en julio comenzaron a funcionar los certificados de identidad digitales en China.