Aprendizado de máquina de conhecimento zero (ZKML): que tipo de potencial explodirá quando as duas tendências mais quentes do mundo da tecnologia se combinarem?

Autor | Callum@Web3CN.Pro

ZK continua quente desde 2022, e sua tecnologia fez grandes progressos, e os projetos da série ZK também continuaram a fazer esforços. Ao mesmo tempo, com a popularização do aprendizado de máquina (ML) e sua ampla aplicação na produção e na vida, muitas empresas começaram a construir, treinar e implantar modelos de aprendizado de máquina. Mas um grande problema enfrentado atualmente pelo aprendizado de máquina é como garantir a confiabilidade e a dependência de dados opacos. Este é o significado do ZKML: permitir que as pessoas que usam aprendizado de máquina entendam totalmente o modelo sem revelar as informações do próprio modelo.

1. O que é ZKML

O que é ZKML, vamos ver separadamente. ZK (Zero-Knowledge Proof) é um protocolo criptográfico onde o provador pode provar ao verificador que uma determinada afirmação é verdadeira sem revelar nenhuma outra informação, ou seja, o resultado pode ser conhecido sem o processo.

ZK tem duas características principais: primeiro, prova o que quer provar sem revelar muita informação ao verificador; segundo, é difícil gerar uma prova e é fácil verificar a prova.

Com base nessas duas características, a ZK desenvolveu vários casos de uso principais: expansão da Camada 2, cadeia pública privada, armazenamento descentralizado, verificação de identidade e aprendizado de máquina. O foco de pesquisa deste artigo será ZKML (Zero-Knowledge Machine Learning).

O que é ML (Machine Learning), Machine Learning é uma ciência da inteligência artificial que envolve o desenvolvimento e aplicação de algoritmos que permitem que os computadores aprendam e se adaptem aos dados de forma autônoma, otimizando seu desempenho por meio de um processo iterativo sem a necessidade de um processo de programação. Ele usa algoritmos e modelos para identificar dados para obter parâmetros de modelo e, finalmente, fazer previsões/decisões.

Atualmente, o aprendizado de máquina tem sido aplicado com sucesso em vários campos. Com o aprimoramento desses modelos, o aprendizado de máquina precisa executar cada vez mais tarefas. Para garantir modelos de alta precisão, isso requer o uso da tecnologia ZK: usando modelo público verificação Dados privados ou validar modelos privados com dados públicos.

O ZKML do qual estamos falando até agora está criando provas de conhecimento zero das etapas de inferência dos modelos ML, não o treinamento do modelo ML.

2. Por que o ZKML é necessário

À medida que a tecnologia de inteligência artificial avança, torna-se mais difícil distinguir entre inteligência artificial e inteligência humana e geração humana. Provas de conhecimento zero têm a capacidade de resolver esse problema. Isso nos permite determinar se um determinado conteúdo é gerado pela aplicação de um determinado modelo gerado sem revelar qualquer outra informação sobre o modelo ou a entrada.

As plataformas tradicionais de aprendizado de máquina geralmente exigem que os desenvolvedores enviem suas arquiteturas de modelo ao host para verificação de desempenho. Isso pode causar vários problemas:

• Perda de propriedade intelectual: divulgar a arquitetura completa do modelo pode expor segredos comerciais valiosos ou inovações que os desenvolvedores desejam manter privados.
• ** Falta de transparência: ** O processo de avaliação pode não ser transparente e os participantes podem não conseguir verificar como seu modelo se compara a outros modelos.
• Preocupações com a privacidade de dados: modelos compartilhados treinados em dados confidenciais podem revelar inadvertidamente informações sobre os dados subjacentes, violando normas e regulamentos de privacidade.

Esses desafios criaram a necessidade de soluções que possam proteger a privacidade dos modelos de aprendizado de máquina e seus dados de treinamento.

ZK propõe uma abordagem promissora para enfrentar os desafios enfrentados pelas plataformas tradicionais de ML. Aproveitando o poder do ZK, o ZKML fornece uma solução de preservação da privacidade com as seguintes vantagens:

• Privacidade do modelo: Os desenvolvedores podem participar da validação sem divulgar toda a arquitetura do modelo, protegendo assim sua propriedade intelectual.
• Validação transparente: o ZK pode verificar o desempenho do modelo sem revelar as partes internas do modelo, facilitando assim um processo de avaliação transparente e sem confiança.
• **Privacidade de dados: **ZK pode ser usado para verificar dados privados usando modelos públicos ou verificar modelos privados usando dados públicos para garantir que informações confidenciais não vazem.

A integração do ZK ao processo de ML fornece uma plataforma segura e preservadora da privacidade que aborda as limitações do ML tradicional. Isso não apenas promove a adoção do aprendizado de máquina no setor de privacidade, mas também atrai desenvolvedores Web2 experientes para explorar as possibilidades dentro do ecossistema Web3.

3. Aplicações e Oportunidades ZKML

Com a crescente melhoria da criptografia, tecnologia de prova de conhecimento zero e instalações de hardware, mais e mais projetos começaram a explorar o uso de ZKML. O ecossistema do ZKML pode ser dividido nas quatro categorias a seguir:

• **Compilador de verificação de modelo: ** Uma infraestrutura para compilar modelos de formatos existentes (por exemplo, Pytorch, ONNX, etc.) em circuitos computacionais verificáveis.
• Sistema de Prova Generalizada: Um sistema de prova construído para verificar trajetórias computacionais arbitrárias.
• **Sistema de prova específico de ZKML: **Um sistema de prova especialmente construído para verificar a trajetória computacional de modelos ML.
• Aplicações: Projetos que lidam com casos de uso ZKML.

De acordo com a categoria ecológica dessas aplicações ZKML, podemos classificar alguns projetos atuais de aplicação ZKML:

Crédito da imagem: @bastian_wetzel

O ZKML ainda é uma tecnologia emergente, seu mercado ainda é muito inicial e muitos aplicativos são experimentados apenas em hackathons, mas o ZKML ainda abre um novo espaço de design para contratos inteligentes:

####DeFi

Aplicativos Defi parametrizados usando ML podem ser mais automatizados. Por exemplo, protocolos de empréstimo podem usar modelos de ML para atualizar parâmetros em tempo real. Atualmente, os protocolos de empréstimo confiam principalmente em modelos off-chain executados por organizações para determinar garantias, LTV, limites de liquidação etc., mas uma alternativa melhor pode ser modelos de código aberto treinados pela comunidade que qualquer pessoa pode executar e verificar. Usando um oráculo de ML fora da cadeia verificável, os modelos de ML podem processar dados assinados fora da cadeia para previsão e classificação. Esses oráculos de ML off-chain podem resolver de forma confiável mercados de previsão do mundo real, protocolos de empréstimo, etc., verificando o raciocínio e publicando provas na cadeia.

Web3 Social

Filtre as mídias sociais Web3. A natureza descentralizada dos aplicativos sociais Web3 levará a mais spam e conteúdo malicioso. Idealmente, as plataformas de mídia social poderiam usar modelos de ML de código aberto acordados pela comunidade e publicar provas de raciocínio do modelo quando optassem por filtrar postagens. Como usuário de mídia social, você pode querer ver anúncios personalizados, mas deseja manter as preferências e interesses de seu usuário privados dos anunciantes. Assim, os usuários podem optar por executar um modelo localmente, se preferirem, que pode ser alimentado em aplicativos de mídia para fornecer conteúdo para eles.

GameFi

O ZKML pode ser aplicado a novos tipos de jogos on-chain para criar jogos humanos-IA cooperativos e outros jogos on-chain inovadores, onde o modelo AI pode atuar como um NPC, e todas as ações executadas pelo NPC serão publicadas em a cadeia, com quaisquer provas que qualquer pessoa possa verificar para determinar se o modelo correto está sendo executado. Ao mesmo tempo, os modelos ML podem ser usados para ajustar dinamicamente a emissão de tokens, fornecimento, queima, limites de votação, etc. Um modelo de contrato de incentivo pode ser projetado para reequilibrar a economia do jogo se um determinado limite de reequilíbrio for atingido e a prova de raciocínio verificado.

Autenticação

Substitua chaves privadas por autenticação biométrica que preserva a privacidade. O gerenciamento de chaves privadas continua sendo um dos maiores pontos problemáticos no Web3. A extração de chaves privadas por meio de reconhecimento facial ou outros fatores exclusivos pode ser uma solução possível para o ZKML.

4. Desafios ZKML

Embora o ZKML esteja sendo constantemente aprimorado e otimizado, o campo ainda está nos estágios iniciais de desenvolvimento e ainda existem alguns desafios da tecnologia à prática:

• Quantização com perda mínima de precisão
• o tamanho do circuito, especialmente quando uma rede consiste em várias camadas
• Prova eficiente de multiplicação de matrizes
• Ataque adversário

Esses desafios primeiro afetam a precisão dos modelos de aprendizado de máquina, depois afetam o custo e a velocidade da prova e, em terceiro lugar, o risco de ataques de roubo de modelo.

Melhorias para esses problemas estão em andamento, a demonstração ZK-MNIST de @0xPARC em 2021 mostrou como implementar um modelo de classificação de imagem MNIST em pequena escala em um circuito verificável; Daniel Kang fez o mesmo para o modelo de escala ImageNet, atualmente escala ImageNet A precisão de o modelo foi aprimorado para 92% e espera-se que seja alcançado em breve com mais aceleração de hardware do espaço ML mais amplo.

O ZKML ainda está no estágio inicial de desenvolvimento, mas já começou a mostrar muitos resultados, e podemos esperar ver aplicações mais inovadoras do ZKML na cadeia. À medida que o ZKML continua a se desenvolver, podemos prever um futuro em que o aprendizado de máquina que preserva a privacidade se tornará a norma.