OPML: Aprendizagem de máquina com abordagem otimista
OPML( Aprendizado de Máquina Otimista) é uma nova tecnologia de IA em blockchain que utiliza métodos otimistas para realizar inferência e treinamento de modelos de IA. Em comparação com ZKML, o OPML possui vantagens de baixo custo e alta eficiência. A barreira de entrada para o uso do OPML é muito baixa, um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB, sem a necessidade de GPU.
OPML utiliza um mecanismo de verificação de jogo para garantir a descentralização e o consenso verificável dos serviços de ML. O seu fluxo de trabalho é o seguinte:
A parte que inicia propõe a tarefa de serviço ML
O servidor conclui a tarefa e coloca o resultado na blockchain
O validador verifica os resultados; se houver objeções, inicia o jogo de validação.
Arbitragem de um único passo através de contratos inteligentes
Jogo de verificação de uma fase
O jogo de validação de fase única se baseia nos princípios da delegação de cálculo (RDoC), assumindo que várias partes executem o mesmo programa, e então localizem os passos controversos através de questionamentos precisos, sendo finalmente arbitrado por um contrato inteligente na blockchain.
O jogo de verificação de uma única fase do OPML inclui os seguintes elementos:
Construir uma máquina virtual de execução off-chain e arbitragem on-chain (VM)
Implementar uma biblioteca DNN leve para melhorar a eficiência da inferência de IA
Usar compilação cruzada para compilar o código do modelo de IA em instruções VM
Utiliza a árvore de Merkle para gerir imagens de VM, apenas o hash raiz é enviado para a cadeia
Durante os testes, um modelo DNN básico de classificação MNIST pode completar a inferência em um PC em menos de 2 segundos, e o processo total do desafio leva cerca de 2 minutos.
Jogo de Verificação Multifásico
As limitações do jogo de validação de fase única residem no fato de que todos os cálculos devem ser executados dentro da VM, sem a possibilidade de aproveitar a aceleração por GPU/TPU. Para isso, o OPML propôs uma extensão de protocolo de múltiplas fases:
Apenas a fase final é calculada na VM
Outras fases podem ser executadas no ambiente local, utilizando aceleração de hardware como CPU, GPU, etc.
Aumentar significativamente o desempenho de execução, reduzindo a dependência de VM
Exemplo de OPML de múltiplas fases com o modelo LLaMA, utilizando um método de duas fases:
A segunda fase realiza a validação do jogo no gráfico computacional, podendo utilizar CPU ou GPU de múltiplas threads.
A primeira fase converte o cálculo de um único nó em instruções VM.
Quando o cálculo de um único nó no gráfico de cálculo ainda é complexo, podem ser introduzidas mais fases para aumentar ainda mais a eficiência.
Melhoria de Desempenho
A análise mostra que o OPML de duas fases pode alcançar uma aceleração de α vezes em comparação com a fase única, onde α representa a razão de aceleração do GPU ou computação paralela. Além disso, o tamanho da árvore de Merkle do OPML de duas fases é O(m+n), muito menor do que o O(mn) da fase única.
Consistência e Determinismo
Para garantir a consistência dos resultados do ML, o OPML adota duas abordagens:
Usar o algoritmo de ponto fixo ( para quantificação técnica ) para reduzir erros de arredondamento em ponto flutuante
Utilizar uma biblioteca de ponto flutuante consistente entre plataformas
Essas tecnologias ajudam a superar os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a fiabilidade do cálculo OPML.
OPML vs ZKML
A OPML atualmente foca principalmente na inferência de modelos de ML, mas a estrutura também suporta o processo de treinamento. O projeto OPML ainda está em desenvolvimento, e pessoas interessadas são bem-vindas a contribuir.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
OPML: Aprendizado de Máquina Otimista Impulsiona o Desenvolvimento da Blockchain de IA com Baixo Custo e Alta Eficiência
OPML: Aprendizagem de máquina com abordagem otimista
OPML( Aprendizado de Máquina Otimista) é uma nova tecnologia de IA em blockchain que utiliza métodos otimistas para realizar inferência e treinamento de modelos de IA. Em comparação com ZKML, o OPML possui vantagens de baixo custo e alta eficiência. A barreira de entrada para o uso do OPML é muito baixa, um PC comum pode executar grandes modelos de linguagem, como o modelo 7B-LLaMA de 26GB, sem a necessidade de GPU.
OPML utiliza um mecanismo de verificação de jogo para garantir a descentralização e o consenso verificável dos serviços de ML. O seu fluxo de trabalho é o seguinte:
Jogo de verificação de uma fase
O jogo de validação de fase única se baseia nos princípios da delegação de cálculo (RDoC), assumindo que várias partes executem o mesmo programa, e então localizem os passos controversos através de questionamentos precisos, sendo finalmente arbitrado por um contrato inteligente na blockchain.
O jogo de verificação de uma única fase do OPML inclui os seguintes elementos:
Durante os testes, um modelo DNN básico de classificação MNIST pode completar a inferência em um PC em menos de 2 segundos, e o processo total do desafio leva cerca de 2 minutos.
Jogo de Verificação Multifásico
As limitações do jogo de validação de fase única residem no fato de que todos os cálculos devem ser executados dentro da VM, sem a possibilidade de aproveitar a aceleração por GPU/TPU. Para isso, o OPML propôs uma extensão de protocolo de múltiplas fases:
Exemplo de OPML de múltiplas fases com o modelo LLaMA, utilizando um método de duas fases:
Quando o cálculo de um único nó no gráfico de cálculo ainda é complexo, podem ser introduzidas mais fases para aumentar ainda mais a eficiência.
Melhoria de Desempenho
A análise mostra que o OPML de duas fases pode alcançar uma aceleração de α vezes em comparação com a fase única, onde α representa a razão de aceleração do GPU ou computação paralela. Além disso, o tamanho da árvore de Merkle do OPML de duas fases é O(m+n), muito menor do que o O(mn) da fase única.
Consistência e Determinismo
Para garantir a consistência dos resultados do ML, o OPML adota duas abordagens:
Essas tecnologias ajudam a superar os desafios trazidos por variáveis de ponto flutuante e diferenças de plataforma, aumentando a fiabilidade do cálculo OPML.
OPML vs ZKML
A OPML atualmente foca principalmente na inferência de modelos de ML, mas a estrutura também suporta o processo de treinamento. O projeto OPML ainda está em desenvolvimento, e pessoas interessadas são bem-vindas a contribuir.