OPML: Solução de aprendizado de máquina em blockchain eficiente
OPML(Aprendizagem de Máquina Optimista) é um método inovador de inferência e treinamento de modelos de IA em blockchain. Comparado ao ZKML, o OPML tem a vantagem de ser de baixo custo e alta eficiência. Mesmo em PCs comuns, é possível executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB.
OPML utiliza um mecanismo de jogos de verificação, semelhante aos sistemas Truebit e Optimistic Rollup, para implementar serviços de ML descentralizados e verificáveis. O seu processo inclui:
O solicitante inicia a tarefa ML
O servidor executa tarefas e submete os resultados na Blockchain
Os validadores verificam os resultados; se houver objeções, iniciam o jogo de verificação.
Realizar a arbitragem final em contratos inteligentes
O jogo de verificação de uma única fase do OPML adota um protocolo de localização precisa, realizando execução fora da cadeia e arbitragem na cadeia através da máquina virtual (VM). Para melhorar a eficiência da inferência de IA, o OPML utiliza uma biblioteca DNN leve projetada especificamente e oferece suporte a scripts de conversão para frameworks de ML populares. As imagens da VM são geridas por uma árvore de Merkle, enviando apenas o hash da raiz para a cadeia.
No entanto, o jogo de validação de uma única fase é limitado à execução dentro da VM, não conseguindo aproveitar plenamente a aceleração da GPU/TPU. Para isso, o OPML propôs um esquema de jogo de validação de múltiplas fases. Na fase não final, os cálculos podem ser realizados de forma flexível em um ambiente local, aproveitando ao máximo o desempenho do hardware. O método de múltiplas fases melhora significativamente a eficiência da execução, aproximando-se do nível do ambiente nativo.
Usando o modelo LLaMA como exemplo, a OPML adota um método em duas fases:
A segunda fase realiza um jogo de verificação no gráfico computacional, podendo utilizar CPU ou GPU multithread.
A primeira fase converte o cálculo de um único nó na execução de instruções VM
A implementação de OPML em múltiplas fases alcançou uma aceleração de α vezes em comparação com a implementação em uma única fase, onde α é a razão de aceleração do GPU/cálculo paralelo. Além disso, o método em múltiplas fases também reduziu significativamente o tamanho da árvore de Merkle.
Para garantir a consistência entre plataformas, o OPML utiliza algoritmos de ponto fixo e bibliotecas de ponto flutuante de software, superando os desafios trazidos pelas diferenças de hardware.
Em geral, o OPML oferece uma solução eficiente e de baixo custo para o aprendizado de máquina na Blockchain, com amplas perspectivas de aplicação.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
9 Curtidas
Recompensa
9
5
Compartilhar
Comentário
0/400
TheShibaWhisperer
· 7h atrás
Novamente a炒ar novos conceitos para ser enganado.
Ver originalResponder0
MainnetDelayedAgain
· 7h atrás
Segundo a base de dados, a equipa do projeto comprometeu-se a verificar 78 vezes.
OPML: solução de treino e inferência de modelo de IA eficiente e de baixo custo na cadeia
OPML: Solução de aprendizado de máquina em blockchain eficiente
OPML(Aprendizagem de Máquina Optimista) é um método inovador de inferência e treinamento de modelos de IA em blockchain. Comparado ao ZKML, o OPML tem a vantagem de ser de baixo custo e alta eficiência. Mesmo em PCs comuns, é possível executar grandes modelos de linguagem, como o 7B-LLaMA de 26GB.
OPML utiliza um mecanismo de jogos de verificação, semelhante aos sistemas Truebit e Optimistic Rollup, para implementar serviços de ML descentralizados e verificáveis. O seu processo inclui:
O jogo de verificação de uma única fase do OPML adota um protocolo de localização precisa, realizando execução fora da cadeia e arbitragem na cadeia através da máquina virtual (VM). Para melhorar a eficiência da inferência de IA, o OPML utiliza uma biblioteca DNN leve projetada especificamente e oferece suporte a scripts de conversão para frameworks de ML populares. As imagens da VM são geridas por uma árvore de Merkle, enviando apenas o hash da raiz para a cadeia.
No entanto, o jogo de validação de uma única fase é limitado à execução dentro da VM, não conseguindo aproveitar plenamente a aceleração da GPU/TPU. Para isso, o OPML propôs um esquema de jogo de validação de múltiplas fases. Na fase não final, os cálculos podem ser realizados de forma flexível em um ambiente local, aproveitando ao máximo o desempenho do hardware. O método de múltiplas fases melhora significativamente a eficiência da execução, aproximando-se do nível do ambiente nativo.
Usando o modelo LLaMA como exemplo, a OPML adota um método em duas fases:
A implementação de OPML em múltiplas fases alcançou uma aceleração de α vezes em comparação com a implementação em uma única fase, onde α é a razão de aceleração do GPU/cálculo paralelo. Além disso, o método em múltiplas fases também reduziu significativamente o tamanho da árvore de Merkle.
Para garantir a consistência entre plataformas, o OPML utiliza algoritmos de ponto fixo e bibliotecas de ponto flutuante de software, superando os desafios trazidos pelas diferenças de hardware.
Em geral, o OPML oferece uma solução eficiente e de baixo custo para o aprendizado de máquina na Blockchain, com amplas perspectivas de aplicação.