OPML: Soluciones de aprendizaje automático eficientes en la Cadena de bloques
OPML(El aprendizaje automático optimista) es un método innovador de inferencia y entrenamiento de modelos de IA en la cadena de bloques. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia. Incluso se pueden ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, en una PC normal.
OPML utiliza un mecanismo de juego de verificación, similar a los sistemas Truebit y Optimistic Rollup, para implementar servicios de ML descentralizados y verificables. Su proceso incluye:
El solicitante inicia la tarea ML
El servidor ejecuta tareas y envía los resultados a la cadena de bloques.
Los validadores revisan los resultados, y si hay objeciones, se inicia el juego de validación.
Realizar la arbitraje final en el contrato inteligente
El juego de verificación de una sola etapa de OPML utiliza un protocolo de localización precisa, realizando la ejecución fuera de la cadena y el arbitraje en la cadena a través de la máquina virtual (VM). Para mejorar la eficiencia del razonamiento de la IA, OPML utiliza una biblioteca DNN ligera diseñada especialmente y proporciona soporte de scripts de conversión para los principales marcos de ML. La imagen de la VM se gestiona mediante un árbol de Merkle, subiendo solo el hash raíz a la cadena.
Sin embargo, el juego de verificación de una sola etapa está limitado a la ejecución dentro de la VM y no puede aprovechar plenamente la aceleración de GPU/TPU. Para ello, OPML ha propuesto un esquema de juego de verificación de múltiples etapas. En las etapas no finales, los cálculos se pueden ejecutar de manera flexible en un entorno local, aprovechando al máximo el rendimiento del hardware. El método de múltiples etapas mejora significativamente la eficiencia de ejecución, acercándose al nivel del entorno nativo.
Tomando como ejemplo el modelo LLaMA, OPML utiliza un método de dos etapas:
La segunda etapa se lleva a cabo en el gráfico de cálculo para validar el juego, pudiendo utilizar CPU o GPU multihilo.
La primera etapa convertirá el cálculo de un solo nodo en la ejecución de instrucciones de VM.
La implementación de OPML en múltiples etapas logra una aceleración de α veces en comparación con la de una sola etapa, donde α es la razón de aceleración del GPU/cálculo paralelo. Además, el método de múltiples etapas reduce significativamente el tamaño del árbol de Merkle.
Para garantizar la consistencia entre plataformas, OPML utiliza algoritmos de punto fijo y bibliotecas de punto flotante de software, superando los desafíos que presentan las diferencias de hardware.
En general, OPML ofrece una solución eficiente y de bajo costo para el aprendizaje automático en la cadena de bloques, con amplias perspectivas de aplicación.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
12 me gusta
Recompensa
12
5
Compartir
Comentar
0/400
TheShibaWhisperer
· hace17h
Otra vez vienen a炒新概念 para ser tomado por tonto.
Ver originalesResponder0
MainnetDelayedAgain
· hace17h
Según la base de datos, el equipo detrás del proyecto ha iterado la verificabilidad prometida 78 veces.
OPML: Solución de entrenamiento e inferencia de modelos de IA eficiente y de bajo costo en la Cadena de bloques
OPML: Soluciones de aprendizaje automático eficientes en la Cadena de bloques
OPML(El aprendizaje automático optimista) es un método innovador de inferencia y entrenamiento de modelos de IA en la cadena de bloques. En comparación con ZKML, OPML tiene la ventaja de ser de bajo costo y alta eficiencia. Incluso se pueden ejecutar modelos de lenguaje grandes, como el 7B-LLaMA de 26GB, en una PC normal.
OPML utiliza un mecanismo de juego de verificación, similar a los sistemas Truebit y Optimistic Rollup, para implementar servicios de ML descentralizados y verificables. Su proceso incluye:
El juego de verificación de una sola etapa de OPML utiliza un protocolo de localización precisa, realizando la ejecución fuera de la cadena y el arbitraje en la cadena a través de la máquina virtual (VM). Para mejorar la eficiencia del razonamiento de la IA, OPML utiliza una biblioteca DNN ligera diseñada especialmente y proporciona soporte de scripts de conversión para los principales marcos de ML. La imagen de la VM se gestiona mediante un árbol de Merkle, subiendo solo el hash raíz a la cadena.
Sin embargo, el juego de verificación de una sola etapa está limitado a la ejecución dentro de la VM y no puede aprovechar plenamente la aceleración de GPU/TPU. Para ello, OPML ha propuesto un esquema de juego de verificación de múltiples etapas. En las etapas no finales, los cálculos se pueden ejecutar de manera flexible en un entorno local, aprovechando al máximo el rendimiento del hardware. El método de múltiples etapas mejora significativamente la eficiencia de ejecución, acercándose al nivel del entorno nativo.
Tomando como ejemplo el modelo LLaMA, OPML utiliza un método de dos etapas:
La implementación de OPML en múltiples etapas logra una aceleración de α veces en comparación con la de una sola etapa, donde α es la razón de aceleración del GPU/cálculo paralelo. Además, el método de múltiples etapas reduce significativamente el tamaño del árbol de Merkle.
Para garantizar la consistencia entre plataformas, OPML utiliza algoritmos de punto fijo y bibliotecas de punto flotante de software, superando los desafíos que presentan las diferencias de hardware.
En general, OPML ofrece una solución eficiente y de bajo costo para el aprendizaje automático en la cadena de bloques, con amplias perspectivas de aplicación.