¡Desglosando el mecanismo de trabajo de @Mira_Network para discernir cuándo la IA está diciendo la verdad!
La mayoría de las IA que utilizan modelos LLM hoy en día a menudo dicen tonterías con seriedad, en realidad no pueden ser confiables. No es que la tecnología no funcione, es que existen limitaciones en los principios que impiden que sean precisos y neutrales al mismo tiempo.
Cuantos más datos entrenes, más podrás reducir los sesgos, pero es fácil comenzar a inventar historias. Cuanto más limpio esté el conjunto de datos, es posible que se incline más hacia una determinada posición.
El mecanismo central de Mira es la verificación de consenso. En realidad, ya no se depende de la respuesta de un solo modelo, sino que se juzga a través de la participación de múltiples modelos. Solo cuando todos están de acuerdo, se considera que la respuesta ha pasado la verificación.
¡El proceso se divide en los siguientes tres pasos!
1⃣Binarización La respuesta de la IA no es un párrafo completo para juzgar, sino que se divide en pequeños juicios frase por frase. Por ejemplo: la Tierra gira alrededor del Sol, la Luna gira alrededor de la Tierra. Mira descompondrá esta frase en: La Tierra gira alrededor del Sol La luna orbita alrededor de la Tierra
Cada frase será verificada de forma independiente. Esto evita que el conjunto suene correcto cuando, de hecho, todos los detalles están equivocados.
2⃣Validación distribuida Estas declaraciones extraídas se enviarán a diferentes nodos de validación en la red Mira, cada nodo es un modelo o un conjunto de modelos, que no verán el contexto completo, solo son responsables de juzgar la veracidad de su propia línea, asegurando que la validación sea más neutral.
3⃣ Verificación del mecanismo de consenso La "prueba de trabajo" de Mira es un razonamiento de IA real.
Cada modelo de validación debe hacer stake (apalancar) tokens, y después de validar, debe dar un resultado. Si la actuación no es buena, se le aplicará un "slash", descontando los tokens apostados.
El "cálculo de consenso" del modelo debe ser aceptado casi por todos los modelos para considerarse válido. Este mecanismo utiliza el "consenso múltiple" entre modelos para acercarse a la realidad misma.
En última instancia, @Mira_Network solo agrega una capa de prueba de credibilidad a la salida de la IA, y esta capa se logra a través del consenso, en lugar de validar con un solo modelo.
Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
¡Desglosando el mecanismo de trabajo de @Mira_Network para discernir cuándo la IA está diciendo la verdad!
La mayoría de las IA que utilizan modelos LLM hoy en día a menudo dicen tonterías con seriedad, en realidad no pueden ser confiables. No es que la tecnología no funcione, es que existen limitaciones en los principios que impiden que sean precisos y neutrales al mismo tiempo.
Cuantos más datos entrenes, más podrás reducir los sesgos, pero es fácil comenzar a inventar historias. Cuanto más limpio esté el conjunto de datos, es posible que se incline más hacia una determinada posición.
El mecanismo central de Mira es la verificación de consenso. En realidad, ya no se depende de la respuesta de un solo modelo, sino que se juzga a través de la participación de múltiples modelos. Solo cuando todos están de acuerdo, se considera que la respuesta ha pasado la verificación.
¡El proceso se divide en los siguientes tres pasos!
1⃣Binarización
La respuesta de la IA no es un párrafo completo para juzgar, sino que se divide en pequeños juicios frase por frase.
Por ejemplo: la Tierra gira alrededor del Sol, la Luna gira alrededor de la Tierra.
Mira descompondrá esta frase en:
La Tierra gira alrededor del Sol
La luna orbita alrededor de la Tierra
Cada frase será verificada de forma independiente. Esto evita que el conjunto suene correcto cuando, de hecho, todos los detalles están equivocados.
2⃣Validación distribuida
Estas declaraciones extraídas se enviarán a diferentes nodos de validación en la red Mira, cada nodo es un modelo o un conjunto de modelos, que no verán el contexto completo, solo son responsables de juzgar la veracidad de su propia línea, asegurando que la validación sea más neutral.
3⃣ Verificación del mecanismo de consenso
La "prueba de trabajo" de Mira es un razonamiento de IA real.
Cada modelo de validación debe hacer stake (apalancar) tokens, y después de validar, debe dar un resultado.
Si la actuación no es buena, se le aplicará un "slash", descontando los tokens apostados.
El "cálculo de consenso" del modelo debe ser aceptado casi por todos los modelos para considerarse válido. Este mecanismo utiliza el "consenso múltiple" entre modelos para acercarse a la realidad misma.
En última instancia, @Mira_Network solo agrega una capa de prueba de credibilidad a la salida de la IA, y esta capa se logra a través del consenso, en lugar de validar con un solo modelo.