Розберемо механізм роботи @Mira_Network, як визначити, чи говорить AI правду!
Сьогодні більшість AI, що використовують моделі LLM, часто серйозно брешуть, насправді не можуть бути надійними. Справа не в тому, що технологія не працює, а в тому, що в принципі є обмеження, які не дозволяють бути їм одночасно точними та нейтральними.
Чим більше даних ви тренуєте, тим менше упереджень можна зменшити, але легше почати вигадувати історії. Чим чистіші дані, тим більше вони можуть бути схильні до певної позиції.
Основний механізм Mira - це верифікація консенсусу. Це означає, що більше не потрібно покладатися на відповідь однієї моделі, а замість цього кілька моделей беруть участь у судженні. Тільки коли всі погоджуються, ця відповідь вважається підтвердженою.
Весь процес поділений на три етапи!
1⃣Бінаризація Відповідь ШІ не є цілим абзацом для оцінки, а складається з окремих маленьких суджень. Наприклад: Земля обертається навколо Сонця, а Місяць обертається навколо Землі. Mira розділить це речення на: Земля обертається навколо Сонця Місяць обертається навколо Землі
Кожне речення буде незалежно перевірено. Це запобігає ситуації, коли в цілому звучить правильно, але насправді всі деталі неправильні.
2⃣Розподілене підтвердження Ці розділені висловлювання будуть надіслані до різних віртуальних вузлів у мережі Mira, кожен вузол є моделлю або набором моделей, які не бачать повного контексту, а лише відповідають за перевірку істинності свого висловлювання, що забезпечує більш нейтральну верифікацію.
3⃣Перевірка механізму консенсусу "Proof of Work" від Mira є справжнім AI-інференсом.
Кожна верифікаційна модель має ставити (стейкати) токени, після верифікації потрібно надати результати. Якщо результати будуть поганими, то можуть "зменшити" (slash) кількість заблокованих токенів.
Модель "консенсусних обчислень" повинна бути схвалена майже всіма моделями для того, щоб вважатися пройденою. Цей механізм полягає в тому, щоб наблизитися до самої суті фактів за допомогою "багатогранного консенсусу" між моделями.
Кажучи по суті, @Mira_Network додає рівень довіри до виходу AI, який досягається через консенсус, а не перевіряється на основі єдиної моделі.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Розберемо механізм роботи @Mira_Network, як визначити, чи говорить AI правду!
Сьогодні більшість AI, що використовують моделі LLM, часто серйозно брешуть, насправді не можуть бути надійними. Справа не в тому, що технологія не працює, а в тому, що в принципі є обмеження, які не дозволяють бути їм одночасно точними та нейтральними.
Чим більше даних ви тренуєте, тим менше упереджень можна зменшити, але легше почати вигадувати історії. Чим чистіші дані, тим більше вони можуть бути схильні до певної позиції.
Основний механізм Mira - це верифікація консенсусу. Це означає, що більше не потрібно покладатися на відповідь однієї моделі, а замість цього кілька моделей беруть участь у судженні. Тільки коли всі погоджуються, ця відповідь вважається підтвердженою.
Весь процес поділений на три етапи!
1⃣Бінаризація
Відповідь ШІ не є цілим абзацом для оцінки, а складається з окремих маленьких суджень.
Наприклад: Земля обертається навколо Сонця, а Місяць обертається навколо Землі.
Mira розділить це речення на:
Земля обертається навколо Сонця
Місяць обертається навколо Землі
Кожне речення буде незалежно перевірено. Це запобігає ситуації, коли в цілому звучить правильно, але насправді всі деталі неправильні.
2⃣Розподілене підтвердження
Ці розділені висловлювання будуть надіслані до різних віртуальних вузлів у мережі Mira, кожен вузол є моделлю або набором моделей, які не бачать повного контексту, а лише відповідають за перевірку істинності свого висловлювання, що забезпечує більш нейтральну верифікацію.
3⃣Перевірка механізму консенсусу
"Proof of Work" від Mira є справжнім AI-інференсом.
Кожна верифікаційна модель має ставити (стейкати) токени, після верифікації потрібно надати результати.
Якщо результати будуть поганими, то можуть "зменшити" (slash) кількість заблокованих токенів.
Модель "консенсусних обчислень" повинна бути схвалена майже всіма моделями для того, щоб вважатися пройденою. Цей механізм полягає в тому, щоб наблизитися до самої суті фактів за допомогою "багатогранного консенсусу" між моделями.
Кажучи по суті, @Mira_Network додає рівень довіри до виходу AI, який досягається через консенсус, а не перевіряється на основі єдиної моделі.