Дорога довіри до ШІ: як мережа Mira вирішує проблеми упередженості та ілюзій ШІ

Нещодавно публічна тестова мережа під назвою Mira привернула увагу галузі. Ця мережа має на меті створити рівень довіри для AI, що змушує нас задуматися: чому AI потрібно довіряти? Як Mira вирішує цю проблему?

Коли йдеться про штучний інтелект (ШІ), люди зазвичай більше зосереджуються на його потужних можливостях. Однак цікаве і часто ігнороване питання — це "ілюзії" або упередження, які існують у ШІ. Так звані "ілюзії" ШІ — це простими словами те, що ШІ іноді може "вигадувати" речі, серйозно брешучи. Наприклад, якщо ви запитаєте ШІ, чому місяць рожевий, воно може дати ряд на перший погляд розумних, але насправді безпідставних пояснень.

Існування "ілюзій" або упереджень у ШІ пов'язане з деякими сучасними технологічними шляхами ШІ. Генеративний ШІ зазвичай досягає зв'язності та раціональності, прогнозуючи "найбільш імовірний" вміст, але цей підхід важко перевірити на достовірність. Крім того, навчальні дані можуть містити помилки, упередження або навіть вигадані дані, що впливають на якість виходу ШІ. Іншими словами, ШІ вивчає мовні моделі людей, а не самі факти.

Сучасні механізми генерації ймовірностей і моделі, що ґрунтуються на даних, майже неминуче можуть призвести до можливості ілюзій штучного інтелекту. Для загальних знань або розважального контенту такі упереджені або ілюзорні результати можуть тимчасово не призвести до прямих наслідків. Але якщо це відбудеться в таких сферах, як медицина, право, авіація, фінанси, які вимагають високої точності, це може мати значний вплив. Тому вирішення ілюзій штучного інтелекту та упереджень стало однією з основних проблем у процесі еволюції штучного інтелекту.

Щодо цієї проблеми, в галузі вже запропоновано кілька рішень. Деякі використовують технології покращення пошуку, поєднуючи ШІ з реальними базами даних, надаючи перевагу перевіреним фактам. Інші залучають людський зворотний зв'язок, виправляючи помилки моделі через ручне маркування та нагляд.

Проект Mira має на меті створення шару довіри до ШІ, зменшення упередженості та ілюзій ШІ, підвищення надійності ШІ. Отже, як Mira реалізує цю мету?

Основна ідея Mira полягає в перевірці виходу AI через консенсус кількох AI-моделей. Це по суті мережа верифікації, яка використовує консенсус кількох AI-моделей для перевірки надійності виходу AI. Що більш важливо, Mira використовує децентралізований метод верифікації консенсу.

Ключовим елементом мережі Mira є децентралізоване підтвердження консенсусу. Вона використовує експертизу у криптографічній сфері, одночасно поєднуючи переваги багатомодельної співпраці, зменшуючи упередження та ілюзії через колективну верифікацію.

У контексті верифікаційної архітектури, протокол Mira підтримує перетворення складного контенту на незалежні заяви, які можуть бути перевірені. Ці заяви вимагають участі операторів вузлів у процесі верифікації. Щоб забезпечити чесність операторів вузлів, Mira використовує механізми криптоекономічних стимулів і покарань. Різні AI моделі та децентралізовані оператори вузлів беруть участь разом, щоб забезпечити надійність результатів верифікації.

Мережна архітектура Mira складається з трьох частин: перетворення контенту, розподіленої верифікації та механізму консенсусу, щоб забезпечити надійність верифікації. Серед них перетворення контенту є важливим етапом. Мережа Mira спочатку розбиває кандидатний контент на різні верифіковані заяви, щоб забезпечити, що модель може зрозуміти контент в одному і тому ж контексті. Ці заяви потім розподіляються системою до вузлів для верифікації, щоб визначити їхню дійсність, і результати узагальнюються для досягнення консенсусу. Нарешті, ці результати та консенсус повертаються до клієнта. Щоб захистити конфіденційність клієнтів, кандидатний контент розбивається на пари заяв і розподіляється до різних вузлів у випадковому порядку, щоб уникнути витоку інформації під час процесу верифікації.

Оператори вузлів відповідають за роботу моделей валідації, обробку заявок та подання результатів валідації. Вони готові брати участь у валідації, оскільки можуть отримувати прибуток. Ці прибутки походять від створеної для клієнтів вартості. Мета мережі Mira полягає в зниженні рівня помилок AI (галюцинацій та упереджень), і після досягнення цієї мети вона зможе створити величезну вартість у таких сферах, як медицина, право, авіація, фінанси тощо. Тому клієнти готові за це платити. Звичайно, сталості та масштаби оплати залежать від того, чи зможе мережа Mira продовжувати приносити цінність клієнтам. Щоб запобігти спекулятивній поведінці вузлів з випадковими відповідями, вузли, які постійно відхиляються від консенсусу, будуть зазнавати зниження стейк-токенів. В цілому, Mira забезпечує чесну участь операторів вузлів у валідації через економічну гру механізмів.

Mira пропонує новий підхід до забезпечення надійності ШІ. Вона на базі кількох моделей ШІ створила децентралізовану мережу консенсусної верифікації, що забезпечує вищу надійність для ШІ-послуг клієнтів, знижує упередженість та ілюзії ШІ, відповідаючи на потреби клієнтів у більшій точності та точності. Водночас, надаючи цінність клієнтам, вона також приносить прибуток учасникам мережі Mira. Коротко кажучи, Mira прагне створити шар довіри для ШІ, що сприятиме глибшому розвитку застосувань ШІ.

Наразі вже існує кілька відомих фреймворків AI-агентів, які співпрацюють з Mira. З виходом публічної тестової мережі Mira користувачі можуть брати участь у тестуванні через Klok (додаток для чату на основі LLM від Mira). Використовуючи додаток Klok, користувачі можуть не лише випробувати перевірені результати AI, але й заробити бали Mira. Хоча майбутнє використання цих балів ще не оголошено, це безсумнівно надає додаткову мотивацію для участі користувачів.