Мережа Mira: створення рівня довіри для ШІ

Нещодавно публічна тестова мережа Mira офіційно запустилася, викликавши широку дискусію в галузі щодо питання довіри до ШІ. Основною метою мережі Mira є побудова шару довіри для ШІ, що дозволяє вирішити проблеми "галюцинацій" та упередженості, з якими стикаються сучасні системи ШІ. Отже, чому ШІ потребує довіри? Як Mira намагається вирішити це складне питання?

Обговорюючи ШІ, люди часто більше зосереджуються на його потужних можливостях. Однак не можна ігнорувати той факт, що у ШІ існує проблема "галюцинацій" або упереджень. Під "галюцинацією" ШІ мається на увазі те, що іноді ШІ може "винаходити" інформацію, нібито раціонально пояснюючи деякі явища, які насправді не існують. Наприклад, коли його запитують: "Чому місяць рожевий?" — на питання, яке не відповідає дійсності, ШІ може дати ряд, здавалося б, розумних, але насправді безпідставних пояснень.

Причини, чому ШІ має "галюцинації" або упередження, тісно пов'язані з поточним шляхом технологій ШІ. Генеративний ШІ зазвичай досягає узгодженого та раціонального виходу, прогнозуючи "найімовірніше" вміст, але цей метод важко забезпечити справжність виходу. Крім того, навчальні дані ШІ можуть містити помилки, упередження або навіть вигадані вмісти, що впливають на якість виходу ШІ. Можна сказати, що ШІ більше вчиться мовним патернам людей, а не самим фактам.

Сучасні механізми генерації ймовірностей та схеми, що базуються на даних, майже неминуче призводять до "ілюзій" у ШІ. Хоча в сферах загальних знань або розважального контенту ця проблема може тимчасово не спричиняти серйозних наслідків, у таких галузях, як медицина, право, авіація, фінанси, де вимоги до точності надзвичайно високі, упередження та ілюзії ШІ можуть призвести до серйозних проблем. Отже, вирішення проблеми ілюзій та упереджень ШІ стало однією з основних викликів у процесі розвитку ШІ.

Проект Mira є рішенням для цієї проблеми. Він намагається зменшити упередженість і ілюзії штучного інтелекту, підвищуючи його надійність, шляхом побудови рівня довіри до AI. Основна ідея Mira полягає в використанні консенсусу кількох AI моделей для перевірки виходу AI.

Конкретно кажучи, Mira є мережею верифікації, яка перевіряє надійність виходу AI за допомогою консенсусу кількох AI моделей. Що більш важливо, Mira використовує механізм верифікації консенсусу, що є спеціалізацією криптографічної сфери. Завдяки колективному режиму верифікації, Mira може ефективно зменшити упередження та ілюзії, які можуть виникнути внаслідок роботи єдиної моделі.

У контексті перевірки архітектури протокол Mira підтримує перетворення складного змісту в незалежні перевіряємi заяви. Оператори вузлів беруть участь у процесі перевірки цих заяв, а для забезпечення чесної поведінки операторів вузлів протокол Mira вводить механізми криптоекономічних стимулів і покарань.

Мережна архітектура Mira складається з трьох основних частин: перетворення контенту, розподіленої верифікації та механізму консенсусу. По-перше, система розбиває подані клієнтом кандидатні матеріали на різні верифіковувані заяви, які потім розподіляються між вузлами для перевірки. Вузли визначають дійсність заяв і узагальнюють результати для досягнення консенсусу. Нарешті, ці результати та консенсус повертаються клієнту. Щоб захистити конфіденційність клієнтів, кандидатний контент перетворюється на пари заяв і розподіляється між різними вузлами випадковими шматками, щоб запобігти витоку інформації під час процесу верифікації.

Оператори вузлів беруть участь у роботі мережі, запустивши модель валідації, обробляючи заяви та подаючи результати валідації. Їхній дохід походить від створення вартості для клієнтів, тобто зменшення помилок штучного інтелекту. У таких сферах, як медицина, право, авіація, фінанси, зменшення помилок штучного інтелекту може мати величезну цінність, тому клієнти готові за це платити. Одночасно, щоб запобігти спекуляціям з боку операторів вузлів, система буде карати вузли, які постійно відхиляються від консенсусу, щоб забезпечити чесність процесу валідації.

В цілому, Mira пропонує новий підхід до забезпечення надійності ШІ. Створюючи децентралізовану мережу консенсусної перевірки на основі кількох моделей ШІ, Mira має на меті забезпечити вищу надійність для послуг ШІ своїх клієнтів, зменшуючи упередженість та ілюзії ШІ, задовольняючи потреби клієнтів у високій точності та точності. Ця інновація має потенціал для сприяння глибшому розвитку застосувань ШІ та внесення важливого внеску у створення надійної екосистеми ШІ.

Наразі Mira вже встановила партнерські відносини з кількома відомими AI агентськими платформами. З запуском публічної тестової мережі Mira, користувачі можуть через Klok (додаток для чату на основі LLM від Mira) випробувати перевірені AI результати та отримати можливість заробити бали Mira. Це надає користувачам інтуїтивно зрозумілу можливість порівняти різницю в AI результатах до і після перевірки, що допомагає краще зрозуміти цінність мережі Mira.