Під час використання ШІ ми задаємо йому питання, він відповідає дуже переконливо, але ми не можемо знати, звідки взялася ця відповідь: чи це "вгадування", чи він дійсно бачив це в якійсь частині навчальних даних. Це схоже на те, як ви запитуєте людину питання, вона дає вам відповідь, кожного разу говорить "я думаю, що це правильно", але ніколи не наводить джерело.
Просте розуміння: традиційні мовні моделі використовують технологію n-gram. 1️⃣uni-gram є аналізом окремого слова 2️⃣bi-gram є два слова, що з'єднані разом 3️⃣tri-gram є комбінацією трьох слів
Вищезазначена мовна логіка надасть частину контексту, але зміст дуже обмежений, лише дивлячись на наявні питання, відповідаючи на них на основі зв'язку між короткими висловлюваннями, але ігноруючи логіку поточного питання в усьому діалозі.
А Infini-gram - це інший підхід. Він не лише розглядає існуючі проблеми, але й використовує метод, схожий на "синтаксичне зіставлення", щоб перевірити кожен фрагмент виходу моделі з усіма можливими "висловлюваннями" в навчальному наборі, щоб зрозуміти, звідки він це дізнався та з ким це пов'язано.
Наприклад, ви питаєте модель: "Як визначити, чи є гаманець ботом?" Звичайна модель скаже вам: "Ця адреса зазвичай здійснює високочастотні угоди з кількома DEX-контрактами за дуже короткий проміжок часу."
Технологія, яка стоїть за цим, насправді досить потужна, вона використовує ∞-грам фреймворк, заснований на suffix-array — по суті, вона заздалегідь створює індекс усіх фрагментів навчального набору, а під час виводу просто порівнює, не потребуючи повторного запуску моделі або обчислення градієнтів. Це означає швидкість, стабільність та відтворюваність.
Для користувачів ви можете дізнатися, чи є відповідь моделі "оригінальною" чи "перенесеною". Для учасників даних ви можете отримати належні "права авторства" або навіть "економічні стимули" Для регуляторних органів це забезпечує «пояснювальний» інтерфейс.
OpenLedger робить не те, щоб зробити модель більш "розумною", а щоб зробити її більш "відповідальною" — відповідати на кожне речення, чітко пояснюючи: "чому я це кажу, звідки я це дізнався".
На мою думку, система Proof of Attribution, запропонована OpenLedger, є ключовим кроком у створенні "достовірного ШІ" та може стати основною інфраструктурою для побудови прав власності на дані та відстеження внесків.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Під час використання ШІ ми задаємо йому питання, він відповідає дуже переконливо, але ми не можемо знати, звідки взялася ця відповідь: чи це "вгадування", чи він дійсно бачив це в якійсь частині навчальних даних. Це схоже на те, як ви запитуєте людину питання, вона дає вам відповідь, кожного разу говорить "я думаю, що це правильно", але ніколи не наводить джерело.
Просте розуміння: традиційні мовні моделі використовують технологію n-gram.
1️⃣uni-gram є аналізом окремого слова
2️⃣bi-gram є два слова, що з'єднані разом
3️⃣tri-gram є комбінацією трьох слів
Вищезазначена мовна логіка надасть частину контексту, але зміст дуже обмежений, лише дивлячись на наявні питання, відповідаючи на них на основі зв'язку між короткими висловлюваннями, але ігноруючи логіку поточного питання в усьому діалозі.
А Infini-gram - це інший підхід. Він не лише розглядає існуючі проблеми, але й використовує метод, схожий на "синтаксичне зіставлення", щоб перевірити кожен фрагмент виходу моделі з усіма можливими "висловлюваннями" в навчальному наборі, щоб зрозуміти, звідки він це дізнався та з ким це пов'язано.
Наприклад, ви питаєте модель: "Як визначити, чи є гаманець ботом?"
Звичайна модель скаже вам: "Ця адреса зазвичай здійснює високочастотні угоди з кількома DEX-контрактами за дуже короткий проміжок часу."
Технологія, яка стоїть за цим, насправді досить потужна, вона використовує ∞-грам фреймворк, заснований на suffix-array — по суті, вона заздалегідь створює індекс усіх фрагментів навчального набору, а під час виводу просто порівнює, не потребуючи повторного запуску моделі або обчислення градієнтів. Це означає швидкість, стабільність та відтворюваність.
Для користувачів ви можете дізнатися, чи є відповідь моделі "оригінальною" чи "перенесеною".
Для учасників даних ви можете отримати належні "права авторства" або навіть "економічні стимули"
Для регуляторних органів це забезпечує «пояснювальний» інтерфейс.
OpenLedger робить не те, щоб зробити модель більш "розумною", а щоб зробити її більш "відповідальною" — відповідати на кожне речення, чітко пояснюючи: "чому я це кажу, звідки я це дізнався".
На мою думку, система Proof of Attribution, запропонована OpenLedger, є ключовим кроком у створенні "достовірного ШІ" та може стати основною інфраструктурою для побудови прав власності на дані та відстеження внесків.