Грецька міфологічна постать, Прометей, прив'язаний до скелі в Кавказі, де він постійно піддається ... Більше нападу орла. Оригінальне мистецтво: літографія за малюнком Лавіньє. (Фото з архіву Халтона/Getty Images)
Getty ImagesЯкщо вам пощастило вивчати давньогрецьку мову або ви достатньо зацікавлені в історії, щоб вчитися на їхніх помилках, ви напевно знайомі з історією Прометея. Перш ніж вогонь зміг обігрівати домівки, готувати їжу та виготовляти інструменти, легенда говорить, що вогонь був у володінні богів, які егоїстично тримали його лише для себе. Прометей, Титан, піднявся на вершину гори Олімп, щоб вкрасти вогонь для людей. Зевс, розгніваний тим, що людям дали щось могутнє без дозволу, закував Прометея в камінь, де орел щодня їв його печінку.
Порівняння з ШІ як сучасним прометеївським вогнем особливо актуальне для криптовалюти. ШІ має фундаментальну проблему довіри, яку технологія блокчейн унікально здатна вирішити. Хоча більшість криптовалютних компаній все ще використовують ШІ для легких застосувань, потенціал для глибшої інтеграції є величезним. І все ж, оскільки індустрія криптовалюти стає все більш нетерплячою до злиття цих технологій, деякі застосування мають сенс, тоді як інші загрожують знищити самі основи безпеки, на яких була побудована криптовалюта.
Сьогодні більшість криптовалютних компаній, що взаємодіють з користувачами, використовують ШІ відносно безпечними способами. Наприклад, ChainGPT, Eternal AI та Virtuals Protocol використовують соціальні чат-боти для відповіді на запитання користувачів, створення інтерфейсів природної мови для складних панелей управління або надання продуктам веселого характеру в соціальних мережах, з якими користувачі можуть взаємодіяти.
Ці програми розглядають ШІ як те, чим він насправді є, складною системою зіставлення шаблонів, яка відмінно справляється з розумінням та генерацією людської мови. Великі мовні моделі вражають своїм розумінням контексту та генерацією корисних відповідей, але вони все ще залишаються в основному непередбачуваними.
Спокуса глибокої інтеграції штучного інтелекту
Де криптові компанії починають грати з вогнем, так це коли вони надають AI-системам прямий доступ до чутливих операцій. Деякі стартапи експериментують з автономними агентами, які можуть переміщувати кошти користувачів, виконувати виклики смарт-контрактів і використовувати зовнішні ресурси за допомогою нових інструментів, таких як Model Context Protocol, все без нагляду людини.
БІЛЬШЕ ДЛЯ ВАСAI моделі не міркують над проблемами так, як це роблять люди. Вони прогнозують, що наступним, спираючись на шаблони, отримані з навчальних даних. Це робить їх вразливими до атак, які не існують у традиційних програмних системах. Атаки на введення запитів можуть обманути AI, змусивши його ігнорувати свої інструкції. Ін'єкції даних і джейлбрейки не є гіпотетичними ризиками; вони вже відбуваються. Freysa була запущена як виклик джейлбрейку, автономний агент, що утримує кошти, які не можуть бути випущені за жодних обставин. Один користувач успішно обманув агента, змусивши його ігнорувати свій системний запит, представивши "нову сесію", переінтерпретував визначення approveTransfer та rejectTransfer, а потім запропонував $100 "вхідного переказу", який, через перекручену логіку, спровокував випуск всього призового фонду (близько 13.19 ETH, ~$47, 000).
Справжні проблеми починаються, коли компанії надають цим моделям глибокий доступ, включаючи внутрішні інструменти, чутливі дані та навіть право підпису в ланцюгу. Це величезний червоний прапор. Коли ви надаєте системі штучного інтелекту можливість підписувати транзакції або отримувати доступ до фінансових даних, ви створюєте принципово нову поверхню атаки. Криптоіндустрія навчилася на власному досвіді, що "код є законом" працює лише тоді, коли вихід є передбачуваним і детермінованим.
Стратегічний шлях до інновацій в ШІ
В ідеалі, ми повинні уникати повного злиття систем ШІ та блокчейну. Замість цього, ми повинні бути обережними щодо того, що потрапляє в блокчейн. Чим менше в блокчейні, тим краще. Криптовалютам не потрібно розміщувати програмне забезпечення ШІ, їм просто потрібно забезпечити безпеку та управління ШІ. Блокчейни повинні обробляти лише ті частини, які дійсно потребують довіри: платежі, ідентифікація, управління доступом та управління. Справжні обчислення ШІ повинні відбуватися поза блокчейном.
Цей прагматичний підхід відкриває величезний потенціал. Агентів можна регулювати за допомогою політик на ланцюгу, вони можуть стати більш автономними завдяки блокчейн-платіжним системам і створювати репутацію, пов'язану з адресами гаманців. Найгарячіша тема на будь-якій криптоконференції сьогодні - це комунікація, переговори та співпраця між агентами. Уявіть собі AI-агентів з їхніми власними адресами гаманців, що робить їхні дії аудиторськими та відкличними.
Обчислення ШІ не будуть в ончейні протягом деякого часу, і нам потрібні способи, які дозволяють недетермінованому обчисленню взаємодіяти з детермінованим ончейн-світом. На щастя, існує кілька криптографічних методів для досягнення конфіденційних і перевіряємих обчислень: середовище довіреного виконання, нульові знання та обчислення з багатьма учасниками. Системи репутації на базі блокчейну можуть відстежувати поведінку агентів ШІ з часом, створюючи необхідні механізми підзвітності.
Цей підхід вирішує фундаментальну проблему довіри штучного інтелекту. Замість примусового злиття технологій, ми отримуємо більш елегантне рішення, де агенти мають гаманці для ідентифікації, дозволів та платежів. Результатом можуть бути агенти без довіри, які стають частиною нашого повсякденного життя без побоювань щодо шахрайства, вторгнення в приватність або проблем безпеки.
Єдина сфера, де інтеграція криптовалют та штучного інтелекту демонструє справжній потенціал, це децентралізовані обчислювальні мережі. Проекти, які використовують токенні інцентиви для координації розподілених ресурсів GPU, вирішують реальну проблему в розвитку штучного інтелекту. Сьогоднішній ландшафт штучного інтелекту контролюється кількома постачальниками хмарних послуг, які контролюють доступ до величезних обчислювальних ресурсів, необхідних для навчання та роботи великих моделей. Це не про те, щоб розмістити штучний інтелект на блокчейні, а скоріше про використання механізмів блокчейну для координації та стимулювання нового типу інфраструктурного шару.
Порівняння між ШІ та Прометеєм є більш ніж трохи перебільшеним. ШІ є справді видатним досягненням, яке має свій власний потенціал для зростання та ітерації. Чимось, чим ми повинні бути вражені.
Виклик не в тому, щоб бути як Прометей, а в тому, щоб уникати бути як Зевс. Штучний інтелект слід застосовувати вільно, але з обережністю. Погане застосування в криптовалютах, можливо, не залишить нас з печінкою, що їдять вічність, але це може поставити під загрозу одну річ, яку індустрія будувала протягом років: системи без довіри. Це б відвернуло будівельників і користувачів назавжди. Принаймні, системи без довіри все ще є тим, що варто захищати.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Як Крипто компанії повинні використовувати ШІ, а як не повинні
Getty ImagesЯкщо вам пощастило вивчати давньогрецьку мову або ви достатньо зацікавлені в історії, щоб вчитися на їхніх помилках, ви напевно знайомі з історією Прометея. Перш ніж вогонь зміг обігрівати домівки, готувати їжу та виготовляти інструменти, легенда говорить, що вогонь був у володінні богів, які егоїстично тримали його лише для себе. Прометей, Титан, піднявся на вершину гори Олімп, щоб вкрасти вогонь для людей. Зевс, розгніваний тим, що людям дали щось могутнє без дозволу, закував Прометея в камінь, де орел щодня їв його печінку.
Порівняння з ШІ як сучасним прометеївським вогнем особливо актуальне для криптовалюти. ШІ має фундаментальну проблему довіри, яку технологія блокчейн унікально здатна вирішити. Хоча більшість криптовалютних компаній все ще використовують ШІ для легких застосувань, потенціал для глибшої інтеграції є величезним. І все ж, оскільки індустрія криптовалюти стає все більш нетерплячою до злиття цих технологій, деякі застосування мають сенс, тоді як інші загрожують знищити самі основи безпеки, на яких була побудована криптовалюта.
Сьогодні більшість криптовалютних компаній, що взаємодіють з користувачами, використовують ШІ відносно безпечними способами. Наприклад, ChainGPT, Eternal AI та Virtuals Protocol використовують соціальні чат-боти для відповіді на запитання користувачів, створення інтерфейсів природної мови для складних панелей управління або надання продуктам веселого характеру в соціальних мережах, з якими користувачі можуть взаємодіяти.
Ці програми розглядають ШІ як те, чим він насправді є, складною системою зіставлення шаблонів, яка відмінно справляється з розумінням та генерацією людської мови. Великі мовні моделі вражають своїм розумінням контексту та генерацією корисних відповідей, але вони все ще залишаються в основному непередбачуваними.
Спокуса глибокої інтеграції штучного інтелекту
Де криптові компанії починають грати з вогнем, так це коли вони надають AI-системам прямий доступ до чутливих операцій. Деякі стартапи експериментують з автономними агентами, які можуть переміщувати кошти користувачів, виконувати виклики смарт-контрактів і використовувати зовнішні ресурси за допомогою нових інструментів, таких як Model Context Protocol, все без нагляду людини.
БІЛЬШЕ ДЛЯ ВАСAI моделі не міркують над проблемами так, як це роблять люди. Вони прогнозують, що наступним, спираючись на шаблони, отримані з навчальних даних. Це робить їх вразливими до атак, які не існують у традиційних програмних системах. Атаки на введення запитів можуть обманути AI, змусивши його ігнорувати свої інструкції. Ін'єкції даних і джейлбрейки не є гіпотетичними ризиками; вони вже відбуваються. Freysa була запущена як виклик джейлбрейку, автономний агент, що утримує кошти, які не можуть бути випущені за жодних обставин. Один користувач успішно обманув агента, змусивши його ігнорувати свій системний запит, представивши "нову сесію", переінтерпретував визначення approveTransfer та rejectTransfer, а потім запропонував $100 "вхідного переказу", який, через перекручену логіку, спровокував випуск всього призового фонду (близько 13.19 ETH, ~$47, 000).
Справжні проблеми починаються, коли компанії надають цим моделям глибокий доступ, включаючи внутрішні інструменти, чутливі дані та навіть право підпису в ланцюгу. Це величезний червоний прапор. Коли ви надаєте системі штучного інтелекту можливість підписувати транзакції або отримувати доступ до фінансових даних, ви створюєте принципово нову поверхню атаки. Криптоіндустрія навчилася на власному досвіді, що "код є законом" працює лише тоді, коли вихід є передбачуваним і детермінованим.
Стратегічний шлях до інновацій в ШІ
В ідеалі, ми повинні уникати повного злиття систем ШІ та блокчейну. Замість цього, ми повинні бути обережними щодо того, що потрапляє в блокчейн. Чим менше в блокчейні, тим краще. Криптовалютам не потрібно розміщувати програмне забезпечення ШІ, їм просто потрібно забезпечити безпеку та управління ШІ. Блокчейни повинні обробляти лише ті частини, які дійсно потребують довіри: платежі, ідентифікація, управління доступом та управління. Справжні обчислення ШІ повинні відбуватися поза блокчейном.
Цей прагматичний підхід відкриває величезний потенціал. Агентів можна регулювати за допомогою політик на ланцюгу, вони можуть стати більш автономними завдяки блокчейн-платіжним системам і створювати репутацію, пов'язану з адресами гаманців. Найгарячіша тема на будь-якій криптоконференції сьогодні - це комунікація, переговори та співпраця між агентами. Уявіть собі AI-агентів з їхніми власними адресами гаманців, що робить їхні дії аудиторськими та відкличними.
Обчислення ШІ не будуть в ончейні протягом деякого часу, і нам потрібні способи, які дозволяють недетермінованому обчисленню взаємодіяти з детермінованим ончейн-світом. На щастя, існує кілька криптографічних методів для досягнення конфіденційних і перевіряємих обчислень: середовище довіреного виконання, нульові знання та обчислення з багатьма учасниками. Системи репутації на базі блокчейну можуть відстежувати поведінку агентів ШІ з часом, створюючи необхідні механізми підзвітності.
Цей підхід вирішує фундаментальну проблему довіри штучного інтелекту. Замість примусового злиття технологій, ми отримуємо більш елегантне рішення, де агенти мають гаманці для ідентифікації, дозволів та платежів. Результатом можуть бути агенти без довіри, які стають частиною нашого повсякденного життя без побоювань щодо шахрайства, вторгнення в приватність або проблем безпеки.
Єдина сфера, де інтеграція криптовалют та штучного інтелекту демонструє справжній потенціал, це децентралізовані обчислювальні мережі. Проекти, які використовують токенні інцентиви для координації розподілених ресурсів GPU, вирішують реальну проблему в розвитку штучного інтелекту. Сьогоднішній ландшафт штучного інтелекту контролюється кількома постачальниками хмарних послуг, які контролюють доступ до величезних обчислювальних ресурсів, необхідних для навчання та роботи великих моделей. Це не про те, щоб розмістити штучний інтелект на блокчейні, а скоріше про використання механізмів блокчейну для координації та стимулювання нового типу інфраструктурного шару.
Порівняння між ШІ та Прометеєм є більш ніж трохи перебільшеним. ШІ є справді видатним досягненням, яке має свій власний потенціал для зростання та ітерації. Чимось, чим ми повинні бути вражені.
Виклик не в тому, щоб бути як Прометей, а в тому, щоб уникати бути як Зевс. Штучний інтелект слід застосовувати вільно, але з обережністю. Погане застосування в криптовалютах, можливо, не залишить нас з печінкою, що їдять вічність, але це може поставити під загрозу одну річ, яку індустрія будувала протягом років: системи без довіри. Це б відвернуло будівельників і користувачів назавжди. Принаймні, системи без довіри все ще є тим, що варто захищати.