Виклики безпеки DeFAI в умовах інтеграції ШІ та Web3
Нещодавно, Стамбульський тиждень блокчейн (IBW 2025) зосередився на тенденціях інтеграції штучного інтелекту та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. Кілька експертів галузі на круглому столі детально обговорили сучасний стан застосування технології штучного інтелекту в DeFi та виклики безпеки.
Обговорюється, що "DeFAI" (децентралізовані фінанси на основі штучного інтелекту) став центральною темою. Експерти зазначають, що з швидким розвитком великих мовних моделей (LLM) та AI-агентів, ця нова фінансова парадигма DeFAI поступово формується. Однак ця інновація також приносить нові вектори атак і проблеми безпеки.
Один з експертів, який брав участь у конференції, зазначив: "DeFAI має великі перспективи, але ми повинні переосмислити механізми довіри в децентралізованих системах. На відміну від смарт-контрактів, які базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій. Ця непередбачуваність не лише посилює ризики, але й створює можливості для зловмисників."
AI-агенти в основному є автономними сутностями, здатними приймати рішення та виконувати їх на основі логіки штучного інтелекту, які зазвичай діють за авторизацією користувача, протоколу або DAO. При цьому AI-торгові роботи є найтиповішими представниками. На даний момент більшість AI-агентів функціонують на архітектурі Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак за допомогою ін’єкцій, маніпуляцій моделлю або підробки даних. Як тільки вони будуть перехоплені, це може призвести не лише до втрати коштів, але й суттєво вплинути на стабільність всього протоколу.
На форумі також обговорювалося типовий сценарій атаки: коли AI-трейдер, яким користується DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник публікує фальшиві тривоги, наприклад, "протокол піддається атаці", що може спонукати трейдера терміново розпочати екстрене розпродаж. Це не лише призведе до втрати активів користувача, але й викличе коливання ринку, які зловмисник може використати за допомогою фронт-ранінгу (Front Running).
Щодо цих ризиків, експерти, які брали участь у засіданні, вважають, що безпека агентів ШІ не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.
Користувачі повинні чітко усвідомлювати обсяг прав, якими володіє агент, обережно надаючи ці права та звертаючи увагу на перевірку високоризикових операцій агентів ШІ. Розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як зміцнення підказок, ізоляція в пісочниці, обмеження швидкості та механізми резервного копіювання. Треті сторони з безпеки повинні надати незалежний аудит поведінки моделей агентів ШІ, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропозиції заходів пом'якшення.
Один експерт з безпеки застеріг: "Якщо продовжувати вважати AI-агента 'чорною скринькою', то інциденти безпеки у реальному світі — це лише питання часу." Він порадив розробникам, які досліджують напрямок DeFAI: "Як і в разі смарт-контрактів, логіка поведінки AI-агента також реалізується кодом. Оскільки це код, існує можливість атаки, тому необхідно провести професійний аудит безпеки та тестування на проникнення."
IBW як один з найбільш впливових блокчейн-заходів у Європі, залучив понад 15 000 учасників з усього світу, включаючи розробників, проєктні команди, інвесторів та регуляторів. Цього року, з офіційним запуском видачі ліцензій на блокчейн-проєкти Комісії з капітальних ринків Туреччини (CMB), статус IBW в індустрії отримав подальше підвищення.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Виклики безпеки DeFAI стали гарячою темою IBW, експерти попереджають про ризики агентів штучного інтелекту
Виклики безпеки DeFAI в умовах інтеграції ШІ та Web3
Нещодавно, Стамбульський тиждень блокчейн (IBW 2025) зосередився на тенденціях інтеграції штучного інтелекту та Web3, ставши важливою платформою для обговорення безпеки Web3 цього року. Кілька експертів галузі на круглому столі детально обговорили сучасний стан застосування технології штучного інтелекту в DeFi та виклики безпеки.
Обговорюється, що "DeFAI" (децентралізовані фінанси на основі штучного інтелекту) став центральною темою. Експерти зазначають, що з швидким розвитком великих мовних моделей (LLM) та AI-агентів, ця нова фінансова парадигма DeFAI поступово формується. Однак ця інновація також приносить нові вектори атак і проблеми безпеки.
Один з експертів, який брав участь у конференції, зазначив: "DeFAI має великі перспективи, але ми повинні переосмислити механізми довіри в децентралізованих системах. На відміну від смарт-контрактів, які базуються на фіксованій логіці, процес прийняття рішень AI-агентів підлягає впливу контексту, часу та навіть історичних взаємодій. Ця непередбачуваність не лише посилює ризики, але й створює можливості для зловмисників."
AI-агенти в основному є автономними сутностями, здатними приймати рішення та виконувати їх на основі логіки штучного інтелекту, які зазвичай діють за авторизацією користувача, протоколу або DAO. При цьому AI-торгові роботи є найтиповішими представниками. На даний момент більшість AI-агентів функціонують на архітектурі Web2, покладаючись на централізовані сервери та API, що робить їх вразливими до атак за допомогою ін’єкцій, маніпуляцій моделлю або підробки даних. Як тільки вони будуть перехоплені, це може призвести не лише до втрати коштів, але й суттєво вплинути на стабільність всього протоколу.
На форумі також обговорювалося типовий сценарій атаки: коли AI-трейдер, яким користується DeFi, моніторить повідомлення в соціальних мережах як торгові сигнали, зловмисник публікує фальшиві тривоги, наприклад, "протокол піддається атаці", що може спонукати трейдера терміново розпочати екстрене розпродаж. Це не лише призведе до втрати активів користувача, але й викличе коливання ринку, які зловмисник може використати за допомогою фронт-ранінгу (Front Running).
Щодо цих ризиків, експерти, які брали участь у засіданні, вважають, що безпека агентів ШІ не повинна покладатися на одну сторону, а є спільною відповідальністю користувачів, розробників та третіх сторін безпеки.
Користувачі повинні чітко усвідомлювати обсяг прав, якими володіє агент, обережно надаючи ці права та звертаючи увагу на перевірку високоризикових операцій агентів ШІ. Розробники повинні впроваджувати заходи захисту вже на етапі проектування, такі як зміцнення підказок, ізоляція в пісочниці, обмеження швидкості та механізми резервного копіювання. Треті сторони з безпеки повинні надати незалежний аудит поведінки моделей агентів ШІ, інфраструктури та способів інтеграції в блокчейн, а також співпрацювати з розробниками та користувачами для виявлення ризиків і пропозиції заходів пом'якшення.
Один експерт з безпеки застеріг: "Якщо продовжувати вважати AI-агента 'чорною скринькою', то інциденти безпеки у реальному світі — це лише питання часу." Він порадив розробникам, які досліджують напрямок DeFAI: "Як і в разі смарт-контрактів, логіка поведінки AI-агента також реалізується кодом. Оскільки це код, існує можливість атаки, тому необхідно провести професійний аудит безпеки та тестування на проникнення."
IBW як один з найбільш впливових блокчейн-заходів у Європі, залучив понад 15 000 учасників з усього світу, включаючи розробників, проєктні команди, інвесторів та регуляторів. Цього року, з офіційним запуском видачі ліцензій на блокчейн-проєкти Комісії з капітальних ринків Туреччини (CMB), статус IBW в індустрії отримав подальше підвищення.