Проблемы безопасности DeFAI в условиях тенденций слияния AI и Web3
В последнее время в Стамбуле проходит неделя блокчейна (IBW 2025), сосредоточенная на тенденциях融合 AI и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. Несколько экспертов отрасли провели глубокое обсуждение на круглом столе о текущем состоянии применения технологий AI в DeFi и связанных с ними вызовах безопасности.
В обсуждении "DeFAI" (децентрализованные финансовые технологии на основе искусственного интеллекта) стал ключевой темой. Эксперты указывают на то, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов, новая финансовая парадигма DeFAI постепенно формируется. Однако эта инновация также создает новые уязвимости и проблемы безопасности.
Один из экспертов на конференции заявил: "Перспективы DeFAI огромны, но мы должны пересмотреть механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентами зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только усиливает риски, но и создает возможности для нападений."
AI-агенты по сути являются интеллектуальными системами, способными принимать самостоятельные решения и выполнять их на основе логики ИИ, обычно работают по разрешению пользователя, протокола или DAO. Среди них AI-торговые роботы являются наиболее典型ным представителем. В настоящее время большинство AI-агентов работает на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для атак внедрения, манипуляций с моделями или подделки данных. Если они будут захвачены, это может привести не только к потерям средств, но и серьезно повлиять на стабильность всего протокола.
На форуме также обсуждалась типичная атака: когда AI-торговый агент, используемый пользователем DeFi, следит за сообщениями в социальных сетях в качестве торговых сигналов, злоумышленник публикует ложные предупреждения, такие как "протокол подвергся атаке", что может побудить агента немедленно начать экстренную ликвидацию. Это не только приведет к потерям активов пользователя, но и вызовет колебания на рынке, которые злоумышленник сможет использовать через фронт-раннинг (Front Running).
По поводу этих рисков эксперты на конференции в целом согласны с тем, что безопасность AI-агентов не должна быть возложена на одну сторону, а должна быть совместной ответственностью пользователей, разработчиков и третьих сторон безопасности.
Пользователи должны четко понимать объем прав, которыми обладает агент, осторожно предоставлять эти права и внимательно проверять высокорисковые операции AI-агента. Разработчики должны внедрить меры защиты на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и механизмы отката. Безопасные компании третьих сторон должны предоставлять независимый обзор моделей поведения AI-агента, инфраструктуры и способов интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.
Эксперт по безопасности предупредил: "Если продолжать рассматривать AI-агенты как 'черный ящик', то в реальном мире происшествия с безопасностью - это лишь вопрос времени." Он предложил разработчикам, исследующим направление DeFAI: "Как и в случае со смарт-контрактами, логика поведения AI-агента также реализована кодом. Раз это код, он может быть атакован, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
IBW, как одно из наиболее влиятельных блокчейн-мероприятий в Европе, привлекло более 15 000 участников, включая разработчиков, проектные команды, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капиталовложениям Турции (CMB), статус IBW в отрасли был дополнительно укреплён.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Безопасность с помощью искусственного интеллекта вызова DeFAI стала горячей темой IBW. Эксперты предупреждают о рисках AI-агентов.
Проблемы безопасности DeFAI в условиях тенденций слияния AI и Web3
В последнее время в Стамбуле проходит неделя блокчейна (IBW 2025), сосредоточенная на тенденциях融合 AI и Web3, став важной платформой для обсуждения безопасности Web3 в этом году. Несколько экспертов отрасли провели глубокое обсуждение на круглом столе о текущем состоянии применения технологий AI в DeFi и связанных с ними вызовах безопасности.
В обсуждении "DeFAI" (децентрализованные финансовые технологии на основе искусственного интеллекта) стал ключевой темой. Эксперты указывают на то, что с быстрым развитием больших языковых моделей (LLM) и AI-агентов, новая финансовая парадигма DeFAI постепенно формируется. Однако эта инновация также создает новые уязвимости и проблемы безопасности.
Один из экспертов на конференции заявил: "Перспективы DeFAI огромны, но мы должны пересмотреть механизмы доверия в децентрализованных системах. В отличие от смарт-контрактов, основанных на фиксированной логике, процесс принятия решений AI-агентами зависит от контекста, времени и даже исторического взаимодействия. Эта непредсказуемость не только усиливает риски, но и создает возможности для нападений."
AI-агенты по сути являются интеллектуальными системами, способными принимать самостоятельные решения и выполнять их на основе логики ИИ, обычно работают по разрешению пользователя, протокола или DAO. Среди них AI-торговые роботы являются наиболее典型ным представителем. В настоящее время большинство AI-агентов работает на архитектуре Web2, полагаясь на централизованные серверы и API, что делает их уязвимыми для атак внедрения, манипуляций с моделями или подделки данных. Если они будут захвачены, это может привести не только к потерям средств, но и серьезно повлиять на стабильность всего протокола.
На форуме также обсуждалась типичная атака: когда AI-торговый агент, используемый пользователем DeFi, следит за сообщениями в социальных сетях в качестве торговых сигналов, злоумышленник публикует ложные предупреждения, такие как "протокол подвергся атаке", что может побудить агента немедленно начать экстренную ликвидацию. Это не только приведет к потерям активов пользователя, но и вызовет колебания на рынке, которые злоумышленник сможет использовать через фронт-раннинг (Front Running).
По поводу этих рисков эксперты на конференции в целом согласны с тем, что безопасность AI-агентов не должна быть возложена на одну сторону, а должна быть совместной ответственностью пользователей, разработчиков и третьих сторон безопасности.
Пользователи должны четко понимать объем прав, которыми обладает агент, осторожно предоставлять эти права и внимательно проверять высокорисковые операции AI-агента. Разработчики должны внедрить меры защиты на этапе проектирования, такие как усиление подсказок, изоляция в песочнице, ограничение скорости и механизмы отката. Безопасные компании третьих сторон должны предоставлять независимый обзор моделей поведения AI-агента, инфраструктуры и способов интеграции в блокчейн, а также сотрудничать с разработчиками и пользователями для выявления рисков и предложения мер по их смягчению.
Эксперт по безопасности предупредил: "Если продолжать рассматривать AI-агенты как 'черный ящик', то в реальном мире происшествия с безопасностью - это лишь вопрос времени." Он предложил разработчикам, исследующим направление DeFAI: "Как и в случае со смарт-контрактами, логика поведения AI-агента также реализована кодом. Раз это код, он может быть атакован, поэтому необходимо проводить профессиональный аудит безопасности и тестирование на проникновение."
IBW, как одно из наиболее влиятельных блокчейн-мероприятий в Европе, привлекло более 15 000 участников, включая разработчиков, проектные команды, инвесторов и регуляторов со всего мира. В этом году, с официальным запуском выдачи лицензий на блокчейн-проекты Комиссией по капиталовложениям Турции (CMB), статус IBW в отрасли был дополнительно укреплён.