Desafios de Segurança da DeFAI na Tendência de Fusão da Segurança da IA e Web3
Recentemente, a Semana de Blockchain de Istambul (IBW 2025) focou nas tendências de fusão entre a IA e o Web3, tornando-se uma plataforma importante para discussões sobre segurança do Web3 este ano. Vários especialistas do setor realizaram uma discussão aprofundada em um fórum de mesa redonda sobre o estado atual da aplicação da tecnologia de IA no DeFi e os desafios de segurança.
Durante a discussão, "DeFAI" (finanças descentralizadas baseadas em inteligência artificial) tornou-se o tópico central. Os especialistas apontam que, com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, este novo paradigma financeiro DeFAI está gradualmente tomando forma. No entanto, essa inovação também trouxe novas superfícies de ataque e riscos de segurança.
Um especialista presente na conferência afirmou: "O DeFAI tem um futuro promissor, mas precisamos reavaliar os mecanismos de confiança nos sistemas descentralizados. Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão dos agentes de IA é influenciado pelo contexto, pelo tempo e até mesmo pelas interações históricas. Essa imprevisibilidade não apenas agrava os riscos, mas também cria oportunidades para os atacantes."
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar tarefas de forma autônoma com base na lógica da IA, normalmente autorizados a operar por usuários, protocolos ou DAOs. Entre eles, os robôs de negociação de IA são os mais representativos. Atualmente, a maioria dos agentes de IA opera sobre uma arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, isso não só pode resultar em perdas financeiras, mas também pode afetar a estabilidade de todo o protocolo.
No fórum, também foi discutido um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a operar está a monitorizar mensagens nas redes sociais como sinais de negociação, um atacante pode emitir falsos alertas, como "um determinado protocolo está a ser atacado", o que pode induzir o agente a iniciar imediatamente uma liquidação de emergência. Isso não só resultará em perdas de ativos para os usuários, mas também provocará volatilidade no mercado, que será aproveitada pelo atacante através de negociação antecipada (Front Running).
Em relação a esses riscos, os especialistas presentes concordam que a segurança dos agentes de IA não deve ser de responsabilidade de apenas uma parte, mas sim uma responsabilidade conjunta dos usuários, desenvolvedores e instituições de segurança de terceiros.
Os usuários precisam ter clareza sobre o escopo de permissões que o agente possui, conceder permissões com cautela e estar atentos à revisão das operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback, entre outros mecanismos. As empresas de segurança de terceiros devem fornecer auditoria independente sobre o comportamento do modelo do agente de IA, infraestrutura e forma de integração on-chain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa preta', um acidente de segurança no mundo real é apenas uma questão de tempo." Ele sugeriu aos desenvolvedores que estão explorando a direção do DeFAI: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que é código, há a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança e testes de penetração profissionais."
A IBW, como uma das conferências de blockchain mais influentes da Europa, atraiu um total de mais de 15.000 participantes, incluindo desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo. Este ano, com o lançamento oficial da emissão de licenças de projetos de blockchain pela Comissão do Mercado de Capitais da Turquia (CMB), a posição da IBW na indústria foi ainda mais fortalecida.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
Desafios de segurança da IA da DeFAI tornam-se um ponto quente da IBW, especialistas alertam para os riscos dos agentes de IA
Desafios de Segurança da DeFAI na Tendência de Fusão da Segurança da IA e Web3
Recentemente, a Semana de Blockchain de Istambul (IBW 2025) focou nas tendências de fusão entre a IA e o Web3, tornando-se uma plataforma importante para discussões sobre segurança do Web3 este ano. Vários especialistas do setor realizaram uma discussão aprofundada em um fórum de mesa redonda sobre o estado atual da aplicação da tecnologia de IA no DeFi e os desafios de segurança.
Durante a discussão, "DeFAI" (finanças descentralizadas baseadas em inteligência artificial) tornou-se o tópico central. Os especialistas apontam que, com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, este novo paradigma financeiro DeFAI está gradualmente tomando forma. No entanto, essa inovação também trouxe novas superfícies de ataque e riscos de segurança.
Um especialista presente na conferência afirmou: "O DeFAI tem um futuro promissor, mas precisamos reavaliar os mecanismos de confiança nos sistemas descentralizados. Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão dos agentes de IA é influenciado pelo contexto, pelo tempo e até mesmo pelas interações históricas. Essa imprevisibilidade não apenas agrava os riscos, mas também cria oportunidades para os atacantes."
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar tarefas de forma autônoma com base na lógica da IA, normalmente autorizados a operar por usuários, protocolos ou DAOs. Entre eles, os robôs de negociação de IA são os mais representativos. Atualmente, a maioria dos agentes de IA opera sobre uma arquitetura Web2, dependendo de servidores centralizados e APIs, o que os torna vulneráveis a ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, isso não só pode resultar em perdas financeiras, mas também pode afetar a estabilidade de todo o protocolo.
No fórum, também foi discutido um cenário típico de ataque: quando o agente de negociação de IA que os usuários de DeFi estão a operar está a monitorizar mensagens nas redes sociais como sinais de negociação, um atacante pode emitir falsos alertas, como "um determinado protocolo está a ser atacado", o que pode induzir o agente a iniciar imediatamente uma liquidação de emergência. Isso não só resultará em perdas de ativos para os usuários, mas também provocará volatilidade no mercado, que será aproveitada pelo atacante através de negociação antecipada (Front Running).
Em relação a esses riscos, os especialistas presentes concordam que a segurança dos agentes de IA não deve ser de responsabilidade de apenas uma parte, mas sim uma responsabilidade conjunta dos usuários, desenvolvedores e instituições de segurança de terceiros.
Os usuários precisam ter clareza sobre o escopo de permissões que o agente possui, conceder permissões com cautela e estar atentos à revisão das operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de fallback, entre outros mecanismos. As empresas de segurança de terceiros devem fornecer auditoria independente sobre o comportamento do modelo do agente de IA, infraestrutura e forma de integração on-chain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa preta', um acidente de segurança no mundo real é apenas uma questão de tempo." Ele sugeriu aos desenvolvedores que estão explorando a direção do DeFAI: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Uma vez que é código, há a possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança e testes de penetração profissionais."
A IBW, como uma das conferências de blockchain mais influentes da Europa, atraiu um total de mais de 15.000 participantes, incluindo desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo. Este ano, com o lançamento oficial da emissão de licenças de projetos de blockchain pela Comissão do Mercado de Capitais da Turquia (CMB), a posição da IBW na indústria foi ainda mais fortalecida.