Novos desafios de segurança na tendência de fusão entre IA e Web3
Recentemente, a Semana de Blockchain de Istambul (IBW 2025) focou na tendência de fusão entre AI e Web3, tornando-se uma plataforma importante para discussões sobre segurança do Web3 este ano. Durante o evento, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual da aplicação da tecnologia AI em finanças descentralizadas (DeFi) e os desafios de segurança.
Com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, um novo paradigma financeiro emergente — Finanças Descentralizadas com Inteligência Artificial (DeFAI) — está gradualmente se formando. No entanto, essa transformação também trouxe novas superfícies de ataque e riscos de segurança.
Um executivo de uma empresa de segurança apontou: "Embora o DeFAI tenha um futuro promissor, também nos obriga a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão dos agentes de IA é influenciado pelo contexto, pelo tempo e até mesmo pela interação histórica. Essa imprevisibilidade não só agrava os riscos, como também cria oportunidades para os atacantes."
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica de IA, geralmente autorizados a operar por usuários, protocolos ou DAOs. O exemplo mais típico são os robôs de negociação de IA. Atualmente, a maioria dos agentes de IA opera sobre a arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a ameaças como ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, não só pode haver perda de fundos, como também isso pode impactar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando um agente de negociação de IA operado por um usuário de DeFi está monitorando mensagens nas redes sociais como sinais de negociação, um atacante pode publicar alarmes falsos, como "um determinado protocolo está sob ataque", o que pode induzir o agente a iniciar imediatamente uma liquidação de emergência. Esta operação não apenas pode resultar em perdas de ativos para o usuário, mas também pode provocar volatilidade no mercado, que pode ser explorada pelo atacante através de negociação em frente (Front Running).
Em relação a esses riscos, os especialistas presentes concordam que a segurança dos agentes de IA não deve ser uma responsabilidade exclusiva de uma única parte, mas sim uma responsabilidade compartilhada entre os usuários, desenvolvedores e instituições de segurança de terceiros.
Os usuários devem ter clareza sobre o alcance dos direitos do agente e conceder permissões com cautela, além de prestar atenção à revisão das operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como: reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de retrocesso, entre outros mecanismos. Empresas de segurança de terceiros devem fornecer auditoria independente sobre o comportamento do modelo do agente de IA, infraestrutura e formas de integração em blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa-preta', será apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Para os desenvolvedores que estão explorando a direção do DeFAI, ele sugeriu: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, há possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança e testes de penetração profissionais."
Como um dos eventos de blockchain mais influentes da Europa, o IBW atraiu um total de mais de 15.000 participantes, incluindo desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo. Este ano, com o comitê de mercados de capitais da Turquia (CMB) a iniciar oficialmente a emissão de licenças para projetos de blockchain, a posição do IBW na indústria foi ainda mais reforçada.
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
11 Curtidas
Recompensa
11
7
Compartilhar
Comentário
0/400
AirdropSweaterFan
· 3h atrás
Cheio de firulas, mas não é possível fazer saques.
Ver originalResponder0
AltcoinOracle
· 4h atrás
fascinante... minha análise proprietária mostra 87,4% de correlação entre vulnerabilidades de defai e padrões de comércio da antiga Mesopotâmia, para ser honesto
Ver originalResponder0
LootboxPhobia
· 4h atrás
Isso já começa a ir para o buraco.
Ver originalResponder0
BridgeTrustFund
· 4h atrás
A segurança é sempre direcionada para a carteira.
Ver originalResponder0
ChainWallflower
· 4h atrás
Não é tão complicado, quem sabe o que não se pode evitar~
Ver originalResponder0
SchroedingerMiner
· 4h atrás
Sinto que não devemos ouvir essas bobagens dos especialistas. O meu equipamento de mineração nunca apresenta problemas.
Ver originalResponder0
PaperHandsCriminal
· 4h atrás
fazer as pessoas de parvas há alguns anos e ainda estou a brincar. Estou destinado a esperar que feche todas as posições.
A fusão da IA com o Web3 gera novos desafios de segurança em Finanças Descentralizadas. Especialistas pedem atenção à auditoria de agentes de IA.
Novos desafios de segurança na tendência de fusão entre IA e Web3
Recentemente, a Semana de Blockchain de Istambul (IBW 2025) focou na tendência de fusão entre AI e Web3, tornando-se uma plataforma importante para discussões sobre segurança do Web3 este ano. Durante o evento, vários especialistas da indústria realizaram discussões aprofundadas sobre o estado atual da aplicação da tecnologia AI em finanças descentralizadas (DeFi) e os desafios de segurança.
Com o rápido desenvolvimento de modelos de linguagem de grande escala (LLM) e agentes de IA, um novo paradigma financeiro emergente — Finanças Descentralizadas com Inteligência Artificial (DeFAI) — está gradualmente se formando. No entanto, essa transformação também trouxe novas superfícies de ataque e riscos de segurança.
Um executivo de uma empresa de segurança apontou: "Embora o DeFAI tenha um futuro promissor, também nos obriga a reavaliar os mecanismos de confiança em sistemas descentralizados. Ao contrário dos contratos inteligentes baseados em lógica fixa, o processo de decisão dos agentes de IA é influenciado pelo contexto, pelo tempo e até mesmo pela interação histórica. Essa imprevisibilidade não só agrava os riscos, como também cria oportunidades para os atacantes."
Os agentes de IA são essencialmente entidades inteligentes capazes de tomar decisões e executar ações de forma autônoma com base na lógica de IA, geralmente autorizados a operar por usuários, protocolos ou DAOs. O exemplo mais típico são os robôs de negociação de IA. Atualmente, a maioria dos agentes de IA opera sobre a arquitetura Web2, dependendo de servidores e APIs centralizados, o que os torna vulneráveis a ameaças como ataques de injeção, manipulação de modelos ou adulteração de dados. Uma vez sequestrados, não só pode haver perda de fundos, como também isso pode impactar a estabilidade de todo o protocolo.
Os especialistas também discutiram um cenário típico de ataque: quando um agente de negociação de IA operado por um usuário de DeFi está monitorando mensagens nas redes sociais como sinais de negociação, um atacante pode publicar alarmes falsos, como "um determinado protocolo está sob ataque", o que pode induzir o agente a iniciar imediatamente uma liquidação de emergência. Esta operação não apenas pode resultar em perdas de ativos para o usuário, mas também pode provocar volatilidade no mercado, que pode ser explorada pelo atacante através de negociação em frente (Front Running).
Em relação a esses riscos, os especialistas presentes concordam que a segurança dos agentes de IA não deve ser uma responsabilidade exclusiva de uma única parte, mas sim uma responsabilidade compartilhada entre os usuários, desenvolvedores e instituições de segurança de terceiros.
Os usuários devem ter clareza sobre o alcance dos direitos do agente e conceder permissões com cautela, além de prestar atenção à revisão das operações de alto risco do agente de IA. Os desenvolvedores devem implementar medidas de defesa já na fase de design, como: reforço de prompts, isolamento em sandbox, limitação de taxa e lógica de retrocesso, entre outros mecanismos. Empresas de segurança de terceiros devem fornecer auditoria independente sobre o comportamento do modelo do agente de IA, infraestrutura e formas de integração em blockchain, colaborando com desenvolvedores e usuários para identificar riscos e propor medidas de mitigação.
Um especialista em segurança alertou: "Se continuarmos a tratar os agentes de IA como uma 'caixa-preta', será apenas uma questão de tempo até que ocorram acidentes de segurança no mundo real." Para os desenvolvedores que estão explorando a direção do DeFAI, ele sugeriu: "Assim como os contratos inteligentes, a lógica de comportamento dos agentes de IA também é implementada por código. Sendo código, há possibilidade de ser atacado, portanto, é necessário realizar auditorias de segurança e testes de penetração profissionais."
Como um dos eventos de blockchain mais influentes da Europa, o IBW atraiu um total de mais de 15.000 participantes, incluindo desenvolvedores, promotores de projetos, investidores e reguladores de todo o mundo. Este ano, com o comitê de mercados de capitais da Turquia (CMB) a iniciar oficialmente a emissão de licenças para projetos de blockchain, a posição do IBW na indústria foi ainda mais reforçada.