Apenas 10% do código gerado por IA atende padrões de segurança, aponta estudo. A crescente adoção de assistentes de programação baseados em inteligência artificial trouxe ganhos significativos de produtividade para desenvolvedores. No entanto, um novo estudo indica que essa evolução também traz riscos importantes de segurança.
Segundo levantamento divulgado pela Endor Labs e reportado pela VentureBeat, apenas cerca de 10% do código gerado por ferramentas de IA atende plenamente aos padrões de segurança considerados adequados para uso em produção.
Como resposta a esse cenário, a empresa lançou o Auri, uma ferramenta gratuita voltada à análise de vulnerabilidades em código gerado por sistemas de inteligência artificial.
O crescimento da programação assistida por IA
Ferramentas baseadas em IA estão transformando a forma como o software é desenvolvido.
Assistentes como:
permitem que desenvolvedores gerem funções, scripts e até arquiteturas completas a partir de instruções em linguagem natural.
Essa abordagem acelera significativamente o ciclo de desenvolvimento e reduz o tempo necessário para escrever código.
No entanto, o estudo aponta que velocidade nem sempre vem acompanhada de segurança.
Por que o código gerado por IA pode ser inseguro
O principal motivo está na forma como os modelos são treinados.
Modelos generativos aprendem a produzir código analisando grandes volumes de repositórios públicos disponíveis na internet.
O problema é que grande parte desse código:
- não segue boas práticas de segurança
- utiliza bibliotecas desatualizadas
- contém vulnerabilidades conhecidas
- foi escrito para fins experimentais ou educacionais
Como resultado, a IA pode gerar trechos de código que funcionam corretamente, mas apresentam riscos quando utilizados em sistemas reais.
Tipos comuns de vulnerabilidades
Entre os problemas frequentemente encontrados em código gerado por IA estão:
Dependências inseguras
Bibliotecas externas podem possuir vulnerabilidades conhecidas ou versões desatualizadas.
Falhas de validação de entrada
Código pode não validar corretamente dados recebidos de usuários ou sistemas externos.
Exposição de dados sensíveis
Credenciais ou tokens podem ser tratados de forma inadequada.
Problemas de autenticação e autorização
Implementações simplificadas podem permitir acesso indevido a recursos do sistema.
Essas falhas podem passar despercebidas quando desenvolvedores confiam excessivamente na saída das ferramentas de IA.
O papel do Auri na detecção de riscos
O Auri foi desenvolvido para atuar como uma camada adicional de segurança no fluxo de desenvolvimento assistido por IA.
A ferramenta analisa automaticamente o código gerado e busca identificar possíveis vulnerabilidades antes que ele seja integrado ao sistema principal.
Entre as funcionalidades estão:
- análise de dependências externas
- identificação de vulnerabilidades conhecidas
- avaliação de práticas de segurança
- sugestões de correção
O objetivo é permitir que desenvolvedores mantenham a produtividade proporcionada pela IA sem comprometer a segurança do software.
Segurança como novo desafio do desenvolvimento com IA
À medida que ferramentas de programação baseadas em IA se tornam comuns, surge um novo desafio para equipes de desenvolvimento.
Antes, grande parte do código era escrito manualmente por desenvolvedores experientes.
Agora, parte significativa do código pode ser gerada automaticamente.
Isso cria a necessidade de novos processos de revisão e governança.
Entre as práticas que ganham importância estão:
- auditoria automatizada de código
- revisão de segurança antes do deploy
- monitoramento de dependências
- validação contínua em pipelines de DevOps
A segurança precisa acompanhar o ritmo acelerado de desenvolvimento proporcionado pela IA.
Impacto para empresas e equipes de tecnologia
Para empresas que utilizam assistentes de programação, o estudo serve como alerta.
A adoção de IA pode aumentar produtividade, mas também ampliar a superfície de risco se não houver processos adequados de verificação.
Organizações precisam equilibrar dois fatores:
- velocidade de desenvolvimento
- confiabilidade e segurança do software
Ferramentas de análise automática, como o Auri, tendem a se tornar parte essencial do pipeline de desenvolvimento.
O futuro da programação assistida por IA
A programação assistida por IA provavelmente continuará evoluindo rapidamente.
Modelos mais avançados tendem a melhorar sua capacidade de produzir código seguro. No entanto, especialistas indicam que a revisão humana continuará sendo necessária.
Em vez de substituir completamente desenvolvedores, a IA deve funcionar como multiplicador de produtividade.
Nesse cenário, o papel dos profissionais muda: menos tempo escrevendo código básico e mais tempo analisando arquitetura, segurança e qualidade.
Um desafio importante
O estudo da Endor Labs revela um desafio importante da nova era do desenvolvimento de software: nem todo código gerado por IA está pronto para uso seguro.
Com apenas cerca de 10% das sugestões atendendo plenamente aos padrões de segurança, torna-se essencial adotar ferramentas e processos que garantam revisão adequada.
A produtividade proporcionada pela inteligência artificial é real, mas precisa ser acompanhada por práticas rigorosas de auditoria e governança.
Na era da programação assistida por IA, escrever código rapidamente deixou de ser o principal desafio. O novo desafio é garantir que esse código seja confiável e seguro.
