Polícia do ES divulga fotos de apreensões modificadas por IA com erros

Imagens de apreensões divulgadas pelas polícias Civil e Militar do Espírito Santo foram modificadas por ferramentas de inteligência artificial (IA) . A investigação realizada com exclusividade pelo g1 ES revela falhas como cédulas de Real deformadas, munições flutuantes e pinos de cocaína distorcidos.

Contexto

O levantamento , realizado ao longo do mês de agosto, analisou os materiais distribuídos pelas assessorias das corporações a veículos de imprensa e revelou que ao menos oito supostos registros de apreensões de drogas e armas não são fotografias documentais autênticas .

Os exames técnicos, feitos por especialistas e ferramentas de detecção de IA, revelam também itens duplicados e armas mecanicamente incoerentes .

Segundo o advogado criminalista Raphael Boldt, a manipulação das imagens pode colocar sob suspeita outras divulgações e até elementos de prova produzidos pelas corporações . “Mesmo sem integrar o inquérito, essa prática pode produzir desinformação institucional, violar direitos de pessoas identificáveis, justificar direito de resposta e indenização e, em situações mais graves, gerar responsabilização administrativa ou penal”, destacou.

Desdobramentos

As oito imagens, enviadas pelas corporações entre os dias 4 e 28 de agosto no WhatsApp, foram analisadas com o auxílio de especialistas em inteligência artificial e de ferramentas de detecção de conteúdo gerado ou modificado por IA.

As fotografias foram submetidas a três detectores: "Hive Moderation", "Is It AI?" e "AI or Not". Os percentuais apresentados nesta reportagem correspondem aos índices atribuídos por cada ferramenta à possibilidade de uso de inteligência artificial nas imagens.

Os resultados variaram entre as plataformas. Em alguns casos, uma ferramenta apresentou um índice baixo, enquanto as demais apontaram percentuais elevados. Por isso, os resultados dos detectores não foram considerados isoladamente, mas confrontados com as distorções encontradas nas imagens e com a análise técnica do material.

Segundo o especialista em Inteligência Artificial, Breno Lobato, todas as imagens analisadas possuem indícios de manipulação por IA. "Dá para ver pelas notas que não tem consistência, informações que não batem, números e informações incoerentes e inconsistentes. Onde não há imagem de nota, fica bem evidente pela textura dos panos das bandeiras do qual as tramas, sombra e impressão estão 'fakes'", destacou.

A Secretaria de Estado da Segurança Pública e Defesa Social (Sesp) confirmou que identificou o "uso de recursos de inteligência artificial na edição de algumas imagens de materiais apreendidos encaminhadas à imprensa". Por nota, afirmou que as imagens citadas na reportagem foram enviadas exclusivamente para fins de divulgação e não integram os registros oficiais das ocorrências ou investigações (veja a nota na íntegra no final do texto).

A imagem foi divulgada pela Polícia Militar no dia 28 de agosto após uma operação no bairro Jaburuna, em Vila Velha. Segundo a corporação, foram apreendidas seis armas de fogo, duas granadas, drogas, dinheiro e rádios comunicadores.

Entre as distorções visíveis estão alterações nas cédulas de Real. Em uma das notas, aparece uma figura semelhante à silhueta de um homem , elemento que não faz parte do desenho original da cédula. Números, inscrições e outros detalhes gráficos do dinheiro também aparecem deformados e pouco definidos.

Há ainda irregularidades em detalhes de armas, carregadores e munições. Alguns componentes apresentam contornos pouco definidos ou formatos diferentes entre objetos aparentemente semelhantes.