MJ pede à ANPD investigação sobre 13 chatbots voltados a crianças

O Ministério da Justiça e Segurança Pública pediu nesta terça-feira (22) que a Agência Nacional de Proteção de Dados investigue 13 aplicativos de inteligência artificial que oferecem “companheiros” virtuais a crianças e adolescentes. A solicitação partiu da Secretaria Nacional de Direitos Digitais e cita riscos de dependência emocional, vínculo psicoafetivo e proteção insuficiente de usuários menores.

Esses serviços mantêm conversas contínuas, adaptam respostas ao histórico e podem simular amizade, cuidado ou intimidade. A capacidade de produzir linguagem convincente não significa que o sistema compreenda emoções nem que possa substituir relação humana, orientação profissional ou proteção familiar.

O pedido não representa condenação dos aplicativos. A ANPD deverá avaliar quais dados são coletados, como a idade é identificada, se existe consentimento adequado, quais filtros limitam conversas nocivas e como empresas respondem a pedidos de exclusão. As plataformas têm direito de apresentar informações e defesa.

O ponto mais sensível é a assimetria entre um usuário em desenvolvimento e um sistema criado para prolongar interação. Crianças podem atribuir intenção, confiança e autoridade a respostas automáticas. Quando o produto incentiva retorno constante, notificações e personalização, o vínculo pode se tornar mais difícil de avaliar.

Privacidade começa antes da primeira conversa

Para responder de forma personalizada, chatbots podem processar idade declarada, preferências, rotina, localização aproximada, voz, imagens e conteúdo das mensagens. Informações sobre família, escola, saúde ou sofrimento emocional merecem proteção reforçada, porque revelam aspectos íntimos e podem ser difíceis de recuperar depois de vazamento ou uso indevido.

Aferição de idade é um desafio técnico. Pedir apenas uma data de nascimento permite declaração falsa; exigir documento pode ampliar a coleta de dados. A ANPD discute orientações para equilibrar confiabilidade, proporcionalidade e minimização. O serviço precisa demonstrar por que coleta cada informação e por quanto tempo a mantém.

Consentimento dos responsáveis não resolve todos os problemas. Produtos dirigidos a crianças devem aplicar o melhor interesse do menor, linguagem compreensível e configuração protetiva por padrão. Termos extensos e opções escondidas transferem uma responsabilidade que pertence ao fornecedor.

Resposta convincente não é aconselhamento profissional

Modelos de linguagem geram texto a partir de padrões e podem produzir informação incorreta, incentivo inadequado ou respostas inconsistentes. A aparência de empatia torna o erro mais perigoso quando o usuário busca ajuda para violência, automutilação, sexualidade ou conflitos familiares.

Um chatbot seguro precisa reconhecer limites, interromper conteúdos proibidos e encaminhar situações críticas para adultos e serviços reais. Esses mecanismos também devem ser testados em português, com gírias, erros de digitação e tentativas de contornar filtros. Um aviso genérico na tela inicial não substitui proteção durante a conversa.

Pais e educadores podem observar tempo de uso, isolamento, irritação ao desconectar e confiança excessiva nas respostas. A abordagem mais útil é conversar sobre como a IA funciona, combinar limites e manter canais humanos de escuta. Vigilância invasiva sem diálogo pode levar o uso para contas escondidas.

Desenvolvedores também têm responsabilidade desde o desenho do produto. Testes com especialistas em infância, documentação dos limites do modelo, registro de incidentes e mecanismos fáceis de denúncia precisam existir antes do lançamento. Corrigir somente depois de dano público é incompatível com um serviço que escolhe menores como público provável.

Investigação poderá definir obrigações mais concretas

A ANPD pode solicitar relatórios de impacto, políticas de retenção, testes de segurança e descrição dos mecanismos de idade. Se identificar risco elevado ou descumprimento, poderá recomendar ajustes, abrir fiscalização e aplicar medidas previstas na legislação de proteção de dados.

O caso integra um pacote de ações da Secretaria de Direitos Digitais que também trata de identificação de anunciantes e comunicação de crimes contra crianças. A combinação mostra que o problema não está apenas no conteúdo visível, mas na arquitetura econômica e técnica dos serviços.

Os próximos passos serão a resposta da ANPD e a identificação pública das exigências dirigidas às empresas. Até lá, usuários e responsáveis devem evitar compartilhar dados sensíveis, revisar permissões e lembrar que companhia sintética é um produto. A conversa pode parecer pessoal, mas ocorre dentro de uma plataforma que registra, processa e administra informações.