Conteúdos gerados por IA ampliam riscos de abuso, exploração sexual e danos psicológicos no ambiente digital
O crescimento do uso de ferramentas de inteligência artificial ampliou ameaças contra crianças e adolescentes, como aliciamento online, produção de imagens falsas e ciberbulying, segundo alerta divulgado pela Organização das Nações Unidas (ONU) em 19 de janeiro. De acordo com a agência, a proliferação dessas ferramentas tem facilitado práticas como aliciamento online, produção de imagens falsas de caráter sexual, ciberbullying e exposição a conteúdos impróprios, ampliando a vulnerabilidade de públicos mais jovens.
As preocupações constam de uma declaração que reúne orientações e recomendações para governos, setor privado, educadores e famílias. O documento sustenta que a proteção das crianças no ambiente digital deve ser tratada como uma questão central de direitos humanos, diante do impacto crescente das tecnologias emergentes sobre o desenvolvimento, a saúde mental e a segurança infantil.
Segundo o diretor do Gabinete de Desenvolvimento das Telecomunicações, da União Internacional das Telecomunicações, Cosmas Zavazava, a inteligência artificial tem sido usada para sofisticar práticas abusivas já existentes. Ele cita desde o aliciamento personalizado, baseado na análise de comportamentos e interesses, até a criação de deepfakes e a incorporação de funcionalidades prejudiciais em plataformas digitais amplamente utilizadas por crianças e adolescentes.
Zavazava lembrou que, durante a pandemia de Covid-19, houve um aumento expressivo de casos de abuso online, especialmente contra meninas e jovens mulheres, muitos deles com consequências físicas e psicológicas. Para entidades de defesa dos direitos da criança, a IA amplia esse cenário ao permitir que agressores utilizem dados e padrões emocionais para manipular e explorar vítimas com maior precisão.
Um dos pontos mais alarmantes destacados pelas agências da ONU é o uso da inteligência artificial para gerar imagens falsas sexualmente explícitas de crianças reais, prática que tem impulsionado novas formas de extorsão sexual. Dados citados no alerta indicam que, nos Estados Unidos, os casos de abuso sexual infantil facilitado por tecnologia cresceram de forma significativa entre 2023 e 2024.
Para a ONU, esse fenômeno evidencia a gravidade dos riscos associados ao uso não regulado da inteligência artificial e reforça a necessidade de respostas coordenadas em nível nacional e internacional. Alguns países já começaram a adotar medidas mais restritivas. No fim de 2025, a Austrália tornou-se o primeiro país a proibir o acesso de crianças com menos de 16 anos às redes sociais, sob o argumento de que os riscos superam os benefícios.
Outros países, como Reino Unido, França, Canadá e Malásia, também discutem legislações semelhantes ou restrições adicionais, refletindo uma preocupação crescente com o impacto das plataformas digitais sobre o bem-estar e a segurança das crianças.
A declaração aponta ainda uma lacuna generalizada de literacia em inteligência artificial entre crianças, pais, professores e formuladores de políticas públicas, além de formação insuficiente sobre proteção de dados e avaliação de impactos nos direitos da criança. O documento atribui responsabilidades diretas às empresas de tecnologia, afirmando que muitas ferramentas baseadas em IA ainda não são desenvolvidas com foco no bem-estar infantil.
Segundo Zavazava, a ONU tem intensificado o diálogo com o setor privado para reforçar essas obrigações. Ele afirma que a utilização responsável da inteligência artificial é compatível com inovação e atividade econômica e que algumas empresas já assumiram compromissos para proteger crianças e populações vulneráveis.
A agência destaca que, embora a Convenção sobre os Direitos da Criança tenha sido atualizada em 2021 para incorporar os riscos do mundo digital, ainda são necessárias orientações complementares. Nesse contexto, foram elaboradas diretrizes específicas de proteção infantil online, voltadas a famílias, educadores, reguladores e empresas, com o objetivo de reduzir riscos e promover um uso mais seguro da tecnologia por crianças cada vez mais expostas ao ambiente digital desde idades precoces.
Proteção infantil ainda é desafio
No Brasil, o avanço das tecnologias de inteligência artificial tem inflamado o debate sobre regulação das plataformas digitais e proteção de crianças e adolescentes no ambiente online. Projetos de lei em tramitação no Congresso buscam estabelecer regras mais rígidas para o uso de dados, responsabilização das empresas e combate a crimes digitais, mas especialistas avaliam que a legislação ainda avança de forma lenta diante da velocidade das inovações tecnológicas.
Organizações de defesa da infância alertam que crianças brasileiras estão expostas precocemente ao ambiente digital, muitas vezes sem mediação adequada de adultos ou políticas públicas consistentes de educação digital. Casos de aliciamento, exposição a conteúdos impróprios e violência online têm sido registrados em diferentes regiões do país, evidenciando a necessidade de ações integradas entre Estado, escolas, famílias e setor privado.
Embora o Estatuto da Criança e do Adolescente não trate diretamente de IA, juristas e entidades da área da infância argumentam que a omissão regulatória não exime o poder público e as empresas de responsabilidade. Para eles, garantir a segurança de crianças no ambiente digital é uma extensão dos direitos fundamentais já assegurados pela lei, exigindo atualização normativa, fiscalização efetiva e políticas de prevenção compatíveis com a realidade tecnológica atual.
