Vídeos de IA no YouTube preocupam com efeitos no desenvolvimento infantil

A proliferação de vídeos de IA no YouTube destinados ao público infantil

A presença de vídeos de IA no YouTube tem crescido significativamente, gerando preocupação entre especialistas e organizações de proteção da infância. Conteúdos gerados por inteligência artificial com qualidade questionável proliferam na plataforma, especialmente após buscas relacionadas ao universo infantil, como jogos populares e vídeos de animais.

Em investigação realizada pela BBC News Brasil, bastaram apenas 15 minutos navegando pelos vídeos curtos da plataforma para que clipes desse tipo começassem a aparecer nas recomendações. Produzidos em escala industrial e replicados por diversos canais, muitos desses conteúdos acumulam dezenas ou centenas de milhares de visualizações, gerando receita para seus criadores.

Características dos conteúdos gerados por IA para crianças

Os vídeos de IA no YouTube destinados a crianças apresentam características bastante peculiares e preocupantes. Pesquisadores identificaram músicas infantis sem refrão claro, letras incompreensíveis que misturam trechos em múltiplos idiomas, além de personagens que mudam de nome, voz e aparência sem qualquer explicação narrativa.

Um estudo conduzido por André Mintz, professor da Universidade Federal de Minas Gerais (UFMG), e pela estudante Juno Bozzi analisou aproximadamente 17 mil vídeos encontrados por buscas relacionadas à inteligência artificial e conteúdo infantil. A pesquisa revelou diferentes níveis de utilização dessa tecnologia. Alguns vídeos foram produzidos quase integralmente com IA, enquanto outros incorporavam apenas elementos específicos, como cenários das animações.

A maioria dos conteúdos identificados era musical, apresentando imagens geradas por IA acompanhadas de canções infantis. O estudo também encontrou adaptações de histórias, vídeos educativos sobre alfabeto e conteúdos religiosos. Uma categoria particularmente preocupante foi a dos vídeos de "transformação", nos quais personagens de desenhos animados são recriados por IA em versões com aparência de crianças, repetindo imagens genéricas e estereotipadas.

O fenômeno do "AI slop" e seus riscos para o desenvolvimento infantil

Rachel Franz, diretora do programa Young Children Thrive Offline da organização americana Fairplay, explica que esse tipo de vídeo se enquadra no chamado "AI slop", expressão utilizada para definir conteúdos de baixa qualidade produzidos em massa com softwares de inteligência artificial. A preocupação é especialmente maior quando consideramos os efeitos desses materiais nas crianças pequenas, período em que o cérebro passa por intenso desenvolvimento.

Segundo Franz, o cérebro das crianças atinge cerca de 90% do tamanho adulto até os 5 anos, e aquilo que encontram nesse período molda seu desenvolvimento podendo impactá-las pelo resto da vida. "Crianças pequenas não conseguem distinguir fantasia de realidade. Assistir a AI slop pode condicionar o cérebro delas a acreditar que algo é real quando não é", afirma a especialista.

Muitos desses vídeos são deliberadamente produzidos para capturar a atenção infantil, não para ensinar. A sucessão de imagens confusas sobrecarrega a quantidade de informações que uma criança consegue processar simultaneamente. Quando o cérebro é sobrecarregado, a criança não consegue aprender tão efetivamente quanto ao vivenciar situações reais, em seu próprio ritmo e utilizando todos os sentidos.

Impactos observados no desenvolvimento cognitivo e emocional

Os possíveis efeitos do consumo de vídeos gerados por IA já são percebidos em atendimentos clínicos, segundo Telma Pantano, fonoaudióloga e psicopedagoga do Instituto de Psiquiatria do Hospital das Clínicas da Universidade de São Paulo. "Há crianças que estão vindo com muitos medos, com muita dificuldade de definir o que acontece e o que não acontece", relata a especialista.

A maturação das áreas pré-frontais do cérebro, responsáveis pela capacidade crítica, autorregulação e automonitoramento, começa por volta dos 6 anos e se estende até a vida adulta. A distinção entre realidade e fantasia consolida-se aproximadamente aos 7 ou 8 anos, enquanto habilidades como tomada de decisão e resolução de problemas desenvolvem-se posteriormente.

"Até os 10 anos é uma idade de muito risco, porque a criança ainda não sabe separar a realidade da fantasia e não tem capacidade de tomada de decisão, organização e planejamento para resolver problemas", explica Pantano. Além disso, há um custo importante no contato constante com imagens prontas que exigem pouco da imaginação infantil, restringindo significativamente a criatividade das crianças e adolescentes.

O papel das plataformas e do algoritmo na disseminação

André Mintz avalia que esse tipo de vídeo de IA no YouTube aproveita-se da dificuldade de muitas famílias em controlar o consumo de conteúdo infantil online. Frequentemente, quando crianças assistem muito conteúdo online, trata-se de uma situação em que pais e mães sem tempo para ficar com a criança precisam entretê-la enquanto cuidam da casa, trabalham ou realizam outras atividades.

O problema não está apenas na existência dos vídeos, mas na forma como esse conteúdo se encaixa no modelo operacional das plataformas. "Se tem gente assistindo, para o YouTube está bom. Vai ser recomendado, vai aparecer", observa Mintz. Rachel Franz concorda que o impacto sobre as crianças é agravado pelo próprio funcionamento das plataformas, projetadas para capturar a atenção infantil e mantê-las engajadas pelo maior tempo possível, utilizando táticas deliberadas como reprodução automática e recomendações algorítmicas.

Posicionamento do YouTube e desafios de moderação

O YouTube afirma que, embora seja permitido conteúdo gerado por IA, a plataforma possui padrões mais rígidos para conteúdo voltado a espectadores mais jovens. "Combater o conteúdo de baixa qualidade gerado por IA é uma prioridade máxima para nós, e isso inclui esforços contínuos para remover conteúdo de IA marcado como 'feito para crianças' quando ele não atende aos nossos princípios de qualidade", declarou a plataforma.

A empresa ressalta que canais que utilizam IA continuam qualificados para monetização, desde que o produto final seja uma criação original que adicione perspectiva autêntica, siga as diretrizes de comunidade e divulgue adequadamente quando o conteúdo for alterado ou sintético. Contudo, para João Victor Archegas, coordenador de direito e tecnologia do Instituto de Tecnologia e Sociedade do Rio, há uma contradição fundamental: o YouTube incentiva ativamente a adoção de ferramentas de IA para criação de vídeos, enquanto tenta simultaneamente conter o "AI slop" que essas mesmas tecnologias permitem escalar em larga escala.

Essa contradição limita significativamente a capacidade do YouTube de conter a disseminação desses vídeos de IA no YouTube. A plataforma enfrenta desafio imenso de identificar conteúdos gerados por inteligência artificial e atuar quando são identificados, sendo necessário desenvolver melhores parâmetros técnicos e critérios de moderação mais eficazes para proteger o público infantil.