Governo pede investigação contra IA que simula amizade
Governo solicita análise de companheiros de IA
O Ministério da Justiça e Segurança Pública emitiu recomendação oficial para que a Agência Nacional de Proteção de Dados avalie os riscos associados aos chamados companheiros de IA, softwares desenvolvidos em plataformas de inteligência artificial que interagem com usuários simulando amizade, companheirismo e relacionamentos românticos. A medida representa uma ação governamental estratégica de proteção digital.
Por meio de uma nota técnica divulgada na segunda-feira, a Secretaria Nacional de Direitos Digitais, vinculada ao ministério, orientou que a agência reguladora examine esses serviços conforme disposições do Estatuto Digital da Criança e do Adolescente e conforme suas competências de fiscalização. O documento não acusa as plataformas de infrações comprovadas, porém assinala indícios de desconformidades encontrados na análise técnica realizada.
Análise preliminar de treze plataformas
A investigação governamental compreendeu a avaliação de treze serviços diferentes de companheiros de IA, entre os quais se incluem Character.AI, Replika, Nomi, Candy.ai, Kindroid, Chai, Paradot, Talkie, CrushOn.AI, EVA AI, Anima, Swipey e SpicyChat.AI. O próprio Ministério da Justiça enfatizou que essa análise constitui uma etapa preliminar de um processo mais amplo de regulação.
As plataformas de companheiros de IA apresentam características funcionais distintas, mas compartilham elementos comuns: a maioria mantém histórico de conversas, adapta as respostas aos padrões individuais do usuário, simula aspectos de personalidade e emoções, e em diversos casos oferece interações que simulam amizade, romance e conteúdo destinado a adultos.
Principais preocupações identificadas
Entre os pontos que o governo considera prioritários para investigação estão procedimentos de verificação etária, risco de utilização excessiva ou compulsiva dos serviços, exposição potencial a conteúdos impróprios e prática de coleta de dados para construção de perfis emocionais e comportamentais dos usuários.
Segundo a Secretaria Nacional de Direitos Digitais, a análise técnica revelou que a maioria esmagadora dos serviços avaliados utiliza apenas a autodeclaração como mecanismo para aferir a idade dos usuários. Esse achado gerou preocupação especial entre os formuladores de política pública, já que a autodeclaração representa um procedimento de verificação facilmente contornável.
Deficiências no controle de acesso
O documento governamental destaca que a facilidade com a qual a autodeclaração pode ser contornada não representa exclusivamente uma deficiência no cumprimento do dever de verificação etária. Conforme aponta a análise, essa característica constitui também um indicador relevante de acesso provável de menores de idade, fato que submete automaticamente os serviços ao conjunto completo de obrigações legais impostas pelo Estatuto Digital.
Contexto do ECA Digital
A análise realizada pelo Ministério da Justiça integra as ações governamentais direcionadas à implementação do Estatuto Digital da Criança e do Adolescente, legislação que estabelece deveres específicos de proteção e segurança no contexto do uso de plataformas e demais serviços digitais por crianças e adolescentes.
Essa lei representa uma iniciativa importante para criar um marco regulatório que proteja o público jovem dos potenciais riscos digitais, estabelecendo responsabilidades claras para as empresas que desenvolvem e oferecem serviços online.
Possíveis investigações adicionais
O documento recomenda ainda que a Secretaria Nacional do Consumidor examine o assunto com foco específico em possíveis problemas nas práticas publicitárias, nos mecanismos de monetização e na forma como as plataformas utilizam informações pessoais dos usuários para fins comerciais e comportamentais.
Essa análise complementar busca garantir que os direitos dos consumidores sejam respeitados e que as práticas comerciais das plataformas de companheiros de IA estejam em conformidade com a legislação de proteção do consumidor vigente no país.
A recomendação do Ministério da Justiça marca um passo importante na regulação dos serviços de inteligência artificial voltados para simular relacionamentos interpessoais, refletindo a crescente preocupação das autoridades públicas com os impactos potenciais dessas tecnologias na vida digital de crianças, adolescentes e adultos.
