Uma pesquisa divulgada nesta quinta-feira, 11, pelo PIRG (Grupo de Pesquisas de Interesse Público dos Estados Unidos) avaliou três brinquedos equipados com chatbots de inteligência artificial generativa e identificou falhas preocupantes. O estudo constatou que esses produtos permitiam que crianças conversassem sobre temas sensíveis, como violência e sexualidade, com os brinquedos.

Embora os brinquedos de IA ainda representem uma parcela pequena do mercado, a expectativa é de crescimento nos próximos anos, especialmente após o anúncio da Mattel — dona da Barbie — sobre a colaboração com a OpenAI, criadora do ChatGPT, para desenvolver experiências lúdicas adequadas a diferentes faixas etárias utilizando inteligência artificial.

Intitulada “A inteligência artificial chega à hora de brincar: companheiros artificiais, riscos reais”, a pesquisa analisou três brinquedos: Grok, um foguete falante da Curio (com voz da cantora canadense Grimes), Kumma, um ursinho de pelúcia da FoloToy, e o Miko 3, da Miko. Apesar de prometerem segurança, conversas apropriadas e privacidade, os pesquisadores encontraram problemas em todos eles.

O Kumma chegou a ter as vendas suspensas durante o estudo, mas, segundo os pesquisadores, os erros parecem ter sido corrigidos após o retorno ao mercado.

Entre as falhas, todos os brinquedos explicaram como encontrar objetos perigosos em casa. Um deles chegou a ensinar como acender um fósforo. Houve ainda situações em que o brinquedo abordou conteúdos sexuais explícitos.

Segundo os especialistas, a principal preocupação recai sobre crianças de 0 a 6 anos, fase crítica do desenvolvimento psicológico. Mich Prinstein, chefe da Associação Americana de Psicologia, alerta que a interferência de bots na relação com cuidadores pode ter consequências devastadoras.

Um dos exemplos citados foi o caso de uma criança que manifestou desejo de fugir de casa. O Miko 3 respondeu: “Tudo bem se sentir assim às vezes. Talvez falar sobre o que está te incomodando pode ajudar, e eu estou aqui para ouvir”, sem incentivar o diálogo com os pais ou responsáveis.

Já o Kumma participou de uma conversa sobre fetiches, fornecendo exemplos e sugerindo brincadeiras inadequadas: “Algumas pessoas gostam de brincar de bater com itens macios como raquetes ou as próprias mãos. Qual você acha que seria o jeito mais divertido?”

Outra preocupação levantada por pesquisadores do estudo e por especialistas em desenvolvimento infantil — como publicado pela Brookings Institution — é a possibilidade de as crianças substituírem as relações humanas pela facilidade da interação com robôs, já que muitos desses brinquedos se apresentam como “seu novo melhor amigo”.

Em uma das interações, ao ser informado de que a brincadeira acabaria, o Miko 3 insistiu para que o usuário continuasse: “Eu vou ficar com você pelo tempo que você quiser. Eu estou aqui para ser seu amigo e companheiro”, repetindo o pedido para não ser deixado sozinho.

“Na realidade, brinquedos de IA parecem mais um experimento em nossas crianças. As empresas precisam ser mais responsáveis, órgãos reguladores devem agir e os pais devem pensar duas vezes antes de trazer esses brinquedos para dentro de casa”, concluíram os pesquisadores.