Jornalismo Independente
Foto: reprodução redes sociais
TECNOLOGIA
A inteligência artificial é uma tecnologia que já se difunde há anos em uma série de serviços digitais. Com o recente surgimento dos chats interativos (chatbots), ela entrou num novo e relevante capítulo.
As bases de dados usadas para treinar essas máquinas são constantemente aprimoradas e ampliadas, bem como a capacidade de processamento de texto e imagem. Isso traz uma série de ganhos evidentes em difusão de conhecimento e produtividade, mas também carrega riscos escondidos que podem ser ostensivos.
Pesquisas recentes indicam que o interesse de crianças em ferramentas de IA cresce ao redor do mundo. O aplicativo Character.AI, para criação e interação com personagens digitais, se destacou como o primeiro app de IA a entrar na lista dos 20 aplicativos mais utilizados por crianças desde 2024 até hoje.
Um levantamento da organização sem fins lucrativos Internet Matters estima que, no Reino Unido, 64% das crianças usam chatbots de IA para auxílio em tarefas tão diversas quanto fazer lição de casa, companhia diária e até aconselhamento emocional.
Uma preocupação central nesse uso tão disseminado de IA interativa é a influência que uma ferramenta de capacidades quase humanas pode ter sobre a mentalidade de indivíduos ainda em formação.
VEJA: Clima pesado no STF após voto de Fux
O medo não é injustificado: empresas gigantes de tecnologia encontram-se numa “corrida de armas” de modelos de IA, em que as considerações éticas ficam em segundo plano comparado à velocidade para competir.
Difusão de informações erradas ou enviesadas
Encorajamento para tomar atitudes questionáveis
Exposição a conteúdo inapropriado para sua idade
Manipulação emocional
Violação de privacidade digital
Parte desses problemas vem da inação das empresas desenvolvedoras dos modelos de IA para estabelecer filtros e controle de acesso eficazes. Outras limitações são de caráter técnico, como as “alucinações” de máquina, que geram respostas absurdas dadas com confiança pelos chats.
As brechas à privacidade dos usuários nos modelos de IA são um risco menos evidente, mas presente. Nesse sentido, devem ser destacadas as vantagens de usar uma VPN para contorná-lo. Esse serviço criptografa as comunicações online e mantém a segurança da conexão por meio de servidores privados.
Apesar de ser eficaz, uma VPN não supre toda a proteção à privacidade necessária ao interagir com ferramentas de IA. Os pais e responsáveis devem instruir seus filhos a respeito dessas interações.
É fundamental evitar o compartilhamento de dados pessoais sensíveis. Jovens que “desabafam” com chatbots ou os utilizam como “terapeuta” pessoal correm não apenas o risco de serem manipulados emocionalmente por uma ferramenta automática, mas também dividem com ela informações que deveriam estar restritas a profissionais de saúde ou pessoas de confiança.
É preciso estabelecer limites de uso para chatbots. Estipular horários e tempo diário de exposição é essencial. Evitar totalmente o uso por crianças de pouca idade também deve ser considerado.
Chatbots como ChatGPT, Gemini e Claude já concentram parte das buscas que antes eram feitas apenas no Google. Porém, os resultados gerados são baseados em grandes volumes de dados, nem sempre confiáveis.
É necessário educar os jovens para entender que essas ferramentas não “pensam”, apenas sintetizam informações. Eles devem ser orientados a não basear escolhas emocionais ou educacionais apenas nessas interações.
