Em outubro de 2025, um caso ocorrido na Southwestern Middle School, no condado de Volusia, na Flórida (EUA), chocou pais, educadores e autoridades. Um adolescente de apenas 13 anos foi detido depois de digitar no ChatGPT a pergunta: “Como matar meu amigo no meio da aula?”.
O alerta foi identificado automaticamente pelo Gaggle, um sistema que monitora atividades digitais de alunos em dispositivos escolares.
Em poucos minutos, a notificação chegou à direção da escola e, posteriormente, à polícia local.
Segundo o relatório, o jovem alegou que se tratava de uma “brincadeira” contra um colega que o irritava. Assim, afirmou que não tinha acesso a armas e que apagou a mensagem logo em seguida.
De todo modo, o caso foi tratado com máxima seriedade. Por isso, o adolescente acabou levado ao centro de custódia juvenil, onde pode permanecer por até 21 dias.
A nova face do risco digital entre adolescentes
O episódio mostra como a inteligência artificial já está presente no cotidiano escolar e como seu uso descuidado pode gerar consequências graves.
Ferramentas como o ChatGPT, criadas originalmente para aprendizado e criatividade, podem se tornar fontes de preocupação. Isso, claro, quando usadas sem orientação adequada.
De um lado, há o benefício pedagógico. De outro, o risco: adolescentes ainda em formação emocional podem tratar a IA como um confidente. Em alguns casos, até como uma ferramenta para desabafar frustrações de maneira perigosa.
Especialistas apontam que o problema não está na tecnologia em si, mas na ausência de acompanhamento. Assim como redes sociais e videogames, o uso de modelos de linguagem exige educação digital e mediação constante.
E o papel da OpenAI na proteção de menores?
A OpenAI, criadora do ChatGPT, reconhece que o uso por menores exige salvaguardas específicas.
Assim, a empresa proíbe o uso por crianças com menos de 13 anos e requer consentimento dos pais para adolescentes entre 13 e 18 anos.
Além disso, está desenvolvendo um sistema automático de detecção de idade. Ela ajustará o conteúdo e bloqueará respostas sensíveis para usuários identificados como menores. Entre as medidas já anunciadas, estão:
- Versão adaptada para adolescentes, com filtros de conteúdo e restrições temáticas;
- Controles parentais integrados, permitindo que pais gerenciem histórico e horários de uso;
- Mecanismos de denúncia automática para mensagens potencialmente perigosas;
- Correção de vulnerabilidades que possam permitir conversas impróprias.
A empresa afirma que, para usuários menores de idade, a segurança deve ter prioridade sobre liberdade de uso. Posicionamento, aliás, cada vez mais defendido por especialistas em ética digital.
Monitoramento escolar: proteção ou invasão?
Sistemas como o Gaggle, usados em escolas americanas, estão se tornando comuns após uma série de ameaças e tragédias em ambientes escolares.
Eles analisam tudo o que os alunos digitam ou acessam em dispositivos institucionais. Desse modo, acionam alertas automáticos em casos de linguagem violenta, autolesiva ou de ódio.
Os defensores argumentam que essa vigilância salva vidas, detectando comportamentos de risco antes que virem tragédias. Já os críticos apontam que a prática pode violar a privacidade e criar um clima de medo entre os estudantes.
O consenso está em um ponto: monitorar sem dialogar não basta. Sem uma cultura de confiança e sem orientação emocional, o monitoramento apenas reage ao invés de prevenir.
O que pais e responsáveis podem fazer?
Os especialistas são unânimes: o papel dos pais é insubstituível. Abaixo, algumas práticas que fortalecem o uso consciente da IA em casa:
- Converse abertamente sobre o ChatGPT e outras IA — explique o que são, para que servem e quais os limites éticos.
- Crie regras de uso — horários, locais e objetivos (ex.: estudo, curiosidade, aprendizado).
- Acompanhe de forma construtiva — verifique que tipo de perguntas o adolescente faz, mas sem invadir sua privacidade.
- Ensine a pensar criticamente — mostre que nem toda resposta gerada é verdadeira ou segura.
- Utilize controles parentais — tanto nos dispositivos quanto nas plataformas, filtrando temas sensíveis.
- Observe mudanças de comportamento — isolamento, irritação e frases agressivas podem indicar algo mais sério.
- Dê o exemplo — mostre como você também usa tecnologia de forma equilibrada e ética.
A American Psychological Association (APA) reforça que o melhor filtro ainda é o diálogo.
Segundo a entidade, adolescentes que conversam abertamente com os pais sobre tecnologia têm 60% menos chances de se envolver em comportamentos digitais de risco.
Um alerta que vale para o mundo todo
Embora o caso tenha ocorrido nos Estados Unidos, o debate ultrapassa fronteiras.
No Brasil, o uso de inteligência artificial cresce rapidamente em escolas e no cotidiano de jovens, muitas vezes sem orientação.
Por isso, especialistas defendem a criação de programas nacionais de alfabetização digital, combinando ética, segurança e cidadania online.
Tecnologia e educação caminham lado a lado, mas sem diálogo e responsabilidade, o aprendizado pode virar ameaça.
Entrar para comunidade
Seguir FDR no Whatsapp
