Adolescente é detido após perguntar ChatGPT como matar amigo

Um adolescente de 13 anos chamou a atenção da polícia nos Estados Unidos depois de usar o ChatGPT para perguntar como matar um colega durante a aula. O incidente ocorreu no final de setembro na Southwestern Middle School, em DeLand, Flórida.

• Homem esfaqueia e mata namorada após ela se recusar a fazer aborto
• Jovem de 19 anos é acusado de decapitar namorado da mãe
• Homem é preso após tentar roubar mulher e morder o peito dela

A delegacia do condado de Volusia relatou o caso nas redes sociais. Segundo o órgão, o policial responsável pela segurança da escola recebeu um alerta do Gaggle, sistema que monitora atividades digitais de estudantes, ao identificar a mensagem. O alerta chegou imediatamente à administração escolar e à polícia.

Quando confrontado, o aluno afirmou aos agentes que estava “apenas brincando” e que a pergunta era uma “trollagem” contra um colega que o irritava. Mesmo assim, a polícia deteve o jovem e o encaminhou ao centro de custódia para menores, onde ele aguarda a decisão do juiz.

Como funciona o Gaggle?

O Gaggle monitora contas escolares em busca de conteúdos perigosos. Ele, por sua vez, usa inteligência artificial para escanear e-mails e documentos de alunos do ensino fundamental e médio, identificando sinais de comportamento de risco, como automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying ou ameaças de violência.

Logo, ao detectar algum alerta, a ferramenta notifica imediatamente administradores escolares e autoridades policiais.

Além disso, educadores afirmam que o Gaggle já ajudou a prevenir situações graves e salvar vidas. No entanto, críticos alertam que o monitoramento constante pode criminalizar crianças por palavras ou brincadeiras impensadas, segundo a Associated Press (AP).