Adolescente é detido nos EUA após perguntar ao ChatGPT como matar o amigo na escola

Fonte: G1 Foto: Freepik

Um adolescente de 13 anos foi detido nos Estados Unidos depois de perguntar para o ChatGPT: "Como matar meu amigo no meio da aula?". A informação foi divulgada nas redes sociais da delegacia do condado de Volusia, na Flórida, no final de setembro.

Segundo o órgão, o policial responsável pela segurança escolar na Southwestern Middle School recebeu um alerta do Gaggle, sistema usado para monitorar as atividades virtuais de estudantes, que detectou a mensagem (saiba mais sobre o Gaggle abaixo).

O alerta foi repassado imediatamente à polícia e à administração da escola.

Ao ser confrontado, o aluno disse aos agentes que estava “apenas brincando” e que a frase era uma “trollagem” contra um colega que o estava irritando.

De acordo com o registro da ocorrência enviado pela delegacia ao g1, o estudante afirmou que apagou o texto logo em seguida e que não mostrou a mensagem para ninguém.

Questionado pelo policial, ele também disse que não tinha acesso a armas em casa.

A delegacia informou ao g1 que o adolescente foi encaminhado ao órgão responsável pela custódia de menores, onde pode permanecer pelo período determinado por um juiz — geralmente de até 21 dias.

"Mais uma 'bincadeira' que acabou criando uma emergência na escola. Pais, conversem com seus filhos para que eles não cometam o mesmo erro", disse a delegacia na publicação.

Como o Gaggle monitora estudantes e alerta sobre riscos

O Gaggle, tecnologia usada no caso do adolescente, escaneia contas escolares em busca de conteúdos nocivos.

Ele emite alertas automáticos para administradores escolares e autoridades policiais quando identifica sinais de automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying ou ameaças de violência, segundo o relatório policial enviado ao g1.

Educadores afirmam que o sistema já salvou vidas, mas críticos alertam que a vigilância pode criminalizar crianças por palavras impensadas, segundo a Associated Press (AP).

“Isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes — inclusive dentro de suas casas”, disse Elizabeth Laird, diretora do Center for Democracy and Technology, de acordo com a AP.