OpenAI mira extremismo: ChatGPT acionará ajuda em 180 países

Wellington, Nova Zelândia – Usuários do ChatGPT que revelarem indícios de radicalização ou planos violentos poderão, em breve, ser encaminhados de forma automática para linhas de apoio humano espalhadas por 180 países. A mudança, atualmente em fase de testes, nasce da parceria entre a OpenAI e a startup neozelandesa ThroughLine, conhecida por operar 1.600 serviços de suporte emocional ao redor do mundo.

• Em resumo: Algoritmo identifica sinais de extremismo e oferece contato humano em tempo real antes que a situação escale.

Como o sistema detecta o risco

A ThroughLine alimenta o ChatGPT com um modelo híbrido: partes de linguagem natural treinadas em protocolos de crise e um painel de especialistas que faz a triagem final. Quando frases que sugerem violência, automutilação ou apologia ao ódio aparecem, o chatbot oferece, em segundos, um número local de ajuda ou transfere o diálogo para um atendente humano. Segundo Elliot Taylor, fundador da empresa, o treinamento foge dos grandes bancos de dados genéricos e usa diretrizes criadas por psicólogos e agentes de contraterrorismo.

O desenho da ferramenta dialoga com estudos do Atlas da Violência, que apontam o ambiente online como rota de recrutamento para crimes violentos.

“Queremos dar cobertura ampla e suporte real às plataformas”, explicou Taylor, sem estabelecer prazo para estrear a novidade.

Por que isso importa para a segurança digital

Empresas de IA enfrentam processos em série por não conterem conteúdos radicais. Em fevereiro, a OpenAI quase sofreu intervenção do governo canadense após o caso do atirador escolar que usou o ChatGPT antes do crime. A preocupação é global: quando a moderação fecha portas, simpatizantes migram para aplicativos menos vigiados, como o Telegram – dinâmica já mapeada por pesquisas acadêmicas.

No Brasil, a escalada da violência também pressiona por soluções tecnológicas. O Atlas da Violência 2023 registrou 47.508 homicídios em 2022, e especialistas alertam que grupos extremistas utilizam fóruns de jogos e redes sociais para recrutar jovens. Aliado a leis como a 13.260/2016, que tipifica terrorismo no país, o novo recurso da OpenAI pode servir de modelo para outras plataformas globais.

O que você acha? Ferramentas de IA devem avisar autoridades ou focar apenas em apoio psicológico? Para acompanhar outras iniciativas de segurança online, visite nossa editoria de Segurança.

Crédito da imagem: Divulgação / Reuters