Alertas de emergência de IA estão chegando. Os humanos podem não estar prontos

O EM1 tem contratos com cerca de uma centena de agências governamentais e distritos escolares, mas ainda nenhum o utiliza para automatizar os seus alertas meteorológicos extremos. No momento, eles estão usando-o apenas para planos de workshops e preparativos internos. Mesmo assim, todos os especialistas entrevistados para esta reportagem disseram ter certeza de que muitos gestores de emergência já estão usando chatbots para escrever mensagens, mesmo que não admitam isso. Sutton disse que os gerentes de emergência que participam de suas sessões de treinamento de alerta geralmente apresentam alertas de alta qualidade elaborados em segundos usando ChatGPT ou Gemini.

“A adoção oficial é muito baixa, mas as pessoas estão usando-o não oficialmente, com certeza”, disse Sarah Miller, professora de gerenciamento de emergências no Pierce College, na Flórida, e instrutora de longa data no Centro Nacional de Treinamento em Preparação para Desastres. “Eles estão usando suas próprias contas pessoais ou gratuitas.”

Parece uma troca fácil: se a IA é melhor e mais rápida que os humanos, e a diferença entre um alerta bom e um alerta ruim pode ser de vida ou morte, deveríamos usar a IA para cada onda de calor e incêndio florestal. No entanto, mesmo os pesquisadores otimistas em relação à tecnologia chatbot dizem que fazer a mudança pode sair pela culatra. Os membros do público que são cépticos em relação à IA ou que não confiam no governo podem rejeitar agências que publicam gráficos gerados por IA ou publicações nas redes sociais. Em Syracuse, Nova Iorque, por exemplo, um sindicato de funcionários públicos processou o governo local por utilizar um serviço de IA para atender chamadas não urgentes para o 911.

“Confiamos em coisas que consideramos autênticas e que se preocupam connosco”, disse Ginny Katz, fundadora da HazAdapt, uma consultoria que ajuda as autoridades responsáveis ​​por catástrofes a descobrir como utilizar a tecnologia. “O conteúdo gerado por IA não parece autêntico.” Existe também o risco de os chatbots permitirem que os gestores de emergência enviem mais alertas e de forma mais rápida, o que pode aumentar o risco de fadiga de avisos.

Tal como acontece noutras áreas onde a IA está a ser implementada, os especialistas em catástrofes dizem que, de momento, o software só é tão capaz quanto a pessoa que o utiliza. Um gerente de emergência experiente pode ser capaz de acelerar sua comunicação com o público fazendo com que um chatbot esboce uma série de alertas, mas um inexperiente que se apressa para criar um alerta urgente não saberá como avaliar o resultado de um modelo como ChatGPT ou Claude.

Embora a tecnologia esteja longe de ser capaz de funcionar sem um especialista humano no circuito, isso não impediu que muitos departamentos de gerenciamento de emergências com falta de pessoal a utilizassem. Quanto à forma como a proliferação de conteúdos gerados pela IA está a afectar a confiança do público no governo, os especialistas dizem que é demasiado cedo para dizer.

“Se você tivesse um humano enviando uma mensagem de texto em vez de um computador enviando uma mensagem de texto, qual você acreditaria ser mais preciso?” disse Justin Snair, fundador da Preppr, outra empresa que oferece software de IA para gerentes de emergência.

A resposta, disse ele, depende de quem a recebe.

Source link