A IA está ficando muito boa em mexer com os cibercriminosos

Bem-vindo ao Pânico do núcleo!, um boletim semanal de Lily Hay Newman e Matt Burgess de dentro do novo mundo de privacidade e segurança digital. Para receber este boletim informativo em sua caixa de entrada todas as semanas, inscreva-se aqui.

Embora a IA sobrecarregue a fraude digital e o crime cibernético, ela também está sendo recrutada na luta para proteger vítimas em potencial. Os governos de todo o mundo têm lutado consistentemente para enfrentar a crise global do crime online, enfrentando as limitações da tentando reprimir criminosos além suas fronteiras. Isto inspirou esforços alternativos, como o uso da automação para tentar perseguir golpistas em massa – talvez enviando spam para os spammers para desperdiçar seus recursos. Agora, as plataformas de IA estão a transformar este tipo de experiências em verdadeiras ferramentas na luta contra o crime cibernético.

Nos últimos dois anos, a empresa australiana Apate, batizada em homenagem à deusa grega do engano, vem construindo um sistema que desvia golpistas telefônicos para chamadas com bots de IA treinados para manter as conversas pelo maior tempo possível sem, é claro, nunca cair na fraude. O objetivo é dar aos golpistas esperança suficiente de que continuem ao telefone, ao mesmo tempo que coleta informações sobre os golpes que estão executando.

“O que realmente gostamos de pensar é que estamos construindo as vítimas perfeitas para os golpistas”, diz-nos Dali Kaafar, fundador e CEO da Apate. “Um minuto em que um golpista está conversando com um bot ou agente é um minuto em que você provavelmente está salvando centenas, senão milhares de possíveis pessoas sendo contatadas por exatamente o mesmo golpista”, diz ele, referindo-se à capacidade dos golpistas de usar ferramentas de discagem automatizada.

Kaafar diz que a plataforma da Apate, usada por bancos e apoiada por empresas de telecomunicações, tem cerca de 350 mil bots. Eles não apenas atendem chamadas, mas também se infiltram em grupos de bate-papo online fraudulentos e respondem a mensagens de texto com objetivos semelhantes de frustrar golpistas enquanto coletam informações deles. Ele diz que a empresa coletou mais de 250 mil informações sobre fraudadores em tempo real, desde URLs fraudulentos até contas de dinheiro e dados bancários.

Os bots têm personalidades, habilidades linguísticas e perfis diferentes, diz Kaafar, então os golpistas não detectam que estão conversando com uma IA. Como pessoas reais, “às vezes (os bots) têm WhatsApp, às vezes não. Às vezes eles atendem o telefone, às vezes simplesmente desligam na cara do golpista dizendo: ‘Voltarei para você mais tarde'”, diz ele.

Mas eles são convincentes? Kernel Panic testou a ferramenta usando uma versão demo onde os usuários desempenham o papel de golpistas e conversam com uma das “vítimas” de IA de Apate. As personas são projetadas para expressar uma quantidade saudável de ceticismo, mas deixam aberturas suficientes para que os golpistas continuem tentando conquistá-los, uma dinâmica que poderíamos sentir imediatamente e que achamos intensamente frustrante.

Source link