Uma startup quer combater armas biológicas de IA com IA

Laboratórios de IA de fronteira alertaram que sua tecnologia poderia ajudar desenvolver armas biológicas perigosas.

Agora, uma startup afirma ter desenvolvido uma defesa. Na quarta-feira, a Radical Numerics anunciou que desenvolveu um novo modelo de ponta chamado Omnii Defense, projetado para sinalizar patógenos naturais e projetados por IA usando um laptop e um sequenciador de genes USB. Ele também pode funcionar sem conexão com a Internet, permitindo que pesquisadores da área com conexões irregulares o utilizem. Embora muitos cientistas digam Armas biológicas fabricadas por IA são uma ameaça de baixa probabilidade, a Radical Numerics espera que sua tecnologia ajude pesquisadores e autoridades de saúde pública a identificar ameaças biológicas emergentes.

Eric Nguyen, cofundador e CEO da Radical Numerics, diz que vê uma corrida armamentista iminente na biodefesa semelhante ao que está acontecendo. jogando em segurança cibernéticaonde os agentes de ameaças e os defensores da segurança são aproveitando a IA na tentativa de ganhar vantagem.

“Sentimos que o espaço de biossegurança estava muito atrás no lado da defesa”, diz ele.

Nguyen e seus cofundadores fizeram parte da equipe de pesquisa por trás do Evo e do Evo-2, modelos de base de DNA de código aberto nos quais trabalharam durante sua pesquisa de doutorado na Universidade de Stanford. Eles fundaram a Radical Numerics em 2025.

A empresa sediada em São Francisco causou sensação recentemente após lançar o Omnii, um novo modelo de linguagem genómica construído sobre diferentes tipos de informação biológica para além do ADN, incluindo ARN, proteínas e sinais epigenéticos. Em outubro, a Radical anunciou que usou o Omnii para criar bacteriófagos personalizadosvírus que infectam e matam bactérias específicas, visando uma cepa de E. coli. Seu coquetel foi utilizado no tratamento de um paciente doente, com permissão especial da Food and Drug Administration.

Outra startup de biotecnologia de IA, Tabula Bioscience, também esteve envolvida nessa pesquisa, mas a Radical não divulgou a parceria em seu relatório. anúncio mês passado. A omissão levou o geneticista de Harvard, George Church, que era consultor de ambas as empresas, a renunciar ao seu cargo na Radical na semana passada.

Omnii Defense, a ferramenta mais recente da empresa, faz múltiplas previsões sobre uma sequência, incluindo as chances de ela ser patogênica ou gerada por IA e a qual grupo taxonômico ela mais se assemelha. O modelo atribui ao genoma uma “pontuação de ameaça” entre zero e um que combina a probabilidade de não naturalidade com previsões funcionais. Quanto maior a pontuação, maior a ameaça.

Ferramentas anteriores de biodefesa, como o Finding Engineering-Linked Indicators, ou Felix, financiado pelo governo federal, podem comparar sequências genéticas de interesse com bibliotecas de organismos conhecidos, essencialmente em busca de correspondências catalogadas. Isso pode ser útil em um cenário em que um malfeitor fez alguns ajustes em um patógeno existente. Mas eles não foram projetados para fazer previsões como o Omnii.

Ver artigo original (Em Inglês)