Inteligência Artificial acende alerta global para risco de armas biológicas

Parilov / Shutterstock

Especialistas em biossegurança de todo o mundo estão soando o alarme sobre o potencial da inteligência artificial (IA) no desenvolvimento de armas biológicas. A preocupação não se concentra nos chatbots de uso geral, mas sim em modelos de IA especializados em biologia, que poderiam transformar o cenário da segurança global.

O debate ganhou força após uma série de eventos recentes que destacaram a facilidade com que a IA pode ser manipulada. Em abril, especialistas notaram como chatbots forneciam orientações preocupantemente simples para tornar patógenos mais perigosos. Em junho, cientistas e executivos de IA pediram novos controles sobre a fabricação de DNA, e em agosto, pesquisadores relataram o uso da IA para criar vírus que não existem na natureza.

Modelos de IA especializados elevam a preocupação

Drew Endy, biólogo sintético da Universidade Stanford e coautor de um relatório sobre biossegurança, ressaltou que, embora modelos atuais como o Claude da Anthropic tenham um impacto modesto no risco de biossegurança, a situação pode mudar drasticamente. A verdadeira ameaça reside no desenvolvimento de sistemas de IA especificamente projetados para pesquisas biológicas.

Esses sistemas já demonstram a capacidade de gerar genomas de vírus viáveis que nunca foram encontrados na natureza. A grande preocupação é que, com o avanço da tecnologia, modelos mais sofisticados possam usar essas capacidades para auxiliar na criação de novas armas biológicas, que podem envolver vírus, bactérias, fungos ou toxinas letais.

Os grandes modelos de linguagem, treinados com vastos volumes de textos científicos, são eficientes na recuperação de informações e na identificação de conexões entre descobertas. Thomas Inglesby, diretor do Johns Hopkins Center for Health Security, observa que a IA pode oferecer informações mais úteis do que buscas tradicionais na internet, permitindo interações complexas para solucionar problemas e obter explicações detalhadas.

Uma categoria ainda mais preocupante de sistemas é aquela treinada diretamente com dados biológicos, como sequências de DNA. Um exemplo é o Evo2, desenvolvido por pesquisadores da Universidade Stanford e do Arc Institute, que foi treinado com sequências de DNA de milhões de espécies.

Após ser treinado com genomas de microvírus que infectam a bactéria Escherichia coli (não perigosos para humanos), o Evo2 produziu centenas de milhares de novos genomas, dos quais 16 resultaram em vírus reais. Embora os criadores do Evo2 tenham evitado treinar o modelo com vírus que infectam humanos, especialistas alertam que sistemas semelhantes poderiam se tornar ferramentas perigosas se fossem alimentados com dados de patógenos humanos.

Risco de corrida armamentista biológica e a busca por soluções

A preocupação se estende além de indivíduos mal-intencionados. Consultas sobre influenza e outros patógenos, que levaram a medidas de segurança por parte da Anthropic, teriam vindo de laboratórios estatais. Para Inglesby, o uso indevido por um estudante ou pesquisador individual é apenas uma pequena parte do problema.

Endy expressa o temor de que governos, ao utilizarem a IA em pesquisas relacionadas à guerra biológica, possam desencadear uma nova corrida armamentista, similar à observada durante a Segunda Guerra Mundial. A história nos mostra a importância de acordos internacionais para mitigar tais riscos.

Especialistas defendem a implementação de acordos internacionais robustos e regras mais rigorosas para a síntese de DNA. O governo de Joe Biden, por exemplo, havia estabelecido regras para que empresas de síntese de DNA verificassem pedidos em busca de sequências suspeitas, medidas que foram suspensas pela administração anterior e ainda não foram restabelecidas.

Endy propõe uma abordagem mais proativa, focada em aumentar a segurança da biologia como um todo. Isso inclui o desenvolvimento de mecanismos capazes de identificar epidemias, independentemente de sua origem (humana ou animal), e a instalação de sensores em locais públicos, como hospitais e escolas, para detectar ameaças biológicas no ar.

O Rio das Ostras Jornal acompanha de perto os avanços e debates sobre a inteligência artificial e seus impactos na segurança global. Continue acompanhando o Rio das Ostras Jornal para mais notícias da região e do mundo.