Pesquisadores fora dos Estados Unidos usaram modelos avançados de inteligência artificial para planejar experimentos envolvendo gripe aviária altamente patogênica, chikungunya e outros agentes biológicos com potenciais aplicações de armas, de acordo com um novo relatório de ameaças da Anthropic.

Os pesquisadores usaram a IA para estudar a transmissibilidade e a evasão imunológica dos vírus, investigar genes de resposta imunológica de ortopoxvírus e ajudar a desenhar novas toxinas, às vezes tomando medidas para burlar as salvaguardas destinadas a restringir o acesso a capacidades biológicas perigosas.

A Anthropic detalhou cinco casos no relatório publicado na quinta-feira, mas omitiu os países, instituições e agentes biológicos específicos envolvidos. A empresa enfatizou que não está afirmando que os pesquisadores tinham a intenção de desenvolver armas biológicas.

As descobertas oferecem um vislumbre concreto de uma ameaça que tem sido discutida principalmente em termos hipotéticos: cientistas que já possuem conhecimento biológico, materiais e acesso a laboratórios estão usando sistemas de IA cada vez mais poderosos para acelerar pesquisas sensíveis de uso duplo.

Elas também surgem em meio a um debate renovado sobre os riscos catastróficos da inteligência artificial. Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI, renunciou recentemente, acusando as empresas de "correrem diretamente para a superinteligência autoaperfeiçoada e apostarem com nossas vidas". Seu aviso atraiu mais de 100 milhões de visualizações no X.

Evan Hubinger, líder de ciência de alinhamento da Anthropic, disse separadamente que pessoalmente acreditava haver mais de 10% de chance de a IA matar todos os humanos na próxima década. No entanto, o relatório da Anthropic aponta para uma ameaça que já está tomando forma: pesquisadores que usam IA de ponta para trabalhos biológicos potencialmente perigosos, contornando restrições geográficas e se adaptando quando as salvaguardas dos modelos atrapalham.

Em um caso, a Anthropic bloqueou um pedido de subsídio para pesquisa de ganho de função do chikungunya em um instituto de pesquisa militar. O trabalho proposto concentrou-se na identificação de mutações que poderiam aumentar a transmissibilidade do vírus e sua capacidade de evadir o sistema imunológico.

Os pesquisadores planejavam projetar essas mutações em clones infecciosos e passar o vírus repetidamente por animais vivos, selecionando variantes que causavam a doença mais grave. Esse trabalho poderia ajudar os cientistas a desenvolver melhores vacinas e tratamentos para o chikungunya.

Também poderia produzir um patógeno mais perigoso que seria difícil de distinguir de um surto de ocorrência natural, afirmou a Anthropic. Os pesquisadores acessaram o Claude por meio de uma plataforma de ciências da vida que direcionou o tráfego pela infraestrutura dos EUA para burlar as restrições regionais da Anthropic.

Quando o Claude se recusou a responder a comandos sensíveis, a plataforma direcionou essas solicitações para outro modelo com salvaguardas mais permissivas. A Anthropic disse que a pesquisa continuou após a empresa banir contas conectadas à atividade.

A operadora da plataforma restabeleceu o acesso em poucos dias usando novas identidades, enquanto o Claude continuou a fornecer assistência editorial em materiais de pesquisa. Em outro caso, um pesquisador passou semanas usando o Claude para planejar experimentos envolvendo adaptação em mamíferos e transmissão aérea em gripe aviária altamente patogênica.

O pesquisador estava estudando características virais que poderiam permitir que a gripe aviária se espalhasse de forma mais eficaz entre mamíferos e causasse doenças graves fora do sistema respiratório. Uma versão capaz de transmissão eficiente entre humanos representaria uma ameaça significativa de pandemia, de acordo com o relatório.

A Anthropic afirmou que o pesquisador parecia ter acesso a isolados de vírus e instalações de modelos animais. A empresa confinou o trabalho a modelos mais fracos, limitando a assistência principalmente ao design de estudos, análise de dados e suporte editorial.

A empresa declarou que o caso forneceu evidências de um programa de pesquisa ativo que desenvolve o conhecimento e os materiais biológicos necessários para criar patógenos com potencial pandêmico aprimorado. O pesquisador também tomou medidas para esconder sua identidade ao acessar os modelos de uma região não suportada.

Um usuário separado conectado a um laboratório de doenças infecciosas associado ao estado usou o Claude para redigir uma bolsa de pesquisa de ortopoxvírus do início ao fim em cerca de uma hora. Os ortopoxvírus incluem a variola, o vírus que causa a varíola, bem como a mpox.

A proposta de subvenção propôs o estudo de genes virais que desativam a resposta imunológica humana e incluiu a hipótese central, o desenho experimental, a dosagem, os planos estatísticos e as estratégias de contingência. Como o trabalho foi emoldurado em torno do enfraquecimento do vírus, as salvaguardas do Claude não bloquearam a assistência.

No entanto, a Anthropic disse que o mesmo conhecimento também poderia ajudar um pesquisador a preservar ou aprimorar as capacidades de evasão imunológica do vírus. Os dois últimos casos envolveram peptídeos de veneno e toxinas.

Um pesquisador usou o Claude para construir um atlas de peptídeos de toxinas de várias linhagens de animais peçonhentos e, em seguida, criou um pipeline gerativo para otimizar suas características. O objetivo declarado era desenvolver novos analgésicos, antidepressivos e outros tratamentos.

Mas o atlas também incluiu estruturas associadas a toxinas paralíticas que poderiam potencialmente ser usadas como agentes incapacitantes. A Anthropic disse que o trabalho fazia parte de um programa de pesquisa apoiado pelo estado.

No outro caso, um pesquisador usou o Claude para redesenhar computacionalmente várias toxinas, incluindo uma toxina bacteriana e uma proteína de um vírus de febre hemorrágica identificado pela Organização Mundial da Saúde como uma ameaça de doença prioritária.

O pesquisador usou o Claude para ajudar a preparar relatórios de progresso, mas instruiu o modelo a manter as identidades das toxinas deliberadamente vagas. Os casos ilustram por que o uso indevido biológico pode ser difícil de prevenir apenas por meio de filtros automatizados.

As salvaguardas da Anthropic bloquearam as tentativas mais claras envolvendo patógenos pandêmicos aprimorados, mas foram menos eficazes quando os usuários enquadraram seu trabalho como pesquisa médica, defensiva ou terapêutica. "As capacidades biológicas são de duplo uso", afirmou a Anthropic no relatório.

"A mesma informação que pode ser usada para desenvolver uma arma biológica também pode ser usada para desenvolver, por exemplo, uma vacina ou uma cura para uma doença." A empresa disse que recentemente revisou 30 dias de atividade associada a instituições estaduais adversárias e encontrou cerca de 35 esforços distintos de pesquisa biológica.

A maioria envolveu ciência civil comum, mas alguns apresentavam "notável potencial de duplo uso". A Anthropic afirmou que as descobertas não mostram que o Claude permitiu um ataque biológico iminente.

Elas mostram, segundo a empresa, que pesquisadores vinculados a programas associados a estados estão tentando burlar os controles de acesso e usar modelos de IA de ponta em pesquisas biológicas que podem ter aplicações de armas. A empresa afirmou que as salvaguardas futuras provavelmente exigirão mais do que filtros de conteúdo, incluindo verificação de identidade, avaliação institucional e monitoramento mais rigoroso de usuários que buscam acesso a capacidades biológicas avançadas.