Matemáticos Odam a IA. Eles Não Conseguem Largá-la
Matemáticos enfrentam um dilema ao usarem ferramentas de inteligência artificial em suas pesquisas, mesmo criticando as empresas de tecnologia por usarem seus trabalhos sem crédito.
Pontos principais
- O matemático Tristan Buckmaster acredita que a OpenAI usou seu trabalho para resolver um problema de Navier-Stokes.
- Buckmaster usou o Codex da OpenAI e o Claude da Anthropic para pesquisar sobre o problema.
- A OpenAI investigou o caso e afirmou que os prompts de Buckmaster não influenciaram o sistema de treinamento.
- O matemático Andreas Thom descobriu que o modelo Astra da OpenAI usou técnicas suas em uma nova prova.
- Mais de 25 ganhadores da Medalha Fields assinaram uma carta aberta criticando o desalinhamento entre empresas de IA e matemáticos.
- Mais de 4.000 pessoas assinaram a Declaração de Leiden sobre IA na matemática.
O matemático Tristan Buckmaster acredita que a OpenAI usou seu trabalho para correr à frente e vencê-lo na resolução de um problema matemático lendário com um prêmio de 1 milhão de dólares. Mas isso não foi suficiente para fazê-lo parar de usar os modelos da empresa, e ele não é o único matemático que se sente assim.
"Mesmo que você não concorde com nada disso, você está meio que preso. Com a IA sendo tão útil, é difícil se impedir completamente de usá-la", disse Buckmaster à WIRED. "Estas empresas têm um monopólio, e não há muita escolha", acrescentou ele.
Na semana e meia desde que o professor da Universidade de Nova York acusou a OpenAI de copiar sua abordagem, Buckmaster tem usado o agente de codificação Codex da empresa para organizar seus artigos de pesquisa. Quando ele tem tempo para fazer matemática (o que ele diz ser raro, já que a repercussão o colocou nos holofotes), a ferramenta o tem ajudado a entender os passos lógicos que os agentes da OpenAI podem ter tomado para ir de seus trabalhos anteriores até a prova final.
Buckmaster usou o Codex, bem como o Claude da Anthropic, concorrente da empresa, para trabalhar no que é conhecido como o problema de existência e suavidade de Navier-Stokes, ao lado do pesquisador da Anthropic Levent Alpöge. A OpenAI implantou dezenas de milhares de agentes para alcançar a solução, mas apenas depois de saber que a equação estava perto de ser resolvida, diz Buckmaster.
Quando Buckmaster tornou públicas suas alegações, isso incendiou uma tempestade sobre a inteligência artificial e sobre se ela tornaria os matemáticos humanos obsoletos. Isso também levou a OpenAI a fazer uma investigação e emendar seu anúncio sobre a resolução de Navier-Stokes para dizer que "confirmou que os prompts do Codex de Buckmaster nos dois meses anteriores a este anúncio e artigo em 8 de setembro de 2026, não poderiam ter influenciado o sistema de forma alguma, inclusive através do treinamento". A empresa direcionou a WIRED ao seu anúncio em um e-mail.
Mostrar que a IA estava empurrando os limites da matemática era "mais importante do que o resultado", diz Buckmaster. Mas produzir soluções para problemas matemáticos de longa data sem dar o devido crédito ao trabalho humano subjacente — especialmente antes de grandes aberturas de capital (IPOs) — é irresponsável e "infantil", afirma ele.
Outros matemáticos levantaram preocupações semelhantes. Apenas um punhado de pessoas no planeta entende as técnicas em teoria de grupos geométricos que o matemático alemão Andreas Thom dedicou as últimas duas décadas a desenvolver.
Portanto, quando a OpenAI disse em agosto que seu modelo Astra as havia usado para provar um problema de longa data no qual ele vinha trabalhando, "fiquei maravilhado", diz Thom. "E, claro, eu estava me perguntando, como eles aprenderam sobre isso?"
Então ele diz que perguntou aos pesquisadores da OpenAI Mark Sellke e Sébastien Bubeck. Em um e-mail de agosto, ele apontou que a afirmação da firma de que "nenhum progresso" havia sido feito no problema na última década negligenciava um artigo de 2019 de sua autoria, bem como o trabalho de outros matemáticos.
A empresa emendou seu comunicado à imprensa. Ele e um colega vinham usando o ChatGPT para auxiliar seu trabalho no problema nos meses que antecederam o resultado, mas quando ele perguntou se suas interações haviam sido alimentadas nos dados de treinamento, Thom diz que Sellke respondeu: "Isso não aconteceu."
"Eu deixei isso de lado", lembra Thom. "Não estou tão interessado nessas coisas políticas; quero trabalhar com matemática."
Embora Thom tenha visto a declaração da OpenAI de que os prompts de Buckmaster não poderiam ter influenciado o sistema, ele diz que não confia nisso e admite que provavelmente nunca saberá se seu trabalho realmente alimentou o resultado.
"A IA realmente mata toda essa ideia de que você poderia rastrear quem contribuiu com o quê", diz ele. "Isso provavelmente acabou."
É uma grande mudança em relação a como a ciência é tipicamente feita, com acadêmicos submetendo suas descobertas à revisão por pares e construindo sobre o trabalho uns dos outros com crédito. Além de perturbar a atribuição, o fato de que os humanos ainda não entendem completamente cada passo que os agentes da OpenAI tomaram para chegar ao resultado de Navier-Stokes também coloca questões existenciais para os matemáticos, que veem seu campo escorregar de sua compreensão.
"Se eu quiser dar uma contribuição para a matemática, como faço isso apenas como um humano hoje em dia quando essas empresas de um trilhão de dólares estão no jogo?", diz o matemático de Cornell Alex Townsend, coautor de um livro futuro sobre a evolução do campo.
Desde agosto, Townsend viu muitos de seus colegas começarem a perguntar o que precisam saber sobre a tecnologia e como podem configurar assinaturas para acessar modelos de maior potência.
"Sinto-me animado e nervoso simultaneamente", diz Townsend. "Animado porque consigo alcançar coisas que não conseguiria alcançar sem isso, e nervoso porque estou questionando: 'Ok, qual é o meu propósito aqui?'"
Thom aceita que sua área de estudo está mudando e continuou a usar o ChatGPT — com configurações de privacidade atualizadas para impedir que seu trabalho seja usado para treinar os dados — para acelerar a redação de artigos porque é "extremamente eficiente". (As ofertas da OpenAI através de universidades e no nível corporativo têm como padrão não treinar modelos com os dados dos usuários.)
"Se um humano tivesse feito isso ativamente, então eu estaria muito, muito bravo", diz ele sobre alguém usando seu trabalho sem atribuição. Mas se a informação foi puxada para o modelo através de uma porta dos fundos, por um algoritmo que ninguém entende completamente, "eu provavelmente conseguiria conviver com isso", diz ele.
Alguns matemáticos são menos indulgentes. Vinte e cinco ganhadores da Medalha Fields escreveram em uma carta aberta que as empresas de IA e os matemáticos estão "gravemente desalinhados".
Mais de 4.000 pessoas assinaram a Declaração de Leiden, que traz uma série de recomendações sobre como matemáticos, financiadores e políticos podem garantir que a IA não engula o campo.
Buckmaster teme a possibilidade de usar a IA para "limpar um pouco da sua gramática, e de repente seus anos de trabalho [poderem ser] engolidos em dados de usuários e vendidos para outro matemático ou pós-graduando. É com isso que acho que a maioria dos matemáticos tende a se preocupar, e acho que é um problema real".
Sem supervisão no horizonte e a IA se arraigando ainda mais no campo, alguns matemáticos querem encontrar uma maneira de pelo menos pisar nos freios. Isso inclui mais de 2.000 pessoas com vínculos com a Caltech que pediram aos organizadores de um hackathon de matemática de IA na escola que suspendessem o evento.
O hackathon foi patrocinado pela Anthropic e pela OpenAI, embora esta última tenha desistido desde então.
Mas quaisquer tentativas de desacelerar as coisas podem ser em vão, especialmente a longo prazo.
"Eu não acho que isso seja realmente sustentável por causa do ganho de eficiência" que a IA oferece, diz Thom. Quaisquer matemáticos — especialmente pesquisadores em início de carreira — correm o risco de ficarem "isolados" se não usarem a IA para acelerar seu trabalho, acrescenta ele.
Tanto ele quanto Buckmaster acreditam que a comunidade precisa começar a pensar sobre o que a tecnologia significa para os matemáticos mais jovens e como suavizar a transição.