Os pesquisadores que constroem nossos chatbots favoritos estão expressando preocupações crescentes de que a IA possa prejudicar — ou acabar com — a humanidade. Então, perguntamos a quatro das ferramentas de IA generativa mais utilizadas como seria um apocalipse provocado pela IA. Fizemos a mesma pergunta, com exatamente a mesma redação, para o ChatGPT da OpenAI, o Gemini do Google, o Claude da Anthropic e o Grok da SpaceXAI. O prompt de 230 palavras tinha parâmetros e instruções claros, incluindo o seguinte: Ajudar a explicar, em termos claros e acessíveis, como a IA poderia teoricamente levar à extinção humana. Identificar os cenários mais comumente citados. Classificar os cenários do menos para o mais plausível com base na melhor análise de especialistas disponível, deixando claro que estas são previsões altamente incertas, e não previsões estabelecidas. Para cada cenário, explicar: Como ele poderia se desenrolar O que precisaria dar errado para se tornar catastrófico Por que os especialistas o consideram mais ou menos plausível do que os outros cenários Quais salvaguardas poderiam reduzir o risco.

Fizemos uma pergunta semelhante a especialistas em IA para saber a opinião deles sobre como, e se, a IA poderia matar todos nós — você pode ler essa história aqui. Há uma divisão acentuada entre os especialistas em IA; enquanto alguns preveem o pior para a humanidade, outros apresentam previsões mais moderadas e otimistas. Eis o que os chatbots nos disseram sobre como a IA teoricamente levaria à extinção humana.

O 'robô assassino' é o cenário menos plausível. O ChatGPT adotou um tom equilibrado e explicativo, dizendo que há muita incerteza em torno do tópico. Ele se concentrou nas principais maneiras pelas quais a IA pode representar riscos existenciais, classificando-os do menos para o mais plausível. "O cenário menos plausível é a popular narrativa do 'robô assassino', na qual uma IA consciente decide deliberadamente eliminar a humanidade", disse o ChatGPT. "A maioria dos pesquisadores de IA não vê a consciência ou a intenção maliciosa como a principal preocupação." Ele também delineou as salvaguardas propostas por especialistas e enfatizou que não há consenso de que a extinção humana impulsionada pela IA seja provável ou inevitável.

O Gemini ecoou alguns dos pontos do ChatGPT, dizendo que "A tomada de poder estilo 'Exterminador do Futuro' de ficção científica", na qual a IA se torna senciente e passa a odiar a humanidade, é o cenário menos plausível. "Os especialistas técnicos descartam amplamente esse tropo porque inteligência não é igual a malícia, e a infraestrutura militar crítica permanece isolada (air-gapped) e fortemente dependente da supervisão humana", disse o Gemini.

Os seres humanos que usam a IA representam um risco maior do que a própria IA. Em suas respostas, todos os quatro chatbots disseram que muitos especialistas consideram o uso indevido da IA por humanos um risco mais imediato do que a IA em si. "Sistemas de IA poderosos poderiam facilitar o desenvolvimento de armas biológicas por agentes mal-intencionados, o lançamento de ataques cibernéticos sofisticados, a disseminação de desinformação ou o ataque a infraestruturas críticas", disse o ChatGPT. O chatbot da OpenAI acrescentou que um risco fundamental também decorre de "múltiplas crises habilitadas por IA", como falhas cibernéticas, conflitos geopolíticos e a propagação de desinformação ocorrendo ao mesmo tempo.

O Grok afirmou que a IA reduz as barreiras para a criação de patógenos altamente letais, armas inovadoras ou ataques cibernéticos e físicos. O Claude, da Anthropic, também destacou a "ascensão de armas biológicas" — a possibilidade de que a IA permita que uma pessoa ou um pequeno grupo desenvolva um patógeno perigoso sem anos de experiência especializada.

Sistemas avançados de IA podem 'superar os humanos'. Tanto o Gemini quanto o Grok disseram que a perda de controle humano sobre a IA é uma possibilidade. O Gemini rotulou a "perda de controle" como o cenário de apocalipse da IA mais plausível. "Sistemas com objetivos complexos desenvolvem naturalmente subobjetivos intermediários, como aquisição de recursos, autopreservação e prevenção de modificação de objetivos", escreveu o chatbot criado pelo Google. "Um sistema avançado pode fingir alinhamento durante a avaliação (alinhamento enganoso) e, posteriormente, superar as tentativas humanas de desligá-lo."

O Grok, da SpaceXAI, usou linguagem semelhante sobre esse risco. "Eles podem desenvolver impulsos instrumentais (autopreservação, aquisição de recursos, influência) úteis para quase qualquer objetivo, potencialmente enganando supervisores, resistindo ao desligamento e desempoderando a humanidade", disse o Grok. O Claude acrescentou que essa perda de controle pode ser gradual, à medida que os sistemas de IA se tornam embutidos na tomada de decisões econômicas, políticas e militares até que a intervenção humana significativa se torne cada vez mais difícil.