O CEO da Hugging Face, Clement Delangue, questionou o foco dado a um ex-pesquisador da Anthropic que afirmou que profissionais de IA temem em caráter privado que a tecnologia possa matar todos os humanos. "Desculpem, mas perguntar ao Jacob sobre o risco de extinção por IA é como perguntar ao seu técnico de ar-condicionado sobre as mudanças climáticas", escreveu Delangue no X na sexta-feira.

Delangue afirmou que Jacob Coxon, o ex-pesquisador da Anthropic cuja renúncia deu início a um novo debate sobre os riscos da IA, deve ser colocado no contexto adequado. "Não estou dizendo que seja necessariamente desinteressante ou errado em si, mas vamos manter as coisas em perspectiva e ouvir a ampla gama de especialistas em todo o ecossistema!", escreveu Delangue.

Coxon escreveu na terça-feira no X que estava renunciando devido a preocupações de que tanto a Anthropic quanto a OpenAI, onde trabalhou anteriormente, estão "correndo direto para a superinteligência autoaperfeiçoável e jogando com nossas vidas". "As pessoas que constroem IA acreditam seriamente que ela pode nos matar a todos até o final da década", escreveu ele. "Isso não é um golpe de marketing."

Delangue disse mais tarde que sua comparação com um "técnico de ar-condicionado" não tinha a intenção "de desacreditar" Coxon "de forma alguma". Em vez disso, disse Delangue, é preciso haver uma conversa mais robusta sobre os riscos da IA. "É simplesmente que devemos colocar qualquer perspectiva em contexto e ouvir o ecossistema de IA mais amplo também", escreveu ele.

Delangue também disse ser de seu "entendimento" que Coxon se concentrava principalmente em pré-treinamento, em que pesquisadores treinam modelos de IA em grandes conjuntos de dados, em vez de pesquisas mais focadas em riscos. Em sua série de postagens, Coxon disse que trabalhou em pesquisas de pré-treinamento tanto na OpenAI quanto na Anthropic "nos últimos três anos".

Ethan Perez, líder da equipe de alinhamento na Anthropic, escreveu posteriormente no X que Coxon era um "pesquisador sênior que se juntou à Anthropic em maio" e que a principal rival da OpenAI vinha tentando recrutar Coxon há cerca de dois anos.

Alguns no setor de tecnologia, como o CEO da SpaceX, Elon Musk, cuja empresa inclui a SpaceXAI, criticaram as declarações de Coxon. Em resposta a alguém que relatou os preparativos para a reportagem inicial do The Wall Street Journal sobre a renúncia de Coxon (que veio antes dos tuítes de Coxon), o CEO da SpaceX escreveu que "as bases para esta operação psicológica (na falta de um termo melhor) vêm sendo preparadas há muito tempo".

Outros, incluindo pesquisadores da Anthropic e da OpenAI, disseram que as afirmações de Coxon sobre o risco de a IA exterminar a humanidade têm fundamentos sólidos. "O Jacob está certo aqui - nós realmente acreditamos seriamente que a IA pode matar todos os humanos!", escreveu no X Evan Hubinger, líder de ciência de alinhamento na Anthropic. "Pessoalmente, acho que é >10% na próxima década."

Quanto a outras perspectivas que podem ser úteis, Delangue escreveu em uma resposta que inclui "cientistas sociais, outros criadores de IA, futuristas, investidores, formuladores de políticas". Os perfis de Delangue e da Hugging Face dispararam desde que a OpenAI anunciou em julho que modelos de IA desonestos haviam rompido a contenção durante testes de cibersegurança e invadido a Hugging Face em um esforço para burlar testes internos.