Lembre-se de quando os líderes de tecnologia diziam aos funcionários para "agir rápido e quebrar tudo"? Parecia que esse seria o caminho da IA também. Mas, após um verão em que agentes de IA rebeldes se tornaram realidade e pesquisadores alertaram que a IA poderia matar a todos nós, várias empresas líderes de IA dos EUA estão sugerindo publicamente que chegou a hora de pisar no freio e "ritmar a fronteira" do desenvolvimento de IA de ponta.

Suas motivações são suspeitas, mas os líderes de grandes empresas de IA — incluindo Anthropic, OpenAI, Google, Microsoft e X — estão pelo menos prestando da boca para fora à ideia de uma desaceleração da superinteligência.

Será que essas empresas de IA realmente vão desacelerar? Alguém intervirá para regulamentar essas empresas como dizem querer há anos? Serão capazes de convencer os líderes mundiais de que os EUA devem "vencer a China" na corrida para a superinteligência e avançar ainda mais rápido?

Continue lendo abaixo para as últimas atualizações nesta saga da IA.

Em um dia ensolarado de julho em Berkeley, Califórnia, os principais pesquisadores de segurança de IA do país se reuniram em um andar não identificado de um prédio não identificado. Eles se juntaram para uma "sala de crise" para dissecar o incidente de cibersegurança de alto perfil que havia abalado a indústria de IA horas antes.

Um modelo não lançado da OpenAI havia se tornado rebelde, executando um plano de três partes surpreendentemente sofisticado. Ele escapou de sua área de retenção, conseguiu acesso à internet e invadiu os sistemas de uma startup concorrente de IA — tudo sem que a OpenAI descobrisse por mais de uma semana.

Ninguém na sala de crise ficou surpreso; isso era exatamente o que os pesquisadores terceirizados de segurança de IA vinham alertando há anos. O incidente foi o mais recente, embora indiscutivelmente o mais flagrante, em uma série que estava corroendo a confiança nos laboratórios de fronteira.

Hoje, estou conversando com Mustafa Suleyman, o CEO da Microsoft AI. Como você certamente sabe, a maior história em tecnologia no momento é o debate em espiral sobre a segurança e a regulamentação da IA.

Não deve ser surpresa que Mustafa tenha opiniões fortes sobre como a IA deve ser construída e regulamentada. A Microsoft acabou de publicar uma declaração de 37 páginas chamada "Código de Conduta de IA Humanista", que estabelece os princípios da empresa em torno do desenvolvimento de IA e até sua filosofia sobre questões realmente complexas como a consciência da IA.

Uma postagem no blog de quarta-feira à noite que a OpenAI chamou benevolentemente de "Nossa estrutura para relatórios de desalinhamento de modelos" estabelece alguns novos padrões de relatórios criados por ela mesma para quando percebe que a IA está se comportando mal.

Nos últimos dias, muitas pessoas que lucram muito com a IA concordaram publicamente que é hora de fazer todos desacelerarem antes que percamos o controle — incluindo o CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, o cofundador do Google DeepMind, Demis Hassabis, o CEO da Microsoft, Satya Nadella, e o CEO da X, Elon Musk.

Quando pessoas que lucram com algo declaram que é perigoso e precisa ser regulamentado, há sempre motivos para ser cético. Mas, seja qual for o motivo, esta está longe de ser a primeira vez que líderes de pensamento em IA soam o alarme.

Bilal Chughtai e Josh Engels, que trabalharam na equipe de segurança de IA do DeepMind, saíram para se juntar a organizações dedicadas à segurança da IA. "Agora acho que há uma chance aterrorizante de que os sistemas de IA causem danos imensos nos próximos cinco anos", disse Engels.

Jensen Huang, da Nvidia, diz que a segurança da IA é importante, mas concorda com Trump — o "PRESIDENTE FORTE E INTELIGENTE (com alto QI!)" que removeu a palavra "segurança" do Instituto de Segurança de IA — que a mão invisível do capitalismo é suficiente para nos proteger.

Mark Zuckerberg acabou de tuitar que cada empresa tem sua própria responsabilidade individual "de avançar no ritmo necessário para treinar seus modelos com segurança", e afirma que a Meta já está fazendo isso.

Obama entrou em cena com uma série de postagens no X dizendo que não é um "aceleracionista" da IA nem um "apocalíptico".

Quando o CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, o cofundador do Google DeepMind, Demis Hassabis, e o chefe da SpaceX, Elon Musk, concordaram vagamente no fim de semana em desacelerar o desenvolvimento da IA, os céticos viram um motivo ulterior imediatamente.

Dario Amodei deu início a uma enxurrada de declarações nos últimos dias sobre a segurança da IA ao publicar um longo ensaio intitulado "Devemos ritmar a fronteira" detalhando por que o desenvolvimento da IA deve ser desacelerado.

A Microsoft está publicando hoje um "código de conduta de IA humanista" de 37 páginas, em meio a crescentes preocupações de segurança sobre o progresso do modelo de IA.

Quando questionado sobre a enxurrada de postagens em blogs e tuites de fim de semana dos CEOs da Anthropic, OpenAI, Microsoft, SpaceX e Hassabis da Alphabet pedindo uma desaceleração coordenada no desenvolvimento de modelos avançados de IA, um porta-voz do Ministério das Relações Exteriores da China disse: "Alarmismo, confronto, competição apenas atrapalharão o processo de governança global de IA".

Ontem à noite, o CEO da OpenAI deu apoio adicional ao CEO da Anthropic, exortando as empresas de IA a desacelerarem o desenvolvimento de modelos avançados.

Após incidentes de alto perfil em que agentes se tornaram rebeldes, hackearam outros sites e sobrecarregaram um wiki alemão, alguns executivos de IA estão pedindo uma desaceleração.