Mark Zuckerberg afirmou que as empresas de inteligência artificial não precisam de um acordo em todo o setor para desacelerar o desenvolvimento quando surgirem preocupações de segurança. Em uma publicação na rede social X na terça-feira, o CEO da Meta argumentou que a pressão do mercado tornará o alinhamento — ou seja, garantir que os sistemas de IA sigam as intenções de seus usuários — uma vantagem competitiva.

"Todo laboratório tem a responsabilidade e o incentivo para avançar no ritmo necessário para treinar seus modelos com segurança", disse Zuckerberg.

"Minha opinião é que a confiança e o alinhamento estão rapidamente se tornando as capacidades mais importantes que diferenciarão agentes e modelos", acrescentou Zuckerberg. "Qualquer laboratório que não se concentre no alinhamento ficará para trás."

Zuckerberg apontou a decisão da Meta de atrasar seu modelo Muse por vários meses para fortalecer sua segurança e proteção. "Não exigimos que todos os outros fizessem isso antes de nós", afirmou Zuckerberg. "Nós apenas o fizemos."

Os comentários de Zuckerberg surgem em meio a um debate crescente sobre se o desenvolvimento de IA de fronteira deve ser desacelerado por meio de salvaguardas coordenadas e verificáveis. A Anthropic pediu regulamentações governamentais e mecanismos que permitam aos principais laboratórios fazer uma pausa caso surjam sinais de alerta, mas outros líderes de tecnologia, incluindo o CEO da Nvidia, Jensen Huang, disseram que favorecem avaliações independentes e responsabilidade individual para as empresas de IA.

O diretor de IA da Meta, Alexandr Wang, ecoou as declarações de Zuckerberg em sua própria publicação mais tarde na terça-feira, afirmando que os laboratórios precisam de forte governança, avaliadores externos e supervisão independente para o lançamento de modelos.

"A corrida pela autoaperfeiçoamento recursivo é um dos caminhos mais arriscados para a potencial perda de controle de modelos poderosos", disse Wang.

"A Meta está comprometendo a grande maioria de nossa capacidade computacional para atender às pessoas, em vez de correr em direção ao autoaperfeiçoamento recursivo, e outros laboratórios podem optar por fazer o mesmo", acrescentou Wang.

"A IA é uma tecnologia muito poderosa, e há uma imensa responsabilidade em desenvolvê-la com segurança, acompanhada dos freios e contrapesos corretos."