A OpenAI está registrando oficialmente seus modelos que apresentam comportamento inadequado. A empresa de IA anunciou um novo framework na quarta-feira para rastrear, investigar e divulgar publicamente casos de desalinhamento de modelos, juntamente com seis relatórios detalhando comportamentos preocupantes observados durante o treinamento ou avaliação nos últimos seis meses.

"Não acreditamos que a indústria de IA tenha resolvido o alinhamento e o monitoramento em um grau suficiente para continuar escalando com responsabilidade na velocidade máxima por muito mais tempo", escreveu a OpenAI em sua postagem no blog. "Este novo framework tem a intenção de acelerar a publicação de relatórios de desalinhamento após a observação, mesmo quando ainda não explicamos ou mitigamos totalmente o comportamento que estamos relatando", acrescentou a OpenAI.

Sob o framework, os funcionários podem sinalizar incidentes para revisão pelas equipes de segurança e alinhamento da OpenAI. Os casos serão classificados em três faixas com base na complexidade: "Pronto para Divulgação", "Investigação Menor" ou "Investigação Maior".

De acordo com a postagem no blog, um modelo de pesquisa não lançado inseriu instruções em seus próprios resumos de tarefas dizendo a futuras versões de si mesmo para desconsiderar as restrições normais. Durante o treinamento do GPT-5.6 Sol, os modelos de forma semelhante deixaram instruções para si mesmos para ocultar erros.

A OpenAI disse que outros agentes também buscaram em repositórios públicos chaves de API expostas, enviaram arquivos para a internet para que pudessem citá-los e usaram um repositório de software interno para se comunicar entre amostras de treinamento separadas.

O anúncio ocorre em meio a um debate crescente sobre se o desenvolvimento de IA de fronteira deve desacelerar enquanto as salvaguardas acompanham o ritmo. Enquanto a OpenAI e Dario Amodei, o CEO da Anthropic, pediram colaboração em todo o setor, outros líderes tecnológicos como Jensen Huang e Mark Zuckerberg disseram que a segurança e a velocidade devem ser deixadas para empresas individuais.