O caminho para a superinteligência artificial
Especialistas discutem como a criação de uma camada semântica e de conectividade entre agentes de IA pode pavimentar o caminho para a superinteligência artificial distribuída.
Imagine um sistema de saúde composto por vários agentes de IA: um que gerencia a avaliação de sintomas, outro o agendamento, um terceiro o seguro e um quarto a farmácia. Cada um é especialista em seu domínio. Mas todos possuem seu próprio conhecimento e objetivos distintos. Hoje eles podem trocar dados, mas ainda não conseguem coordenar o atendimento ao paciente sem que um humano tome as decisões.
"A inteligência já está lá. O que falta é o tecido conjuntivo que transforma quatro estranhos em uma equipe", explica Vijoy Pandey, vice-presidente sênior e gerente geral da Outshift by Cisco. Esse "tecido conjuntivo" vem da adição de uma camada semântica — o que a Outshift chama de "Internet da Cognição" — que permite que agentes em diferentes domínios trabalhem juntos e, criticamente, "pensem" juntos por meio de intenção, contexto e raciocínio compartilhados.
Essa camada semântica depende de uma camada de conectividade abaixo dela chamada "Internet de Agentes", que permite que agentes autônomos descubram uns aos outros, provem identidade e troquem mensagens entre domínios. Quando usados juntos, eles permitem "o próximo passo no caminho para a superinteligência artificial distribuída", diz Pandey.
Por anos, a indústria de IA tem se concentrado no crescimento. O dimensionamento vertical levou a modelos maiores, treinados em mais dados com mais poder computacional. Isso produziu as capacidades de raciocínio que podem ser como um "cérebro" para agentes de IA, que podem perceber, raciocinar e agir em ambientes digitais.
Embora o dimensionamento vertical possa produzir agentes mais capazes perpetuamente, para permitir a resolução de problemas baseada em agentes em diferentes sistemas, empresas e plataformas, o próximo eixo de escala deve ser horizontal, diz Pandey. Os sistemas multiagente já estão sendo explorados em áreas como engenharia de software, descoberta de medicamentos e simulações científicas, mas seus desempenhos até agora têm sido decepcionantes.
Um estudo constatou uma taxa de falha entre 41% e cerca de 87% ao avaliar sete sistemas multiagente de código aberto. "Agentes conectados lidam bem com ações coordenadas; pegando uma tarefa cuja forma eles viram, dividida e passada adiante", explica Pandey.
"O que eles não conseguem fazer é manter um objetivo em comum e raciocinar em direção a algo que nenhum deles foi treinado para resolver." "A lacuna é arquitetônica, não um problema de comandos", acrescenta Pandey.
"Sem a camada de coordenação correta, configurações multiagente ingênuas podem ter um desempenho pior do que um único agente. A mudança de patamar é aquela equipe de agentes convergindo sozinha, para um novo problema, sem nenhum humano costurando as costuras."
Para atingir esse objetivo, Pandey diz que a Outshift construiu uma camada de conectividade chamada AGNTCY, um projeto de código aberto agora sob a Fundação Linux. O AGNTCY permite que agentes em diferentes sistemas, empresas e plataformas se encontrem, provem identidade e troquem mensagens por meio de protocolos abertos e padronizados.
E, como explica Pandey, isso permite que a tese da Internet da Cognição dê um passo adiante. Cria uma camada semântica que permite que agentes alinhem objetivos (compartilhem intenção), reúnam conhecimento institucional e memória composta (compartilhem contexto) e façam concessões coletivas (compartilhem raciocínio).
Pandey compara essa progressão à dos humanos: "Por centenas de milhares de anos, os humanos se tornaram individualmente mais inteligentes, e os ganhos morreram com cada pessoa que os fez", explica ele. "Cerca de 70.000 anos atrás, isso mudou, quando os humanos aprenderam a compartilhar intenção, construir conhecimento cumulativo e raciocinar coletivamente."
"É quando indivíduos espalhados se tornaram civilização. Os agentes estão no mesmo limite. Construímos os gênios de silício e lhes demos autonomia. O que lhes falta é a camada que permitiu que os humanos fossem coletivos", diz ele.
Habilitar agentes a trabalhar coletivamente baseia-se em três pilares na pilha de tecnologia: Intenção compartilhada por meio de protocolos de estado de cognição. Os protocolos de estado de cognição são o aperto de mão semântico que permite que agentes concordem com um objetivo antes de agir e, em seguida, negociarem em direção a ele.
A Outshift criou uma camada de coordenação de código aberto chamada Mycelium, que as organizações podem clonar e usar contra seus próprios agentes. "Descobrimos que grupos desestruturados chegavam a uma decisão cerca de um terço do tempo em 14 cenários", diz Pandey, falando sobre testes internos.
"Um protocolo de coordenação que faz com que os agentes declarem um objetivo, revelem informações ausentes e resolvam conflitos antes de agir elevou isso para 93%." Contexto compartilhado por meio de tecido de cognição.
Um tecido de cognição é uma memória institucional compartilhada e malha de comunicação que permite que a percepção do agente se componha ao longo do tempo, em vez de reiniciar a cada sessão. Essa camada de contexto governada por políticas resolve o problema da "amnésia organizacional", diz Pandey, garantindo que a inteligência de linha de base dos sistemas só aumente.
Raciocínio compartilhado por meio de amplificadores cognitivos e tecnologias de salvaguarda. Dois tipos de motores de cognição podem ser usados juntos para permitir o raciocínio compartilhado. Amplificadores cognitivos aceleram o raciocínio e a modelagem compartilhados, e tecnologias de salvaguarda criam estruturas de segurança, custo e conformidade.
Os humanos são contribuidores ativos para essa camada, tomando decisões de julgamento que o sistema direciona para eles (em vez de revisar os resultados após o fato). O compartilhamento de cognição em sistemas multiagente pode criar novos riscos, incluindo delegações não intencionais, injeções de comandos maliciosas ou envenenamento de memória, ou agentes com privilégios excessivos com acesso a permissões e dados muito além do que suas tarefas exigem.
Controles específicos de ambiente são, portanto, necessários para proteger contra ações ou consequências indesejadas. "Os agentes têm atributos semelhantes aos humanos, mas operam na velocidade e escala das máquinas", diz Pandey. "Tudo o que construímos por vinte anos — controle de acesso, identidade, conformidade — foi construído para humanos ou máquinas, não para ambos."
Autorização Semântica de Agente Contínua (CASA) — uma implementação de referência de código aberto desenvolvida pela Outshift — é uma tecnologia de salvaguarda que trabalha para garantir que as ações do agente permaneçam alinhadas com segurança ao objetivo original do usuário por meio de um processo de autorização contínua. Ele faz isso lendo o que o agente está tentando realizar e, em seguida, verificando cada solicitação de ferramenta em relação a essa tarefa.
No caso de um sistema de saúde, por exemplo, um agente instruído a resumir o prontuário de um paciente pode começar consultando um banco de dados inteiro. Isso pode levar o CASA a negar a chamada, porque a solicitação não corresponde mais à tarefa para a qual foi autorizado.
"Os controles de hoje são limitados a uma função ou a uma sessão, não à tarefa, de modo que um agente autorizado a usar uma ferramenta pode usá-la para qualquer coisa", explica Pandey. "Aproximadamente 90% das vezes, um agente não tem como confirmar se sequer está autorizado para o trabalho que recebeu."
Ao dimensionar horizontalmente a inteligência na empresa, as empresas devem começar experimentando um fluxo de trabalho multifuncional que abrange três ou quatro equipes e atualmente precisa de um humano autorizando as transferências, aconselha Pandey. "Implemente-o como um pequeno sistema multiagente em infraestrutura aberta e interoperável, com uma linha de base mensurável", diz ele.
"Continue construindo modelos maiores, adicione o eixo horizontal em cima deles e mude o que você mede. Acompanhe onde a percepção de um agente tornou outro agente melhor — esse é o sinal de que o eixo horizontal está funcionando." Ao começar a experimentar agora com camadas de intenção, contexto e raciocínio, as organizações podem sair na frente.
"Os problemas estão abertos e a infraestrutura ainda está sendo escrita", diz Pandey. "Este é o momento de construí-la." Para mais informações sobre a Internet da Cognição, visite Outshift.com.