Hoje no Decoder, temos a primeira de uma série de duas partes sobre o futuro dos negócios, e estou conversando com Jonathan Kanter, o ex-chefe antitruste do Departamento de Justiça dos EUA na administração Biden. Atualmente, ele é professor de direito na WashU e professor de política tecnológica na Carnegie Mellon.

A maior história em tecnologia no momento é o debate em espiral sobre a segurança e regulação da IA. Pesquisadores dos grandes laboratórios de IA, incluindo Anthropic e Google DeepMind, demitiram-se de forma barulhenta, afirmando que os modelos representam ameaças reais e que a segurança não está sendo levada a sério em toda a indústria.

Outros pesquisadores disseram que a chance de a IA nos matar a todos é superior a 10%, e os CEOs de todas essas empresas emitiram vários apelos para desacelerar o desenvolvimento e criar regulamentações, incluindo pedidos de isenções antitruste para que possam coordenar questões de segurança.

Isso é uma grande quantidade de ideias, e estou especialmente curioso sobre a parte antitruste, que levou a acusações de que essas empresas estão buscando captura regulatória, tentando formar um cartel e até mesmo encontrando uma maneira de escapar da pressão dos investidores antes de suas ofertas públicas iniciais (IPOs).

Assinantes do The Verge, não se esqueçam de que vocês têm acesso exclusivo a o Decoder sem anúncios onde quer que recebam seus podcasts. Acesse aqui. Não é um assinante? Você pode se inscrever aqui.

Então, para dar sentido a tudo isso, liguei para Jonathan Kanter. Jonathan moveu grandes processos antitruste contra Google, Apple e Ticketmaster durante seu mandato como chefe antitruste e, junto com Lina Khan, liderou o que equivaleu a uma reformulação completa da política antitruste americana.

Como você o ouvirá dizer, ele venceu esses casos contra o Google e a Ticketmaster, e o caso contra a Apple ainda está ativo no DOJ sob Trump, surpreendendo muitos. Essa reformulação também levou a algumas alianças surpreendentes no debate sobre IA — o autoproclamado libertário e ex-czar de IA de Trump, David Sacks, tem retuitado aprovação a Lina Khan, dizendo que não há necessidade de isenção antitruste.

Tudo isso é muita coisa, e você ouvirá Jonathan e eu realmente entrarmos nos detalhes de como toda essa regulação pode funcionar e como ela pode interagir com a lei antitruste, a política de concorrência e nossa relação com a China. Certo: Jonathan Kanter, ex-chefe antitruste do DOJ, sobre segurança e regulação de IA. Lá vamos nós.

Esta entrevista foi ligeiramente editada em prol da extensão e clareza. Jonathan Kanter, você é o ex-chefe da Divisão Antitruste do DOJ na administração Biden e atual professor de direito na WashU e professor de política tecnológica na Carnegie Mellon. Bem-vindo de volta ao Decoder.

Sempre um prazer estar de volta. Isso é ótimo. Você é um cidadão privado agora. Você não precisa me dar as respostas de político.

Posso dizer o que quiser. Me sinto tão livre. Estou muito animado com isso. Eu planejo fazer o mesmo. Tenho um millón de perguntas sobre o estado da regulação de IA na América agora.

Há um turbilhão de ideias sobre como devemos ou não regular essas empresas. Há a administração Trump, cuja postura parece ser "não", o que é fascinante. Raramente se vê o governo federal simplesmente recusar-se a participar da maneira que a administração Trump parece estar recusando.

E depois há uma espinha dorsal incrível de preocupação antitruste flutuando por tudo isso. Essas empresas estão tentando formar um cartel?

Elas estão cientes de que talvez seus IPOs não vão do jeito que querem, então estão buscando captura regulatória de alguma forma que seja boa ou ruim? Elas estão tentando bloquear a concorrência mais barata de modelos chineses de pesos abertos?

Me dê sua perspectiva sobre o estado das coisas agora, e então eu quero mergulhar nos detalhes com você. O estado do mundo agora é como se tivéssemos inventado carros e caminhões, mas não temos linhas na estrada, sem semáforos, sem placas de pare e sem limites de velocidade.

Inventamos essa tecnologia incrivelmente poderosa que está transformando como vivemos nossas vidas, como conduzimos negócios, como socializamos, como buscamos, geramos e consumimos informações. Precisamos de algumas regras básicas na estrada.

Penso nisso em duas frentes. Quais são as coisas que as empresas deveriam estar fazendo? E quais são as coisas que o governo deveria estar fazendo? Há responsabilidades em ambas as extremidades. Fico feliz em mergulhar em ambas.

Vamos começar com a própria noção de que pedir regulação necessariamente forma um cartel. Todas as grandes empresas de IA de fronteira — OpenAI, Anthropic, Google DeepMind, até Elon Musk — não necessariamente gostam umas das outras.

Essas são pessoas que não gostam necessariamente umas das outras. Elas estão dizendo em conjunto que deveriam desacelerar. A frase que Dario Amodei, da Anthropic, está usando é "ritmar a fronteira".

Minha leitura disso é que elas simplesmente não confiam umas nas outras, que estão em um dilema do prisioneiro e precisam de uma força externa, muito provavelmente o governo, para impor algum tipo de arcabouço político com o qual tenham que concordar.

Essa é uma leitura justa do básico aqui? Mais ou menos. Deixe-me dar minha interpretação, da mais generosa à mais cínica, nenhuma das quais, TL;DR, deve resultar em qualquer tipo de isenção antitruste.

A interpretação mais generosa é que elas têm medo do ritmo da inovação e a falta de regulação significa que não veem linhas na estrada. Elas não sabem para onde dirigir e estão preocupadas em sair da estrada ou bater em alguém.

Elas estão implorando para o governo intervir e fazer algo. Provavelmente há um púnchado de verdade nisso. Acredito que elas acreditam que isso pode destruir a humanidade. Não tenho certeza se esse cenário apocalíptico é preciso, mas acredito que elas acreditam nisso. Essa é a versão mais generosa.

A versão mais cínica é que elas estão gastando tanto dinheiro, estão sangrando caixa e não conseguem manter isso, mas se recuarem, isso afetará sua avaliação como parte do IPO. Então, elas gostariam que alguém lhes desse permissão para parar de gastar tanto dinheiro e desacelerar o ritmo da inovação para que não tenham que competir tanto, para que possam descobrir sua economia antes de abrir o capital.

Um acordo entre todos os principais participantes em um campo como este forma automaticamente um cartel? Do lado cínico da interpretação, há muito de: "Você só quer captura regulatória. Você quer fazer um cartel. Você quer impedir a concorrência."

Esse é certamente um risco desse tipo de arranjo. Vamos examinar o que é necessário e o que não é. Deixe-me ser muito claro: essas empresas não precisam se coordenar para entregar produtos seguros e protegidos à sociedade.

Pense nisso: imagine Boeing e Airbus. A Boeing teme portas caindo do avião. Não foi culpa da Airbus e elas não precisavam desacelerar a inovação com a Airbus para evitar que essas portas caíssem do avião. Elas precisavam descobrir como construir aviões mais seguros.

Se você constrói carros que explodem enquanto você está dirigindo, não é culpa da outra empresa automobilística e você não precisa se juntar para descobrir como resolver esses problemas. Você precisa descobrir o que deu errado no seu processo de fabricação.

Se você cria produtos que geram agentes de IA que invadem os de outra pessoa e hackeiam a tecnologia de outra pessoa, isso não é diferente, na minha mente, do que ter um funcionário fazendo isso.

Você tem a responsabilidade de construir produtos seguros e as empresas devem ser responsabilizadas quando seus agentes, sejam esses agentes digitais e binários, sejam agentes de IA, ou sejam humanos, começarem a fazer coisas ruins. A empresa que os emprega pode e deve ser responsabilizada.

Essas são as regras básicas da estrada. Há áreas onde há colaboração legítima no contexto de segurança. Por exemplo, ter uma central de compensação para compartilhar adequadamente ameaças, bots maliciosos ou outras coisas para as quais você pode criar um repositório para que todos possam construir produtos mais seguros.

Esses são os tipos de colaboração que acontecem em outras indústrias e você não precisa de uma isenção antitruste porque as leis antitruste não proíbem esse tipo de trabalho.

Se duas empresas dizem: "Estamos competindo com muita força e precisamos desacelerar", sim, isso pode envolver as leis antitruste, mas não é isso que deveríamos estar fazendo aqui.

Deveríamos estar inovando, mas as empresas devem ter a responsabilidade de construir produtos seguros e o governo deve ser responsável por colocar linhas na estrada que dizem: "Se você não construir um produto seguro, aqui estão as consequências."

"Se você não construir um produto seguro, aqui está como a responsabilidade pode ser. Se você não construir um produto seguro, talvez deva haver uma prisão de robôs para seus agentes e ele deve ser retirado do mercado."

Quero aprofundar especificamente a prisão de robôs. Na quantidade de pressão que estamos colocando sobre o que parece ser a lei de responsabilidade civil por produtos. Há algo aí sobre o qual quero falar mais especificamente, mas minha esposa é advogada.

Eu disse a ela que estava conversando com você esta manhã e tentei explicar que há linhas de falha aqui, e ela apenas me lançou aquele olhar e disse: "Isso é apenas um pesadelo de hipótese de faculdade de direito."

O que você está descrevendo é: "A lei de responsabilidade civil cria um arcabouço regulatório para essas empresas?" E em algum lugar está: "Se meu agente for e te hackear, minha diretriz é que a Anthropic é culpada? Vamos criar algum tipo de responsabilidade de repasse? Isso já acontece ou não? Precisamos de outra lei ou esclarecimento legal?"

Qual é a sua visão sobre isso? Se eu direcionar meu agente Meta Muse para ir te atacar e ele o fizer, isso é culpa da Meta? Ambos/e.

As empresas empregam pessoas e constroem tecnologia. Quando essas pessoas e tecnologias fazem coisas problemáticas, incluindo roubar ou invadir a propriedade de outra pessoa em nome de seu empregador, há responsabilidade, e isso pode ser responsabilidade por produtos, mas pode ser mais do que responsabilidade por produtos.

Você são apenas pessoas fazendo coisas ruins ou empresas criando tecnologia que está fazendo coisas ruins. E o arcabouço de responsabilidade por produtos realmente funcionou mais recentemente no caso contra a Meta para Facebook e Instagram, segurança infantil e saúde mental.

Espere, espere. Isso é realmente fascinante para mim. Esta é uma coisa sobre a qual estou realmente interessado em falar, porque levou uma década para funcionar. Esse é o problema!

É aqui que o governo precisa interagir. As empresas têm a obrigação hoje de construir produtos seguros e o ritmo da inovação não é desculpa para não fazer isso. Vamos ser muito claros sobre isso.

Ao mesmo tempo, inventamos carros, caminhões e trens e não temos cruzamentos, semáforos, linhas na estrada. O Congresso é completamente incapaz de fazer praticamente qualquer coisa.

Enquanto essas empresas de tecnologia dizem que querem regulamentação, elas estão ativamente fazendo lobbying contra isso e têm feito isso por um longo tempo.

Tudo isso é uma complete bagunça e é um sintoma do nosso sistema, que é uma complete bagunça. E francamente, se o cientista político em mim rastreasse isso de volta a coisas como manipulação de distritos eleitorais e Citizens United, onde nosso processo saiu do controle e o Congresso, que deveria estar fazendo seu trabalho básico de colocar padrões básicos de segurança e responsabilidades em vigor, não fez isso.

Dito isso, a falta de ação do Congresso não é desculpa para entregar produtos perigosos. Se você acredita que seu produto vai destruir a humanidade, então não o construa.

Se você acredita que seu produto vai invadir as coisas de outra pessoa, volte para a prancheta e descubra como construí-lo de forma mais segura. Quer saber? Esses são problemas de inovação, não apenas problemas regulatórios.

Precisamos fazer um trabalho melhor incentivando nossas empresas a construir produtos mais seguros. Quando fizerem isso, esses produtos terão melhor desempenho e veremos melhor inovação.

Agora, a inovação é assimétrica porque é feita sem o devido respeito à segurança, assim como vimos nas mídias sociais. Como resultado, agora temos produtos que são realmente bons e eficazes para permitir que as pessoas se comuniquem, mas realmente ruins quando se trata de vício infantil e saúde mental.

Talvez devêssemos aprender nossa lição e encorajar as pessoas a construir produtos mais seguros desde o início, no início desta tecnologia.

Deixe-me fazer a comparação com a regulação das mídias sociais um pouco mais estreitamente. Acabamos de ter o grande caso da Meta; esse é um caso de responsabilidade por produtos. Seus produtos foram projetados de forma a causar danos aos adolescentes.

A Meta resolveu o caso porque acho que Mark Zuckerberg preferiria construir IA do que se importar em moderar o Facebook. Mas eles perderam um para o júri. Eles geralmente perdem um para o júri, e este caso não estava indo bem, mas fundamentalmente eles resolveram.

Eles desistiram. Há uma visão de que se eles tivessem lutado e apelado, eles teriam vencido com base em alguns argumentos da Primeira Emenda, que o caso de responsabilidade por produtos talvez não fosse tão forte quanto todos pensávamos.

E a outra razão pela qual estou dizendo isso é que a Meta cedeu ao regulador e sua postura no final foi um acordo. Eles cederam e aceitaram alguma regulação.

Foi preciso muito tempo para a versão de responsabilidade por produtos levar uma empresa como a Meta a conceder alguma regulamentação, a conceder alguns controles — Para fazer uma empresa como a Meta conceder alguma regulamentação, a conceder alguns controles.

Se estamos dizendo hoje: "OpenAI, você provavelmente é responsável pelo que o ChatGPT faz. Anthropic, você provavelmente é responsável pelo que o Claude faz", este não é o momento de apertar o parafuso e aprovar a regulamentação que diz: "Você definitivamente é responsável"?

Sim. Este é o trabalho do Congresso, que é esclarecer a lei. Mas acho que o ambiente hoje é visivelmente diferente do ambiente de 15 a 20 anos atrás.

Há 15 a 20 anos, tínhamos a Seção 230, que de fato concedia enormes quantidades de imunidade às empresas online, o que tornava mais difícil processá-las e lhes dava mais flexibilidade para inovar sem considerar as consequências.

Tivemos — e isso não é partidário, pois pode voltar à administração Obama — uma abordagem muito distante: "Oh, nossa economia depende dessas empresas maravilhosas do Vale do Silício. Vamos deixá-las fazer o que quiserem e essencialmente permitir que montem acampamento na Casa Branca e no Congresso e nos digam como escrever ou não nossas regras."

Os resultados disso corroeram ou destruíram qualquer confiança que o público tem nessas empresas de tecnologia.

Uma das razões pelas quais estamos tendo essa conversa muito mais cedo no processo agora é porque as pessoas estão dizendo: "Engane-me uma vez, vergonha para você. Engane-me duas vezes, vergonha para mim."

A boa notícia é que há maior conscientização e apreço público pelos problemas e o desejo de fazer algo significativo. O problema é que temos um sistema no Congresso devido a coisas como Citizens United, devido a coisas como manipulação de distritos eleitorais que tem um governo que não responde às necessidades do povo. Que i