viu as notícias? Todo mundo está surtando com a inteligência artificial, que apresenta uma probabilidade significativa de matar todo mundo no planeta assim que atingir a superinteligência... pelo menos de acordo com um monte de profissionais de tecnologia que podem ter seus próprios motivos para alimentar o pânico em massa.

Esta frenesi da mídia levou a uma reação de várias pessoas, incluindo Elon Musk, que dizem que os alarmistas da IA estão envolvidos em uma "operação psicológica" (psyop) — em outras palavras, estão usando meios inautênticos para fabricar uma controvérsia inexistente sobre a IA.

Os defensores da teoria da operação psicológica apontam para um alto grau de coordenação entre os alarmistas, embora estejam ignorando algumas explicações menos conspiratórias sobre o motivo pelo qual políticos e repórteres estão impulsionando suas alegações.

Você está lendo Free Media de Robby Soave e Reason. Obtenha mais cobertura de Robby sobre mídia, desinformação e liberdade de expressão.

O ex-funcionário da Anthropic Jacob Coxon desencadeou essa crise no início desta semana, quando anunciou que estava deixando a empresa devido às suas próprias preocupações de que a Anthropic e a OpenAI — onde trabalhou anteriormente — estavam correndo em direção à superinteligência sem preocupação suficiente sobre como uma IA avançada poderia ameaçar a humanidade.

Suas reflexões no X tornaram-se virais e foram amplamente disseminadas por outras figuras da tecnologia, políticos e comentaristas.

Você poderia esperar que a Anthropic rejeitasse sua alegação, mas um funcionário, Evan Hubinger, realmente se manifestou para ecoar as preocupações de Coxon. "Nós realmente acreditamos sinceramente que a IA pode matar todos os humanos!", escreveu ele. "Pessoalmente, acho que é >10% na próxima década."

Uma chance maior do que 10% de algo acontecer é significativa. Acho que a maioria das pessoas não gostaria que as empresas de IA prosseguissem com seus planos se o risco de extinção global fosse realmente tão alto.

Note que Hubinger também rejeita explicitamente a noção de que isso seja um "golpe de marketing", que é uma acusação frequentemente feita contra os alarmistas da IA: ou seja, que eles estão tentando despertar interesse no produto fazendo-o soar perigosamente legal, o que ajudará a aumentar seu apelo e, finalmente, seu valor.

Dito isso, ainda pode ser um golpe de marketing! Há cerca de 10% de chance de nosso produto totalmente incrível enlouquecer — isso não é incrível e assustador?

Isso realmente soa como um truque de marketing em vez de uma análise sóbria e cientificamente fundamentada da probabilidade de a superinteligência produzir uma catástrofe.

Como o valor de 10 por cento foi alcançado? Eles pesaram as probabilidades de a superinteligência salvar milhões de vidas? Ou de neutralizar a IA maliciosa de um adversário estrangeiro?

Se as pessoas que trabalham nesses sistemas realmente pensam que eles são perigosos, elas têm a responsabilidade de ser mais específicas sobre os tipos de ameaças que podemos enfrentar.

Previsões vagas de doom tecnológico são mais do que suficientes para deixar o público extremamente amedrontado, no entanto.

A postagem de Coxon foi compartilhada em todos os lugares, e ele foi rapidamente convocado para programas de notícias a cabo. Artigos de opinião apareceram em jornais e revistas.

Os reguladores sinalizaram sua prontidão para entrar em ação. A própria Anthropic parecia pronta para a blitz de notícias e emitiu declarações implorando ao governo federal que fizesse algo para conter não apenas sua IA, mas também a de seus concorrentes.

Esse tipo de comportamento não é novidade no mundo da tecnologia. A Meta, por exemplo, tem emitido rotineiramente declarações públicas em apoio a uma maior regulamentação das empresas de mídia social; em anos passados, críticos argumentaram que a legislação que apoiam poderia acabar ajudando os produtos da Meta, solidificando o Facebook e o Instagram como líderes de mercado.

Mais recentemente, após a decisão da Meta de resolver vários processos por bilhões de dólares, a empresa disse que apoiava totalmente a proteção de crianças exigida pelo governo — desde que o governo também reinasse sobre o YouTube e o TikTok.

Mas se a decisão da Anthropic de se alinhá-los com os alarmistas da IA for cínica e interesseira, ainda não é uma "operação psicológica", ou uma conspiração elaborada para enganar o povo americano a apoiar mais regulamentação — algo que os críticos da posição alarmista também estão alegando.

A verdade é que nem os políticos nem a mídia tradicional precisam de muito pretexto para sucumbir ao pensamento anti-tecnologia de joelhos: eles tendem a querer prevenir supostos danos.

Tanto a mídia quanto o governo são tendenciosos a favor da ação: alguém deve fazer algo. E a IA é um grande algo.

Todos nós fomos criados com histórias de ficção científica que previam que robôs assassinos tentariam dominar o mundo: O Exterminador do Futuro, Matrix, Duna, Battlestar Galactica e assim por diante.

É fácil entender por que manchetes chamativas alertando que insiders de tecnologia acreditam não tão secretamente que uma IA desonesta está a poucos anos de destruir a humanidade vão vender muitos jornais.

Da mesma forma, nenhum político quer ser visto como insuficientemente atento a este problema. Até mesmo o senador Ted Cruz (R-Texas), uma figura política comparativamente pró-tecnologia, prefaciei suas recentes observações sobre IA enfatizando primeiro sua abordagem bipartidária de "fazer algo" em relação à legislação tecnológica.

Portanto, não é realmente uma surpresa que o mundo do comentário político esteja comprando o que aquele ex-informante da Anthropic está vendendo.

A última coisa que este debate precisa é que o lado pró-IA sucumba à paranoia que caracteriza amplamente o lado alarmista. Não é uma operação psicológica; é um erro. (E não, essa frase não foi escrita por IA. Eu também posso usar essa construção, ChatGPT!)

Esta semana no Freed Up. Discutimos a proposta do presidente Donald Trump de dar a cada americano um cheque de "dividendo" de US$ 5.000 se os republicanos de alguma forma vencerem as eleições de meio de mandato. Vale a pena assistir.