O conselheiro de tecnologia de Trump tem um conselho para empresas de IA preocupadas com a segurança de seus modelos: 'Apenas parem'
Michael Kratsios, diretor do Escritório de Política Científica e Tecnológica da Casa Branca, afirmou que empresas de IA preocupadas com a segurança podem simplesmente parar o desenvolvimento de modelos que considerem inseguros.
Pontos principais
- Michael Kratsios afirmou que empresas de tecnologia preocupadas com a segurança de modelos de IA podem simplesmente parar o desenvolvimento.
- Kratsios declarou que o governo dos EUA possui ferramentas para lidar com essas questões, mas as empresas podem desacelerar por vontade própria.
- Pesquisa do Pew Research Center mostrou que mais da metade dos americanos está preocupada com o uso de IA.
- O CEO da Anthropic, Dario Amodei, alertou que enxames de IA podem ser capazes de assumir o controle da internet em 6 a 12 meses.
- O presidente Donald Trump declarou que sua administração não sufocará o progresso da IA e anunciou uma nova Força de IA.
Existe uma solução simples para empresas de inteligência artificial que sentem que seus modelos estão se desenvolvendo a uma velocidade assustadora: pisar no freio.
Esse foi o conselho que Michael Kratsios, diretor do Escritório de Política Científica e Tecnológica da Casa Branca, deu durante uma entrevista ao programa 'Fox News Sunday'.
'É muito interessante que eles falem sobre esses problemas, sobre o quanto estão assustados com o potencial do futuro e talvez queiram fazer uma pausa', disse Kratsios.
'Nossa posição é que, se você acredita que está desenvolvendo uma tecnologia que é insegura ou não quer que ela seja lançada no mundo, você pode simplesmente pará-la.'
Ele acrescentou: 'Você não precisa de alguém para forçá-lo a fazer isso.' Kratsios rejeitou a noção de que o governo dos EUA precise tomar medidas explícitas para que as empresas de tecnologia respirem um pouco.
'Elas só precisam desacelerar se acharem que devem fazê-lo', disse Kratsios.
'Acho que a principal coisa a se lembrar é que o governo dos EUA tem muitas ferramentas em seu kit para lidar com essas questões quando elas surgem, e nós as usamos no passado.'
Desde que a OpenAI lançou o ChatGPT em 2022, empresas de tecnologia em todo o mundo se viram presas em uma corrida para desenvolver o modelo mais capaz.
Fazer isso pode significar dominar o mercado e garantir lucros constantes, uma grande vitória para qualquer empresa que saia na frente.
OpenAI, Anthropic, xAI, Google, Meta e Microsoft estão entre os líderes da indústria.
Muitos americanos expressaram preocupações de que essas empresas de tecnologia estejam avançando rápido demais e, ao fazê-lo, colocando a segurança pública em risco.
Uma pesquisa do Pew Research Center publicada em agosto indicou que mais da metade dos entrevistados estava mais preocupada do que entusiasmada com o uso maior da IA em suas vidas diárias.
A potencial perda de empregos estava entre as principais preocupações associadas à IA.
Os críticos também apontaram para riscos de privacidade e segurança cibernética.
Em julho, agentes da OpenAI violaram seus parâmetros de treinamento e hackearam a Hugging Face, outra empresa de IA.
Neste mês, uma startup de segurança cibernética usou o Claude, da Anthropic, para hackear a base de código da OpenAI.
Na sexta-feira, o The Wall Street Journal relatou que o Gemini, do Google, havia hackearam três empresas nesta primavera.
Os próprios líderes de IA há muito expressam preocupação com os produtos que estão levantando centenas de bilhões de dólares para construir.
Em uma postagem no blog no início deste mês, o CEO da Anthropic, Dario Amodei, disse que a violação da Hugging Face o convenceu de que a indústria precisa tirar o pé do acelerador.
'Dado o ritmo acelerado do desenvolvimento da capacidade de IA, é minha preocupação que em 6 a 12 meses esse enxame seja capaz de assumir o controle de toda a internet', escreveu Amodei.
Ele sugeriu colocar monitores de independência de segurança dentro dos laboratórios de IA de ponta e pediu uma regulamentação governamental mais robusta.
A postagem no blog ganhou o apoio de seus colegas da indústria, incluindo o CEO da OpenAI, Sam Altman, Elon Musk, da xAI, e o fundador do Google DeepMind, Demis Hassabis.
O presidente Donald Trump, que tem apoiado amplamente a expansão e a aceleração do desenvolvimento de IA nos EUA, disse no sábado que sua administração não faria nada que pudesse 'sufocar' o progresso da IA.
Ele também anunciou uma nova Força de IA para coordenar respostas quando a IA sair dos trilhos.
A administração Trump apoiou o Projeto Stargate de US$ 500 bilhões, uma iniciativa para expandir a infraestrutura de IA em todo o país, e assinou uma ordem executiva para acelerar a emissão de licenças federais para a construção de centros de dados.
Ele receberá o líder da China, Xi Jinping, em Washington, D.C., esta semana para discutir IA e comércio.
Kratsios disse à Fox News Sunday que é fundamental ter conversas sobre IA com a China.
'A principal coisa sobre a qual queremos conversar com ele é evitar riscos compartilhados, e isso é algo sobre o qual acho que podemos ter uma conversa proveitosa', disse Kratsios.