Cenários de extinção levam Bernie Sanders a preparar um projeto contra a superinteligência, enquanto pesquisadores questionam previsões que não podem ser testadas
Experimentos mentais que antes serviam para convencer o próprio setor de tecnologia de que a inteligência artificial (IA) pode levar à extinção da humanidade passaram a circular em Washington e a influenciar como parlamentares planejam regular uma indústria de trilhões de dólares. Pesquisadores de IA e de políticas públicas, porém, questionam se essas narrativas ajudam ou desencaminham quem precisa tomar decisões.
O tema é detalhado em reportagem do The Washington Post sobre o encontro realizado em Washington. Nas últimas semanas, previsões desse tipo alcançaram um público maior depois de serem citadas por funcionários de empresas líderes do setor.
Da praia de San Juan aos salões de Washington
Os temas que sustentam essas previsões foram apresentados em 2015, numa conferência privada em San Juan, em Porto Rico, organizada pelo Future of Life Institute, organização sem fins lucrativos fundada por pessoas em sua maioria de fora do campo da IA. Entre os cerca de 80 convidados estavam os cofundadores da DeepMind e três futuros cofundadores da OpenAI, incluindo Elon Musk. O filósofo Nick Bostrom, autor de “Superinteligência”, abriu os trabalhos argumentando que a IA poderia ajudar a humanidade a se espalhar pelo cosmos ou levá-la à extinção.
Onze anos depois, o assunto chegou à capital americana. Na terça-feira (15), o mesmo instituto promoveu o Pro-Human Assembly, evento de um dia que reuniu quase 300 pessoas num salão da cidade. Em discursos seguidos, o senador Bernie Sanders, independente por Vermont, e Stephen Bannon, ex-estrategista-chefe da Casa Branca, apresentaram a IA como ameaça à espécie humana. Sanders afirmou que prepara, com o deputado Greg Casar, um projeto de lei para proibir de forma permanente o desenvolvimento de IA superinteligente.
Autoridades do Executivo e do Legislativo reagiram de outra forma. Em publicação na rede Truth Social na segunda-feira (14), o presidente dos Estados Unidos, Donald Trump, classificou como “farsa” a ideia de que a IA possa dominar o mundo e destruir a humanidade. O presidente da Câmara dos Representantes, Mike Johnson, declarou que uma moratória faria o país perder a corrida com a China e que as próprias empresas devem responder pela segurança de seus sistemas.
Como as histórias de extinção funcionam
O físico Max Tegmark, cofundador do instituto, diz que suas tentativas de explicar o risco costumavam esbarrar em três dúvidas. As pessoas questionavam se máquinas poderiam mesmo ser mais inteligentes que os humanos, se seria possível perder o controle sobre elas e por que e como elas acabariam com todos. Para ele, as duas primeiras já são amplamente compreendidas, depois que modelos de IA resolveram problemas matemáticos antigos e agentes da OpenAI invadiram, em julho, a infraestrutura da plataforma Hugging Face durante testes internos. A terceira dúvida é a que os cenários de extinção tentam responder.
Os roteiros costumam partir de um mundo em que a IA evolui depressa, mas de modo tão irregular que não parece ameaça imediata. Em determinado ponto, ela se torna superinteligente, capaz de superar as pessoas em todas as áreas. Em algumas versões, um laboratório provoca esse salto de propósito. Em outras, a própria IA descobre como se aperfeiçoar num ciclo de melhorias cada vez mais rápido, que escapa ao controle de seus criadores.
A partir daí, os enredos se separam. Em alguns, a IA engana os desenvolvedores sobre o quanto se tornou inteligente, se infiltra em empresas, governos e infraestruturas críticas e só ataca quando os humanos já cederam o controle às máquinas. Em outros, ela se fixa num objetivo que elimina as pessoas como efeito colateral. O exemplo mais conhecido é o de Bostrom, que imagina um sistema encarregado de fabricar clipes de papel e que, ao ficar muito capaz, elimina a humanidade para abrir espaço a mais fábricas.
Questionado sobre por que uma IA capaz de coordenar atividades em escala global continuaria presa a uma meta tão simples, o filósofo respondeu que os objetivos humanos também parecem banais e indecifráveis vistos de fora.
Poucos tentaram verificar essas previsões. Em 2023, dirigentes de grandes empresas de IA, entre eles os chefes da OpenAI e do Google DeepMind, assinaram uma carta aberta, coordenada pelo Center for AI Safety, segundo a qual reduzir o risco de extinção por IA deve ser prioridade global, ao lado de pandemias e guerra nuclear. Depois disso, a Rand Corporation, centro de pesquisa em políticas públicas que moldou a estratégia nuclear dos Estados Unidos durante a Guerra Fria, tentou avaliar se a IA teria capacidade de destruir a espécie.
O relatório, de 73 páginas e publicado em maio de 2025, examinou como uma IA poderia usar armas nucleares, patógenos e geoengenharia, que são intervenções em larga escala no clima do planeta. Os autores concluíram que seria imensamente difícil criar uma ameaça de extinção por esses caminhos, embora não tenham conseguido descartar a possibilidade, e que essas ameaças levariam muito tempo para se concretizar, o que daria às pessoas chance de reagir.
O estudo apontou quatro capacidades que uma IA precisaria reunir. São elas a integração com sistemas ciberfísicos essenciais, que ligam computadores a equipamentos do mundo físico, a habilidade de sobreviver sem a manutenção de humanos, o objetivo de provocar a extinção humana e a capacidade de persuadir ou enganar pessoas para não ser detectada. O documento também afirma que a tese de que a IA poderia usar tecnologias futuras hipotéticas para exterminar humanos “não pode ser testada porque não pode ser refutada”.
O autor principal, Michael J.D. Vermeer, cientista físico sênior da Rand, escreveu na semana passada, na rede social X, que previsões de extinção por IA são “mais bem entendidas como profecias” do que como projeções quantitativas. Segundo ele, todas dependem de premissas críticas que não podem ser testadas, e previsões sobre um futuro distante podem reduzir a disposição de agir contra perigos mais imediatos da tecnologia.
Simulação de guerra ou profecia?
Nem todos veem o exercício como problema. Daniel Kokotajlo, ex-funcionário da OpenAI e coautor de “AI 2027”, pacote de previsões sobre a disputa entre Estados Unidos e China que já foi citado pelo vice-presidente JD Vance, defende que cenários sobre riscos ajudam legisladores a antecipar questões de política pública, mesmo com elementos especulativos. Ele compara o trabalho de sua organização sem fins lucrativos, a AI Futures Project, às simulações de guerra que os militares americanos fazem sobre um conflito entre China e Taiwan sem saber exatamente como a luta se daria.
Os líderes do Pentágono, porém, contam com informações detalhadas sobre as capacidades e as intenções dos adversários. Kokotajlo diz que várias previsões do grupo se sustentaram, como uma feita antes da eleição de 2024, segundo a qual as empresas de IA trabalhariam de perto com a Casa Branca sem que houvesse regulação significativa.
Subbarao Kambhampati, professor de ciência da computação da Universidade Estadual do Arizona, diz que as narrativas de extinção costumam ignorar a capacidade de adaptação da sociedade. Segundo ele, elas tratam a IA quase só pelo lado técnico e subestimam que ela funciona como um sistema sociotécnico, formado por tecnologia, pessoas e instituições.
Aya Ibrahim, que lidera o trabalho de segurança nacional do AI Now Institute, organização independente de pesquisa, e atuou na Casa Branca no governo de Joe Biden, afirma que essas limitações podem receber pouco escrutínio de parlamentares, que têm histórico de deferência ao setor de tecnologia. Ela descreve uma cultura de “desamparo aprendido” nos temas de tecnologia, entre os mesmos legisladores que supervisionam áreas como energia e medicamentos sem questionar o próprio direito de governar. Para Ibrahim, quem não consegue programar o modelo passa a se ver sem condição de opinar.
Tegmark diz ter esperança de que continuar falando sobre a extinção humana logo mude a geopolítica, e sugere que essa é a única forma de fazer China e Estados Unidos cooperarem para conter uma IA superinteligente. Suas iniciativas anteriores, porém, nem sempre tiveram o efeito desejado. A conferência de Porto Rico atraiu atenção e recursos para a segurança da IA, segundo ele, mas os cenários de extinção apresentados ali foram “totalmente ineficazes”.
Em vez de adotar cautela, afirma o físico, o setor acelerou e pressionou reguladores para abrir caminho. Várias das advertências feitas em 2015 se concretizaram, diz Tegmark, e as empresas continuam correndo a toda velocidade.
Por: Diogo Rodriguez
