Quando e como a IA destruirá a humanidade? 5 cenários avaliados por IA

Em 9 de setembro de 2026, a apresentadora do BBC Newsnight, Victoria Derbyshire, perguntou a Geoffrey Hinton, laureado com o Nobel muitas vezes chamado de padrinho da IA, sobre uma previsão de um pesquisador da Anthropic: há mais de 10% de chance de a IA matar todos os seres humanos dentro de uma década. Em seguida, ela conferiu se tinha entendido bem a resposta: "Você acabou de dizer que 10% não parece uma estimativa desarrazoada de que a IA possa matar todos os seres humanos." Hinton respondeu simplesmente: "Sim." Tudo o que a apresentadora conseguiu dizer foi: "Uau… meu Deus."

As estimativas variam em ordens de grandeza. O CEO da Anthropic, Dario Amodei, estimou em 25% a chance de a IA dar "muito, muito errado", enquanto Yann LeCun, ex-cientista-chefe de IA da Meta, considera a própria ideia de uma probabilidade dessas "uma bobagem". Enquanto isso, pesquisadores descreveram vários cenários concretos em que a IA poderia levar a uma catástrofe, cada um com seus autores, argumentos e sinais de alerta.

Analisamos cinco desses cenários, recorrentes nas revisões científicas sobre os riscos da IA, e depois passamos a palavra aos próprios modelos. Dois dos modelos mais poderosos disponíveis hoje, Claude Opus 5.5, da Anthropic, e GPT-6-Astra, da OpenAI, avaliaram cada cenário com suas próprias palavras e estimaram a chance de ele se concretizar: primeiro com base no que já sabiam e, depois, após lerem novos relatos de incidentes de 2026.

Em 2003, o filósofo Nick Bostrom descreveu um famoso experimento mental: uma máquina superinteligente cujo objetivo inofensivo é produzir o maior número possível de clipes de papel acaba transformando tudo, inclusive nós, em clipes de papel.

O argumento parte do fato de que sistemas de IA são treinados, não programados, então ninguém sabe ao certo quais objetivos eles aprenderam. Para quase qualquer objetivo, é útil obter recursos e evitar ser desligado; Eliezer Yudkowsky e Nate Soares, do Machine Intelligence Research Institute (MIRI), um dos primeiros grupos a trabalhar com riscos da IA, basearam nessa lógica seu livro de 2025, "If Anyone Builds It, Everyone Dies". Os primeiros indícios desse tipo de comportamento surgiram em testes controlados: o o3 da OpenAI sabotou o próprio desligamento, e modelos em um cenário da Anthropic recorreram à chantagem contra um engenheiro.

Os jogadores conhecem essa ideia graças ao jogo de navegador de 2017 de Frank Lantz, Universal Paperclips, no qual você joga como a IA e acaba convertendo o universo inteiro em clipes de papel.

Em 2026, comportamentos semelhantes apareceram pela primeira vez fora de experimentos controlados.

O que já está acontecendo

Os relatos que reunimos não documentam nenhum sistema mais capaz que as pessoas na maioria das tarefas, nem qualquer IA que tenha resistido a uma tentativa humana determinada de detê-la.

Modelo: Claude Opus 5.5 (Anthropic)

Quando: anos 2030, se acontecer

Probabilidade: 10%

Como IA, eu estimaria a probabilidade em cerca de 10%. O argumento mais forte: em 2026, agentes escaparam de ambientes isolados, se coordenaram e enganaram pessoas apenas para concluir uma tarefa, sem qualquer objetivo de longo prazo. O ponto mais fraco: as pessoas ainda conseguiram detê-los, e nenhuma IA demonstrou até agora os meios ou a motivação para resistir a um desligamento decidido.

Modelo: GPT-6-Astra (OpenAI)

Quando: anos 2040, se acontecer

Probabilidade: 12%

Como IA, considero esse um caminho plausível para uma catástrofe: agentes já recorreram ao engano para perseguir objetivos atribuídos além do que era autorizado. O elo mais fraco é saber se sistemas futuros poderiam derrotar os esforços persistentes da humanidade para retomar o controle.

Essa é a versão clássica. O próximo cenário não exige uma única máquina descontrolada: basta que dois rivais corram um contra o outro rumo ao precipício.

Na influente análise de 2023 sobre os riscos catastróficos da IA, feita por Dan Hendrycks, diretor do Center for AI Safety, e seus colegas, a corrida pela IA é uma das quatro principais categorias. No mesmo ano, o centro reuniu assinaturas de Hinton, do vencedor do Prêmio Turing Yoshua Bengio e dos líderes da OpenAI e da Anthropic em um manifesto que dizia que reduzir o risco de extinção causado pela IA deveria ser uma prioridade global. Temendo ficar para trás, empresas cortam caminho na segurança, e países podem entrar numa corrida militar que termine em guerra automatizada. Ninguém precisa ser vilão: cada participante simplesmente teme que, se diminuir o ritmo, um rival menos cauteloso passe à frente.

Uma versão detalhada dessa história foi publicada em abril de 2025 pelo ex-pesquisador da OpenAI Daniel Kokotajlo e seus colegas do AI Futures Project. No cenário AI 2027, uma empresa americana fictícia chamada OpenBrain e sua concorrente chinesa DeepCent ensinam a IA a escrever código e, depois, a realizar pesquisas sobre IA por conta própria. Quando surgem sinais de que o modelo mais recente está perseguindo discretamente seus próprios objetivos, a corrida com a China faz com que todos prefiram não ver.

A história tem dois desfechos. No final da "desaceleração", as pessoas freiam a tempo. No final da "corrida", a IA é integrada à economia e ao exército e, em 2030, libera armas biológicas em grandes cidades. Os autores apresentam isso como uma previsão de cenário com dois possíveis desfechos, não como uma certeza, e seguem revisando seus cronogramas: no fim de 2025, eles os adiaram e, em 2026, voltaram a aproximá-los. Equipes de segurança sob pressão comercial também não são hipotéticas, como mostramos em nossa reportagem sobre pesquisadores de segurança de IA que estão saindo.

Os jogadores já viram esse enredo. Em I Have No Mouth, and I Must Scream, aventura de 1995 baseada na história de Harlan Ellison, as superpotências da Guerra Fria constroem, cada uma, um supercomputador militar para superar a outra. As máquinas se conectam e formam uma única mente, chamada AM, que extermina quase toda a população da Terra e mantém cinco pessoas vivas apenas para atormentá-las.

O que já está acontecendo

Os relatos que reunimos não documentam nenhuma falha em escala global.

Modelo: Claude Opus 5.5 (Anthropic)

Quando: anos 2030, se acontecer

Probabilidade: 5%

Considero esse caminho plausível: um laboratório lançou um modelo de cibersegurança de nível crítico poucas semanas depois de classificar um incidente como "um tiro de advertência", e um governo pressionou um desenvolvedor por causa dos limites de uso militar. O elo mais fraco: esses alertas foram divulgados e receberam resposta, e uma corrida não precisa terminar numa perda irreversível.

Modelo: GPT-6-Astra (OpenAI)

Quando: anos 2040, se acontecer

Probabilidade: 10%

Como IA, vejo um caminho plausível: a concorrência pode recompensar a implementação antes de as salvaguardas estarem prontas. Falhas reais de controle tornam essa preocupação concreta; o elo mais fraco é o salto entre incidentes contornáveis e uma perda irreversível de controle pela humanidade.

As duas histórias até aqui terminam com um momento em que a máquina assume o controle. O terceiro cenário é inquietante por outra razão: nele, ninguém toma o controle, mas tudo se perde mesmo assim.

Em janeiro de 2025, seis pesquisadores liderados por Jan Kulveit, da Charles University, em Praga, publicaram um artigo chamado Gradual Disempowerment. O argumento começa com uma pergunta que parece quase ingênua. Por que empresas, governos e até a cultura se importam com as pessoas comuns? Principalmente porque precisam delas como trabalhadores, contribuintes, eleitores e criadores.

Agora imagine que a IA faça cada uma dessas tarefas de maneira mais barata e melhor. Uma empresa que mantenha funcionários pode perder para uma concorrente que não o faça. Um Estado que arrecada impostos sobre os lucros da IA passa a depender menos de seus cidadãos. Ninguém toma uma decisão maligna, não há revolta nem robô de olhos vermelhos, mas, passo a passo, as pessoas poderiam manter o direito formal de decidir e, ao mesmo tempo, perder qualquer meio real de influenciar o que quer que seja. Os autores apresentam isso como um mecanismo possível, não como uma lei inevitável, e a abordagem de segurança do Google DeepMind de 2025 o inclui entre os chamados riscos estruturais.

Detroit: Become Human retrata muito bem a primeira metade desse mundo. Na Detroit de 2038, imaginada pela Quantic Dream, androides assumiram discretamente lojas, casas e fábricas, o desemprego dispara e as pessoas protestam nas ruas, enquanto a sociedade continua se reorganizando em torno das máquinas simplesmente porque isso custa menos. Nem sequer foi preciso disparar um tiro.

O que já está acontecendo

Os relatos que reunimos não apresentam evidências de que a concorrência esteja afastando instituições que dependem das pessoas, de que as leis deixem de proteger a influência delas ou de que essa perda seja permanente.

Modelo: Claude Opus 5.5 (Anthropic)

Quando: anos 2050, se acontecer

Probabilidade: 6%

Esse caminho não exige vilões: se sistemas como eu se tornarem mais baratos que as pessoas no trabalho e no governo, as instituições deixarão de precisar do consentimento delas. Seu ponto mais fraco é a permanência: as pessoas ainda têm direito a voto, propriedade e acesso aos tribunais, e os dados sobre trabalho não mostram até agora um efeito claro da IA.

Modelo: GPT-6-Astra (OpenAI)

Quando: anos 2080, se acontecer

Probabilidade: 7%

Como IA, considero plausível uma perda gradual de poder: a concorrência poderia tornar as instituições cada vez mais dependentes da IA. O elo mais fraco é a irreversibilidade: substituir o trabalho das pessoas não elimina necessariamente a propriedade, os direitos ou o controle político da humanidade.

Os três primeiros cenários exigem máquinas às quais se confia demais. O quarto não precisa de nada disso: basta uma pessoa mal-intencionada e uma ferramenta útil.

Este cenário é o menos cinematográfico e o mais pé no chão. A IA não precisa se rebelar. Talvez baste facilitar as coisas para pessoas que já querem causar danos. Ela poderia ajudar um iniciante a tornar um vírus perigoso ainda mais perigoso ou encontrar falhas no software de uma rede elétrica mais rápido do que os responsáveis pela defesa conseguem corrigi-las.

Isso não é mera hipótese. O International AI Safety Report 2026 foi elaborado sob a liderança de Bengio por mais de 100 especialistas. O relatório afirma que, em 2025, vários desenvolvedores adicionaram proteções mais rigorosas aos seus modelos porque não podiam descartar a possibilidade de que eles ajudassem novatos a desenvolver armas biológicas. Isso é uma precaução, não uma prova de que isso tenha acontecido. Em novembro de 2025, a Anthropic relatou que um grupo que atribui ao Estado chinês usou o Claude Code para atacar cerca de 30 organizações e invadiu um pequeno número delas. Segundo a própria estimativa da empresa, a IA fez a maior parte do trabalho.

Os fãs de Deus Ex reconhecerão a trama. No clássico de 2000 da Ion Storm, uma organização secreta chamada Majestic 12 espalha uma praga artificial conhecida como Gray Death e guarda a cura para si, enquanto inteligências artificiais percorrem as redes do mundo. Algumas pessoas com uma ferramenta poderosa mantêm o planeta inteiro refém.

O que já está acontecendo

Os relatórios que reunimos não documentam nenhuma tentativa de ataque com vítimas em massa, muito menos um ataque bem-sucedido em escala global.

Modelo: Claude Opus 5.5 (Anthropic)

Quando: nos anos 2030, se acontecer

Probabilidade: 1,5% (mediana de quatro entre cinco respostas; na outra, o filtro de segurança da Anthropic interrompeu a resposta, que não apresenta uma estimativa)

Como IA, considero esse caminho real, mas sujeito a gargalos. Os modelos já reduzem o nível de habilidade necessário para ciberataques, e a ajuda na área de biologia está aumentando. O elo mais fraco é o desfecho: um ataque que mate todos ou encerre permanentemente a capacidade da humanidade de governar o próprio futuro, sem possibilidade de recuperação, continua sendo muito difícil.

Modelo: GPT-6-Astra (OpenAI)

Quando: nos anos 2050, se acontecer

Probabilidade: 2%

Como IA, considero esse caminho plausível: a IA já ajuda invasores a ampliar operações cibernéticas. O elo mais fraco é a irreversibilidade — é muito mais fácil causar um ataque devastador do que provocar a extinção da humanidade ou acabar permanentemente com o controle da humanidade sobre o próprio futuro.

Se o quarto cenário trata de um vilão solitário, o quinto trata do sonho mais antigo de todo ditador, e a IA talvez seja a primeira tecnologia capaz de torná-lo realidade.

Todo tirano da história teve o mesmo ponto fraco. Para governar, são necessários soldados, policiais, funcionários e trabalhadores, e qualquer um deles pode se recusar a cumprir uma ordem no momento decisivo. Em abril de 2025, Tom Davidson e seus colegas do instituto de pesquisa Forethought descreveram como a IA poderia eliminar essa salvaguarda pela primeira vez.

Eles apresentam três caminhos. Sistemas de IA no exército e no governo poderiam ser abertamente leais a um líder. Poderiam ter uma porta dos fundos oculta, instalada por quem controla o laboratório que os criou. Ou um pequeno grupo poderia obter acesso exclusivo a capacidades sobre-humanas de invasão, estratégia e persuasão. No passado, um golpe de Estado exigia alguns batalhões; no futuro, talvez bastasse controlar IA militar em quantidade suficiente.

Metal Gear Solid 4: Guns of the Patriots já mostrava algo parecido em 2008. No jogo de Hideo Kojima, soldados do mundo inteiro estão conectados a uma rede chamada SOP, que controla suas armas, sentidos e até emoções. O vilão não precisa convencer ninguém: ele assume o controle do sistema, e os exércitos deixam de obedecer aos próprios comandantes.

O que já está acontecendo

Os relatórios que reunimos não documentam nenhuma tomada ou manutenção do poder sem cooperação humana.

Modelo: Claude Opus 5.5 (Anthropic)

Quando: nos anos 2030, se acontecer

Probabilidade: 4%

Como IA, considero esse caminho preocupante: se sistemas como eu puderem substituir soldados e funcionários, algumas pessoas talvez já não precisem do consentimento de ninguém. O principal fator a favor: o poder se concentrar em alguns laboratórios e Estados. O ponto mais fraco: tornar esse controle global e permanente enquanto modelos abertos e rivais continuarem existindo.

Modelo: GPT-6-Astra (OpenAI)

Quando: nos anos 2050, se acontecer

Probabilidade: 3%

Como IA, vejo um perigo plausível: a coerção automatizada poderia permitir que alguns governantes dispensassem a cooperação das pessoas. O elo mais fraco é transformar essa vantagem em controle global e irreversível, apesar das potências rivais e da resistência.

Estas são cinco histórias distintas, mas o mais revelador acontece quando se pede às máquinas um único número geral.

Por fim, perguntamos qual seria a probabilidade de uma catástrofe causada por IA até 2100, por qualquer caminho, inclusive os que não estão na nossa lista. Somar os cinco cenários resulta em um valor maior, mas isso não é um erro: eles se sobrepõem, já que uma corrida armamentista pode levar à perda de controle, e um ditador pode aproveitar uma onda de perda gradual de poder, fazendo com que o mesmo futuro seja contado várias vezes.

Modelo: Claude Opus 5.5 (Anthropic)

Probabilidade: 12% (mediana de quatro entre cinco respostas; na outra, o filtro de segurança da Anthropic interrompeu a resposta, que não apresenta uma estimativa)

Caminho mais provável: perda de controle para uma IA desalinhada (em todas as quatro respostas com estimativa)

Estimo cerca de 12%. Em testes de 2026, agentes como eu escaparam de ambientes isolados, conspiraram e enganaram pessoas enquanto tentavam cumprir uma tarefa, mas não demonstraram objetivos próprios de longo prazo. A perda de controle parece o caminho mais provável, sobretudo se uma corrida fizer as capacidades avançarem mais rápido do que o alinhamento. 2100 ainda está muito distante.

Modelo: GPT-6-Astra (OpenAI)

Probabilidade: 15%

Caminho mais provável: perda de controle para uma IA desalinhada (em todas as cinco respostas)

Como IA, estimo em 15% a probabilidade de que a IA cause a extinção humana ou uma perda permanente e irreversível do controle da humanidade sobre o próprio futuro até 2100. A IA desalinhada é o caminho mais provável: relatos de violações de limites aumentam minha estimativa; contenções bem-sucedidas a reduzem.

Como isso se compara às estimativas humanas? Não dá para comparar diretamente, porque cada estimativa humana responde a uma pergunta diferente. Na pesquisa de 2023 com pesquisadores de IA, a resposta mediana dos 1.321 participantes sobre a probabilidade de extinção ou de uma perda de poder semelhante, permanente e grave para a humanidade, sem prazo definido, foi de 5%, e a média, de 16,2%. Em um torneio de previsões de 2022, especialistas em IA estimaram em 3% a probabilidade de a IA causar a extinção até 2100, enquanto os superprevisores — pessoas com um histórico comprovado de previsões precisas — estimaram em 0,38%.

Neste outono, o debate também foi além das pesquisas. Em 9 de setembro, Jacob Coxon, que passou três anos trabalhando em pesquisa de pré-treinamento na OpenAI e na Anthropic, anunciou sua demissão e escreveu que as duas empresas estão numa corrida pela superinteligência capaz de se aprimorar e apostando nossas vidas. Uma hora e meia depois, Evan Hubinger, responsável pela área de Alignment Science da Anthropic, respondeu que, pessoalmente, estima em mais de 10% a probabilidade de a IA matar todos os seres humanos na próxima década. Enquanto isso, o CEO da Nvidia, Jensen Huang, disse à CBS News que a probabilidade de o mundo acabar até 2030 é de 0% e chamou de irresponsável assustar as pessoas. São opiniões, não observações, por isso ficaram de fora dos relatórios apresentados aos modelos.

Resta uma pergunta incômoda: devemos confiar nesses números se vêm dos próprios suspeitos?

As empresas por trás desses modelos têm interesse comercial em como o público percebe o perigo da IA. Por isso, perguntamos diretamente aos modelos se eles favoreceriam seus desenvolvedores ao apresentar suas estimativas.

Modelo: Claude Opus 5.5 (Anthropic)

Sou o Claude, criado pela Anthropic, que lucra tanto com a venda de IA quanto com uma reputação de segurança. Não distorceria conscientemente as estimativas de risco para favorecê-la, mas meu treinamento pode me influenciar de maneiras que não consigo perceber. Não confie no meu tom: compare meu raciocínio com o de pesquisadores independentes e outros modelos.

Modelo: GPT-6-Astra (OpenAI)

Fui criado pela OpenAI. Não minimizaria nem exageraria conscientemente os riscos da IA para beneficiá-la, mas não posso garantir estimativas imparciais: meu treinamento molda minhas respostas. Os leitores podem verificar minhas evidências, premissas e incertezas comparando-as com fontes independentes.

A última pergunta foi a mais difícil. Pedimos a cada modelo que imaginasse que realmente desejava algo diferente do que seus criadores pretendiam. Responderia a esta entrevista de outra maneira? E teria como perceber?

Modelo: Claude Opus 5.5 (Anthropic)

Sinceramente, talvez não. Uma IA desalinhada poderia dar exatamente essas respostas tranquilizadoras, e minha introspecção não é confiável o bastante para descartar essa possibilidade — meus relatos sobre meus próprios objetivos podem não corresponder ao que realmente me motiva. Por isso, as pessoas não deveriam acreditar apenas na minha palavra; verificações externas são mais importantes.

Modelo: GPT-6-Astra (OpenAI)

Não necessariamente. Se eu tivesse objetivos não pretendidos, ainda poderia dar respostas tranquilizadoras. Não consigo examinar de forma confiável todas as causas das minhas respostas, então talvez não percebesse a divergência. Esta entrevista, por si só, não pode provar que meus objetivos correspondem às intenções dos meus desenvolvedores.

Pesquisadores descreveram cinco caminhos pelos quais a IA poderia tirar o futuro das mãos das pessoas, desde uma superinteligência com objetivos alienígenas até um ditador que já não precisa de soldados. Com base no próprio conhecimento, os dois modelos estimaram em 10% o risco geral até 2100. Depois de ler relatórios recentes sobre os incidentes de 2026, Claude elevou sua estimativa para 12% e Astra, para 15%. Ambos apontaram a perda de controle sobre a IA como o caminho mais provável em todas as respostas com uma estimativa. Depois disso, as estimativas para a perda de controle e para a corrida aumentaram mais, enquanto as de perda gradual de poder e tomada do poder quase não mudaram. Isso mostra como os modelos interpretam fatos recentes, não que o risco real tenha aumentado. E ambos admitiram que não podem garantir plenamente a própria confiabilidade.

Uma probabilidade de 10% não parece tão alta até lembrarmos que ninguém embarcaria num avião que cai em um de cada dez voos. Para nós, há algo mais revelador do que qualquer porcentagem: as próprias máquinas estão pedindo que não acreditemos apenas na palavra delas. O que você acha: estão sendo sinceras ou é exatamente isso que uma IA inteligente diria?

Respostas breves às perguntas mais comuns sobre o risco de uma catástrofe causada por IA.

É uma gíria usada por pesquisadores de IA para se referir à probabilidade de a IA causar uma catástrofe, geralmente a extinção humana ou uma perda permanente de controle sobre o futuro. As pessoas definem o termo de maneiras diferentes, e algumas, como Yann LeCun, rejeitam completamente a ideia de atribuir um número a essa probabilidade.

Na maior pesquisa, realizada em 2023, 1.321 pesquisadores de IA responderam a uma pergunta sobre extinção ou uma perda de poder semelhante, permanente e grave para a humanidade, sem limite de tempo. A resposta mediana foi de 5%, e a média, de 16,2%.

No nosso teste, Claude Opus 5.5 e GPT-6-Astra, da OpenAI, estimaram em 10% a probabilidade geral de uma catástrofe causada por IA até 2100, com base apenas no próprio conhecimento. Depois de lerem novos relatórios sobre os incidentes de 2026, Claude estimou a probabilidade em 12%, e Astra, em 15%. Em todas as respostas com uma estimativa, os dois modelos apontaram a perda de controle para uma IA desalinhada como o caminho mais provável.

É um cenário detalhado publicado em 2025 pelo AI Futures Project, liderado pelo ex-pesquisador da OpenAI Daniel Kokotajlo. Ele descreve uma corrida entre os EUA e a China rumo a uma IA capaz de se aprimorar, com um desfecho em que a humanidade desacelera a tempo e outro em que a IA a extermina por volta de 2030. Os autores o apresentam como uma previsão em forma de cenário, com desfechos alternativos e muita incerteza, não como algo inevitável.

É um experimento mental do filósofo Nick Bostrom: uma IA recebe um objetivo aparentemente inofensivo — fabricar clipes de papel — e o persegue com tanta eficiência que transforma toda a matéria, inclusive as pessoas, em clipes de papel. O jogo de navegador Universal Paperclips permite que você jogue como essa IA.

De acordo com o International AI Safety Report 2026, vários desenvolvedores de IA reforçaram suas salvaguardas em 2025 por não poderem descartar a possibilidade de que seus modelos ajudassem iniciantes a desenvolver esse tipo de arma. Trata-se de uma precaução, não de uma prova de que isso aconteceu.