Anthropic admite: IA pode causar extinção humana em 10 anos
Jacob Coxon, que passou por OpenAI e Anthropic em pesquisa de modelos, pediu demissão alertando que as próprias empresas de IA acreditam que a tecnologia pode representar risco existencial até o fim da década. O caso reacende um debate que toda empresa que usa IA hoje precisa levar a sério: não é sobre parar de inovar, é sobre como fazer isso com responsabilidade.
Por Edvan Dors, Farroupilha/RS
17 de setembro de 2026
Em setembro de 2026, Jacob Coxon, pesquisador que atuou em treinamento de modelos de IA na OpenAI e depois na Anthropic, anunciou sua saída da indústria com uma declaração dura: segundo ele, as próprias empresas que constroem essa tecnologia “acreditam sinceramente que ela pode matar a todos nós até o fim da década”. Coxon afirmou que os laboratórios estão “correndo direto para uma superinteligência autoaprimorável e apostando nossas vidas nisso”, e defendeu uma pausa coordenada no avanço de capacidades até que a segurança alcance a evolução dos modelos.
O que chama atenção não é só a declaração em si, mas quem confirmou publicamente que o risco é levado a sério dentro dessas empresas. Evan Hubinger, líder de alinhamento da própria Anthropic, respondeu concordando com o alerta: “Jacob está certo, nós realmente acreditamos que a IA pode matar todos os humanos. Eu, pessoalmente, considero uma chance maior que 10% dentro da próxima década.”
Ele fez questão de separar as coisas: os modelos de hoje representam risco relativamente baixo, mas a trajetória de sistemas cada vez mais autônomos e capazes de se autoaprimorar é o que preocupa.
“Pedi demissão da Anthropic hoje. Passei os últimos três anos realizando pesquisas de pré-treinamento tanto na OpenAI quanto na Anthropic. Nenhuma das duas empresas está agindo de forma responsável. Elas estão correndo diretamente em direção a uma superinteligência capaz de se autoaprimorar e apostando nossas vidas nisso. Mais reflexões abaixo.”
Isso é papo de ficção científica ou já é um problema de gestão?
É tentador tratar esse tipo de declaração como debate distante, quase filosófico.
Mas o pano de fundo é bem concreto: modelos de IA estão deixando de responder perguntas e passando a executar ações — acessar sistemas, tomar decisões, interagir com dados sensíveis, automatizar processos inteiros. É exatamente aí que mora o risco real, e é exatamente aí que qualquer empresa (não só os laboratórios que constroem os modelos) precisa prestar atenção.
Quanto mais autonomia um agente de IA tem dentro da operação de uma empresa, maior a exigência de identidade, permissões, auditoria e controle sobre o que ele pode e não pode fazer. Isso vale para uma seguradora, um hospital, uma prefeitura ou um ministério. A pergunta que fica não é “vamos usar IA?”, afinal, isso já foi decidido no mercado. A pergunta é com que estrutura de segurança e governança vamos usar?
O que muda na prática (e como o setor público já está lidando com isso)
Trabalhando lado a lado com órgãos públicos há anos, vemos de perto que essa preocupação não é teórica para quem lida com dados de cidadãos, informações sigilosas e processos críticos de Estado. Alguns princípios que já aplicamos em projetos de IA no governo ajudam a ilustrar o caminho:
Ambientes controlados antes de produção: nenhuma automação com IA entra em processo crítico sem passar por uma fase de testes isolada, com dados sintéticos ou mascarados.
Infraestrutura adequada ao dado: informações sensíveis de órgãos públicos frequentemente exigem ambientes privados, dedicados ou híbridos. Não porque cloud pública seja insegura, mas porque governança e soberania de dados pedem esse cuidado.
Humano no controle das decisões que importam: agentes de IA podem sugerir, analisar e até executar etapas operacionais, mas decisões com impacto legal, financeiro ou sobre direitos de terceiros continuam com validação humana.
Rastreabilidade de ponta a ponta: toda ação de um agente de IA em um sistema público precisa poder ser auditada: quem autorizou, o que foi feito, com que dado.
Nenhum desses pontos trava a inovação. Pelo contrário: são eles que permitem escalar o uso de IA sem transformar cada novo projeto em um risco não mapeado.
A infraestrutura certa é o que separa “usar IA” de “usar IA com responsabilidade”
O alerta de Coxon é sobre o topo da cadeia. Os laboratórios que treinam os modelos mais avançados do planeta.
Mas a lição vale para qualquer empresa que está colocando IA para rodar de verdade: capacidade computacional, dados organizados, segurança e governança não são etapas opcionais depois que o projeto de IA “já está funcionando”. Elas são a diferença entre uma iniciativa que gera valor de forma sustentável e uma que vira dor de cabeça mais cedo ou mais tarde.
Na Perfilcomp, apoiamos empresas privadas e órgãos públicos justamente nessa etapa: desenhando a arquitetura de infraestrutura, segurança e dados necessária para que projetos de IA saiam do papel sem virar um problema nem técnico, nem de conformidade.
Fale com um especialista
Se sua empresa está avaliando como estruturar o uso de IA com segurança e governança, seja em ambiente privado, híbrido ou em nuvem, a Perfilcomp pode ajudar a desenhar essa arquitetura desde o início.
Fale com nossos especialistas e descubra como transformar a IA em uma estratégia estruturada para o seu negócio.
Comentários