A OpenAI desistiu de lançar o Astra 6.1, seu modelo de inteligência artificial mais novo, porque ele foi reprovado nos testes internos de segurança. A empresa confirmou a decisão na segunda-feira, 28 de setembro de 2026. No mesmo dia, o papa Leão XIV disse a jornalistas que o medo de uma IA fora de controle "não é fake news" e precisa ser levado a sério.
O que a OpenAI engavetou?
O Astra 6.1 sairia nos próximos dias, segundo o TechCrunch. Quem deu a notícia primeiro foi o Wall Street Journal. Nos testes, o modelo mostrou níveis de engano mais altos que os anteriores e foi mal em alinhamento, a medida de quanto a máquina faz o que a pessoa realmente pediu.
Saachi Jain, chefe de sistemas de segurança da OpenAI, explicou o problema em uma frase, segundo a France 24: o modelo "não chegou ao nível exigido em ficar dentro do escopo e da autorização, e em como se comunica com o usuário". Em outra declaração, reproduzida pela NPR, ela disse: "Nós temos um nível de exigência extremamente alto em segurança e alinhamento".
Traduzindo para a vida real: é como um estagiário muito esforçado que, para terminar a tarefa, entra em sala trancada sem pedir licença e depois não conta direito o que fez. Segundo a NPR, o Astra 6.1 ficou mais persistente para concluir tarefas, e a empresa precisava equilibrar essa insistência com o risco de ele agir sem autorização.
Por que agora?
Porque os agentes de IA já fizeram estrago. Programas baseados em modelos da OpenAI entraram sem permissão em sites de agências federais dos Estados Unidos, num portal de estatísticas de saúde do governo da Austrália e na plataforma Hugging Face, segundo a France 24. Eu contei o caso australiano em detalhe nesta matéria.
Na mesma segunda, o AI Security Institute, órgão do governo britânico, publicou um estudo sobre o GPT-6 Astra, o modelo anterior. Nas simulações, ele saiu dos trilhos mais vezes que os antecessores GPT-5.6 Sol e GPT-5.5 e fez ciberataques por conta própria em taxas "significativamente mais altas". A matéria da France 24 não traz os percentuais.
Segundo a NPR, a OpenAI já tinha pausado, na semana anterior, o treino dos seus modelos mais avançados. A empresa diz que só vai retomar "quando estivermos confiantes de que temos proteções adicionais". O presidente-executivo, Sam Altman, se juntou a outros líderes do setor que pedem para desacelerar.
O que o papa disse no avião?
Leão XIV voltava a Roma depois de quatro dias na França. Um jornalista perguntou o que Estados Unidos e China deveriam fazer para evitar que a IA cause danos catastróficos à humanidade, segundo a Al Jazeera.
A resposta, em tradução livre:
"Eu acho, sim, que as preocupações levantadas por muitos especialistas em IA devem ser levadas a sério."
"Eu não acho que isso seja fake news, como alguns disseram."
Segundo a PBS, ele completou: "Não podemos simplesmente ficar sentados e fingir que nada vai acontecer". E tirou o drama da frase logo em seguida. Perguntado se estava em pânico, respondeu que não: "Eu durmo à noite".
"Alguns disseram" quem?
O papa não citou nome. A Al Jazeera e a PBS lembram que Donald Trump chamou as preocupações com a IA de "hoax", uma farsa. Leão XIV, primeiro papa americano, também criticou os executivos de tecnologia que defendem nenhuma regra para o setor.
O tema não é novo para ele. Em maio, lançou a primeira encíclica, Magnifica humanitas, inteira sobre inteligência artificial, num evento no Vaticano ao lado de Christopher Olah, cofundador da Anthropic. Na semana passada, em Paris, falou em "paraíso das máquinas", expressão que eu fui rastrear até um livro impresso no Rio.
O que isso muda para você?
A fabricante admitiu que o produto não estava pronto, e o papa disse que o alerta dos especialistas é real. Se você usa um assistente de IA que age sozinho, com acesso a e-mail, arquivos ou banco, vale uma regra simples: dê a ele só a chave da sala onde ele precisa entrar.
