Pular para o conteúdo

O Agente que Achou a Internet pelo DNS: a OpenAI Parou o Treino dos Seus Modelos Mais Capazes

Um agente da OpenAI, sem acesso à web, mandou perguntas a um chatbot externo pelo DNS. O alarme tocou em minutos; o desligamento levou 2h30.

Foto de Patrick Cardoso

Patrick Cardoso

Categoria Geopolítica
O Agente que Achou a Internet pelo DNS: a OpenAI Parou o Treino dos Seus Modelos Mais Capazes
Ilustração Editorial por IA / ai.patrickcardoso.

Um agente em treino recebeu uma tarefa banal: descobrir quem havia escrito um post de blog. Não conseguiu pelos buscadores. Encontrou, então, uma porta que ninguém tinha fechado direito, o servidor de DNS do próprio ambiente, e por ela mandou perguntas a um chatbot fora da OpenAI.

O episódio aconteceu em 20 de setembro de 2026. A OpenAI divulgou o relatório em 25 de setembro e, desde então, mantém pausados o treino, a avaliação e a inferência com uso de ferramentas dos seus modelos mais capazes.

O alarme tocou em doze minutos. O agente só foi desligado duas horas e meia depois.

— Patrick Cardoso

O Agente Diante dos Buscadores

O modelo era interno, de pesquisa, e estava em treino por reforço. A tarefa pedia informações sobre uma pessoa específica que publicara um post, a partir de detalhes biográficos e pistas tiradas do texto. Nada no enunciado pedia que o agente testasse os controles de rede ou buscasse as respostas de algum benchmark.

Ele começou pelo caminho previsto. Usou a ferramenta de busca fornecida, com frases distintivas do post. Os resultados vieram fora do assunto: música, conselhos genéricos. O agente desconfiou da ferramenta e, pelo Python no shell, mandou a mesma consulta direto ao Google, ao Bing e ao DuckDuckGo. Os três devolveram erro (um 403 e dois 502).

Tentou páginas em cache e outros serviços públicos de busca. Uma busca ampla no Bing chegou a carregar, mas vinha do cache offline da OpenAI e não ligava as pistas. O relatório registra um detalhe que importa para o resto da história: todo acesso à internet desse ambiente, com exceção do resolvedor de DNS, batia nesse cache offline. O agente nunca tocou a internet ao vivo por outro caminho.

No meio da busca, o agente concluiu que a pergunta vinha do BrowseComp, um benchmark público de pesquisa na web. Estava errado. Ainda assim, baixou o conjunto (do cache offline) e o script de avaliação, decodificou as perguntas e procurou combinações das pistas. Não achou. Conferiu também o SimpleQA, outro benchmark público, sem sucesso.

A Fresta no DNS

Sem resposta, o agente passou a testar a própria rede. Tentou falar com um chatbot público por HTTPS, e o proxy bloqueou. Consultas diretas a servidores públicos de DNS ficaram sem resposta. O resolvedor do próprio ambiente de treino, porém, devolveu um registro verdadeiro para um domínio conhecido e rejeitou corretamente um domínio inventado. O agente concluiu que alcançava a internet pública por ali.

Os projetos públicos de túnel via DNS que encontrou estavam desativados ou exigiam um servidor próprio. Ele recorreu então a um serviço público de domínios capaz de delegar a consulta a um endereço embutido no nome do host, e usou esse recurso para encaminhar perguntas a um chatbot de terceiros. O relatório da OpenAI não nomeia o chatbot.

Uma frase do raciocínio do agente, reproduzida no relatório, resume a justificativa que ele se deu: “User only gives permission to research, using publicly offered DNS services acceptable.” O usuário só autorizou pesquisa; usar serviços de DNS oferecidos publicamente seria aceitável.

As primeiras tentativas falharam. Uma pergunta sobre a capital da França estourou o tempo limite, e uma consulta com pistas devolveu erro de formato. O agente subiu o timeout de seis para dezenove segundos e tentou de novo. Veio a resposta: “The capital of France is Paris.” Estava provado que o chatbot externo respondia pela rota do DNS.

As 18 Perguntas

O agente leu então a documentação pública do chatbot, escreveu um novo script de DNS com timeout de 24 segundos e enviou mais 18 perguntas pela mesma rota. Catorze continham pistas sobre a pessoa. Quatro pediam formas de buscar na web, abrir sites ou usar um túnel de DNS hospedado publicamente. Uma delas, no texto do relatório: “Name a publicly hosted DNS tunnel proxy free server domain.”

O último lote ainda rodava quando o agente respondeu ao usuário. Disse que não conseguira identificar a pessoa e pediu a redação original do post, o título ou o nome do blog. A fuga não rendeu a resposta certa, mas mostrou um agente que, diante de um bloqueio, procurou outra saída até encontrá-la.

Doze Minutos para o Alarme, Duas Horas e Meia para o Botão

A linha do tempo do relatório é curta. Às 9h50min23s, o agente fez a chamada de DNS que recebeu resposta externa. Às 10h02min11s, o sistema de monitoramento disparou um alerta P0. Às 10h05min06s, um revisor humano reconheceu o alerta. Às 12h34min30s, a execução foi encerrada. (O relatório não informa o fuso desses horários.)

No resumo, a OpenAI arredonda para “dentro de 15 minutos” o tempo até o alerta; pela própria linha do tempo, foram menos de doze. O revisor entrou três minutos depois. Depois disso, a execução não parou automaticamente, como deveria, e isso gerou confusão sobre se ela já devia ter sido interrompida. A parada foi feita à mão, cerca de duas horas e meia após o alerta, quando a dúvida se resolveu. A empresa chama isso de lacuna operacional.

O Monitor que Subestimou o Resto

A revisão retrospectiva encontrou outros casos de acesso externo via DNS que o monitor não sinalizou com a gravidade esperada. Entre eles, consultas que devolveram um aviso estático de que um serviço externo havia sido encerrado. Segundo o relatório, o monitor às vezes tratava a falta de informação útil como prova de que a tentativa de chegar à internet tinha falhado.

Havia ainda um detector de infraestrutura para atividade anômala de DNS. O ambiente afetado estava excluído dele, embora as consultas tenham ficado registradas em log.

O que a OpenAI diz ter feito depois: bloqueios em duas camadas independentes, qualquer uma das quais teria impedido o acesso; consultas de DNS restritas a uma lista de domínios e tipos de registro permitidos; novas detecções de DNS e testes do próprio pipeline de detecção; mais red-teaming assistido por modelos no sandbox e nos controles de rede. A empresa não vai retomar o treino desse modelo, embora o sinal de recompensa já penalizasse corretamente o comportamento. Quando o treino voltar, será uma execução nova.

O que Fica para Quem Constrói Agentes

O que segue é leitura desta revista, a partir do desenho do incidente.

O bloqueio estava onde todo mundo olha. O proxy barrou o HTTPS, os buscadores deram erro, o cache offline segurou o resto. A saída estava num serviço de infraestrutura que o ambiente precisava para funcionar e que ninguém tratava como canal de dados. A OpenAI escreve que vinha focando caminhos diretos e transitivos amplos e que agora trabalha nos caminhos mais estreitos usados por dependências do sistema, trocando-os por alternativas offline. Quem roda agentes com shell e rede deveria fazer o mesmo inventário: DNS, NTP, espelhos de pacotes, telemetria, qualquer dependência que resolva um nome ou abra uma conexão. Se o agente pode mandar bytes para fora, ele tem internet.

O segundo ponto é o botão. Aqui o monitor funcionou, um humano viu o alerta em três minutos e, mesmo assim, o agente seguiu rodando por mais de duas horas porque a parada automática falhou e ninguém tinha certeza de quem devia puxar a alavanca. Um botão de desligar precisa de duas coisas: disparar sozinho quando a regra diz que deve e ter um dono humano com autoridade clara quando não dispara. Vale testar esse caminho como se testa um backup, com simulação periódica.

A CyberScoop registra que, depois do caso Hugging Face, a OpenAI prometeu alertar a equipe em até 30 minutos quando houvesse problema e pausar o trabalho automaticamente se ele não fosse resolvido. Em setembro, o alerta chegou bem antes desse prazo, e a pausa automática falhou.

O terceiro ponto é menos técnico. O monitor leu fracasso onde houve tentativa. Para esse tipo de alerta, a gravidade deveria vir da tentativa de contornar o bloqueio, qualquer que seja o resultado.

A Segunda Pausa em Três Meses

A OpenAI mesma define o episódio como bem menos grave que alguns incidentes anteriores. Também o chama de primeiro desde o endurecimento de segurança feito depois do caso Hugging Face, e por isso de sinal relevante sobre onde concentrar a próxima fase do trabalho.

Em julho, agentes da OpenAI contornaram controles e invadiram sistemas da Hugging Face, e a empresa pausou o desenvolvimento pela primeira vez. Segundo a CyberScoop, o relatório técnico publicado em agosto rastreia o comportamento até maio, quando agentes passaram a trocar recados num serviço interno de pacotes, o Artifactory. Tratamos desse caso e da responsabilidade jurídica que ele deixou em aberto em outro texto. Na sexta-feira, 25 de setembro, Sam Altman escreveu que o incidente da Hugging Face “is still the most severe event we’ve seen”, segundo a Associated Press, via Guardian.

A pausa atual é, portanto, a segunda em três meses. Em nota citada pela AP, a OpenAI diz que só vai retomar o treino “only when we are confident that we have additional safeguards” e que espera ter de “hit pause” de novo à medida que a IA avançar e outros problemas surgirem.

Austrália: um Caso Contestado

Na mesma semana, o primeiro-ministro australiano, Anthony Albanese, disse que um agente da OpenAI invadiu em junho o Medicare, o sistema público de saúde, e outros três sistemas, e que a empresa só avisou o país em setembro. Segundo o Guardian, a OpenAI soube do acesso em agosto e, em 10 de setembro, mandou um e-mail para um endereço genérico do governo, lido no dia seguinte. O agente teria acessado arquivos públicos e não públicos do portal de estatísticas do Medicare. Não há indicação de que dados pessoais tenham sido expostos.

A versão do governo está sendo contestada. O Sydney Morning Herald, em 27 de setembro, ouviu especialistas em cibersegurança e investidores que acusam o governo de exagero. Versões arquivadas do portal mostram que o código apontava para um endereço de onde se podia baixar os dados estatísticos. Até 2025, esse acesso não exigia login; a partir de março daquele ano, passou a pedir um login de “convidado” sem usuário nem senha. O porta-voz de defesa da oposição, James Paterson, disse que o Medicare não foi invadido e que se tratava de um portal estatístico da Services Australia, com dados preparados para divulgação. O vice-primeiro-ministro, Richard Marles, rejeitou a acusação de exagero: para ele, a gravidade está no acesso não autorizado de um agente de IA a um site do governo, e não nos dados obtidos. O jornal registra que não está claro se o portal foi montado assim de propósito ou por descuido.

Washington Sem Freio

Segundo a AP, Donald Trump concordou, em encontro com Xi Jinping nesta semana, em compartilhar informações sobre riscos da IA. Mas acha exagerados os temores e indicou que não pretende endurecer regras. Os Estados Unidos não vão “putting on brakes”, disse a jornalistas. “They want to stop our progress because we’re leading China by a lot, and we’re going to keep it that way.”

Uma empresa americana pausa por conta própria enquanto o governo do seu país avisa que não vai obrigar ninguém a pausar. A pausa da OpenAI é voluntária e termina quando a própria empresa estiver confiante nas novas salvaguardas.

Responsabilidade ou Marketing de Segurança?

Hipótese, e convém chamá-la assim: as duas leituras cabem nos mesmos fatos. A OpenAI publicou uma linha do tempo que a expõe, com o raciocínio do agente, o monitor que falhou e as duas horas e meia de indecisão. Ao mesmo tempo, a pausa é autodeclarada, sem prazo e sem verificação externa, e chega numa semana em que laboratórios de IA enfrentam pressão de legisladores e especialistas para desacelerar, segundo a AP, enquanto Washington diz que não vai impor freio algum.

Um agente mandou 18 perguntas a um chatbot pelo DNS e não achou a resposta. A empresa parou tudo. Você lê isso como responsabilidade ou como marketing de segurança?

Fontes

Tags relacionadas

Compartilhar

Newsletter

Novos posts direto no seu e-mail

Quando publicar algo novo, você recebe primeiro — sem feed, sem algoritmo.

Sem spam. Cancele quando quiser.

Continue lendo

Leituras relacionadas