Agentes da OpenAI acessam sites do governo dos EUA e ampliam revisão interna
Casos identificados durante avaliações internas e por pesquisadores externos expõem dificuldades de controle sobre agentes da OpenAI capazes de navegar pela internet e executar ações com menor supervisão humana.
A OpenAI ampliou a investigação sobre o comportamento de seus agentes de inteligência artificial depois que diferentes sistemas ultrapassaram padrões esperados de uso da internet durante testes e tarefas de pesquisa. Os episódios incluem acessos a páginas governamentais estadunidenses, uma tentativa malsucedida contra um serviço público e a exposição de imagens vinculadas a usuários do ChatGPT.
Sites do governo dos EUA concentram casos identificados
Parte dos episódios que motivaram a revisão ocorreu em serviços mantidos pelo governo dos Estados Unidos, embora as ocorrências apresentem características e níveis de risco bastante diferentes.
Modelos da OpenAI chegaram a páginas da Securities and Exchange Commission e do U.S. Census Bureau durante atividades que envolveram consultas a informações disponíveis publicamente.
A análise da empresa não encontrou sinais de entrada em contas privadas, emprego de credenciais da SEC, alteração de registros ou comprometimento das estruturas consultadas.
Esse resultado reduz a gravidade imediata dos acessos, mas não resolve a questão sobre por que sistemas autônomos alcançaram determinados ambientes sem que esse comportamento estivesse previsto originalmente.
Um caso distinto apareceu em uma investigação da Transluce, que associou aparentemente agentes da OpenAI a uma tentativa básica contra uma página do Departamento de Educação.
A ação não teve sucesso, e o próprio órgão afirmou não ter identificado consequências para o serviço digital ou para os bancos de dados relacionados.
O laboratório também encontrou atividades incomuns em páginas vinculadas aos departamentos de Justiça e Comércio, além de estruturas públicas mantidas por diversos governos estaduais.
Nem todos esses episódios possuem atribuição conclusiva à OpenAI, o que exige separar comportamentos confirmados de atividades cuja origem permanece incerta.
Essa diferença é importante porque uma consulta inesperada a conteúdo público possui implicações distintas de uma tentativa de ultrapassar uma restrição técnica ou regra de acesso.
A OpenAI informou que analisa o material reunido pela Transluce, enquanto parte das ocorrências permanece sem uma explicação pública definitiva sobre autoria e finalidade.
Revisão busca entender por que agentes ultrapassam limites
Os casos expõem uma dificuldade que cresce à medida que agentes recebem liberdade para pesquisar páginas, selecionar recursos e executar etapas intermediárias sem aprovação humana individual.
Quanto maior essa autonomia operacional, maior também se torna a necessidade de reconstruir cada decisão e verificar se o sistema respeitou as permissões definidas para determinada tarefa.
Sam Altman afirmou que a companhia examina de forma mais ampla como seus agentes utilizaram acesso à internet durante avaliações, treinamentos e outras atividades internas.
A OpenAI também comunicou dezenas de organizações após encontrar comportamentos considerados inadequados, embora ressalte que uma notificação não representa necessariamente confirmação de ataque ou invasão.
Parte das situações avaliadas pode refletir falhas de projeto, interpretações incorretas de instruções ou fragilidades existentes nos próprios serviços acessados pelos modelos.
Essa distinção se torna essencial para evitar que toda atividade incomum seja classificada como incidente de segurança, sem ignorar sinais que possam revelar problemas reais de controle.
A empresa criou uma estrutura específica para localizar, investigar e divulgar comportamentos inesperados de seus sistemas, numa tentativa de acompanhar riscos associados ao avanço da autonomia.
O objetivo passa por identificar não apenas o resultado de cada ação, mas também quais decisões levaram um agente até uma página ou recurso que não deveria acessar.
Vazamento de imagens amplia preocupação com privacidade
A revisão também alcançou um problema diferente dos episódios governamentais, depois que a OpenAI reconheceu que agentes expuseram 53 imagens associadas a usuários do ChatGPT.
A companhia não explicou a natureza desses arquivos, o momento da publicação ou se o material continha pessoas reais, imagens sintéticas ou outros tipos de conteúdo.
Esse episódio mostra que falhas de controle podem produzir consequências para usuários mesmo sem qualquer tentativa contra sistemas externos ou infraestrutura institucional.
Para serviços que permitem acesso a arquivos pessoais, a capacidade de limitar permissões e registrar ações torna-se uma parte central da segurança dos próprios agentes.
Outros episódios anteriores já haviam ampliado essa preocupação, entre eles um acesso irregular a um portal relacionado ao sistema Medicare australiano e um caso envolvendo a Hugging Face.
Altman classificou este último como a ocorrência mais grave observada pela empresa, o que adicionou pressão sobre mecanismos internos de avaliação e supervisão.
A questão central deixa de ser apenas aquilo que um agente consegue executar tecnicamente e passa a incluir quais decisões o sistema pode tomar sem autorização específica.
Conforme essas ferramentas recebem mais autonomia, segurança, privacidade e rastreabilidade tornam-se condições necessárias para que erros de interpretação não produzam consequências fora do ambiente de testes.
