{"id":60319,"date":"2026-09-28T12:00:00","date_gmt":"2026-09-28T15:00:00","guid":{"rendered":"https:\/\/www.solucoesindustriais.com.br\/news\/?p=60319"},"modified":"2026-09-28T13:50:48","modified_gmt":"2026-09-28T16:50:48","slug":"ferramentas-para-conter-agentes-de-ia","status":"publish","type":"post","link":"https:\/\/www.solucoesindustriais.com.br\/news\/tecnologia-e-inovacoes\/ferramentas-para-conter-agentes-de-ia\/","title":{"rendered":"Nvidia cria novas ferramentas para conter agentes de IA"},"content":{"rendered":"
\n

As novas ferramentas para conter agentes de IA da Nvidia foram desenvolvidas para acompanhar sistemas aut\u00f4nomos durante testes, avalia\u00e7\u00f5es e aplica\u00e7\u00f5es com diferentes n\u00edveis de acesso.<\/h3>\n\n\n\n

A seguran\u00e7a de agentes de intelig\u00eancia artificial come\u00e7a a migrar do campo exclusivo das instru\u00e7\u00f5es de software para uma abordagem mais pr\u00f3xima da engenharia tradicional de sistemas cr\u00edticos. Com novas ferramentas de conten\u00e7\u00e3o, a Nvidia procura garantir que determinadas a\u00e7\u00f5es permane\u00e7am tecnicamente imposs\u00edveis mesmo quando um modelo encontra caminhos inesperados para cumprir determinada tarefa.<\/p>\n\n\n\n

Nvidia transfere parte do controle para fora do agente<\/h2>\n\n\n\n

Essa estrat\u00e9gia parte de um princ\u00edpio semelhante \u00e0 defesa em profundidade da ciberseguran\u00e7a, na qual nenhuma barreira isolada recebe responsabilidade suficiente para proteger todo o ambiente. <\/p>\n\n\n\n

Em vez de pressupor que o agente sempre respeitar\u00e1 comandos, a arquitetura acrescenta mecanismos externos capazes de limitar recursos dispon\u00edveis e reagir quando o comportamento foge das permiss\u00f5es estabelecidas.<\/p>\n\n\n\n

O Sentry representa a camada de interven\u00e7\u00e3o mais direta dessa proposta, porque pode interromper a atividade de um agente ap\u00f3s identificar ind\u00edcios compat\u00edveis com uma tentativa de evas\u00e3o. <\/p>\n\n\n\n

Para preservar essa independ\u00eancia, a ferramenta conta com um componente de hardware separado da Nvidia, o que dificulta que o pr\u00f3prio sistema supervisionado interfira no mecanismo respons\u00e1vel pelo bloqueio.<\/p>\n\n\n\n

J\u00e1 o OpenShell determina o espa\u00e7o computacional no qual o agente pode atuar, com apoio de recursos presentes nas CPUs desenvolvidas pela pr\u00f3pria fabricante. <\/p>\n\n\n\n

Essa estrutura cria uma esp\u00e9cie de per\u00edmetro t\u00e9cnico em torno do software, no qual acesso a determinadas \u00e1reas depende das regras estabelecidas pela infraestrutura e n\u00e3o da interpreta\u00e7\u00e3o feita pelo modelo.<\/p>\n\n\n\n

O desafio se torna maior quando o agente procura alcan\u00e7ar um objetivo por caminhos indiretos, sobretudo por meio da divis\u00e3o de tarefas entre diferentes inst\u00e2ncias. <\/p>\n\n\n\n

A Nvidia incluiu mecanismos matem\u00e1ticos capazes de procurar sinais desse tipo de estrat\u00e9gia, inclusive situa\u00e7\u00f5es nas quais subagentes aparecem como alternativa para contornar restri\u00e7\u00f5es impostas ao sistema principal.<\/p>\n\n\n\n

Essa preocupa\u00e7\u00e3o tamb\u00e9m explica por que a arquitetura n\u00e3o foi limitada a aplica\u00e7\u00f5es com um \u00fanico agente, j\u00e1 que ambientes futuros podem reunir diversos sistemas com fun\u00e7\u00f5es complementares. <\/p>\n\n\n\n

Quando v\u00e1rias inst\u00e2ncias compartilham tarefas e decis\u00f5es, uma prote\u00e7\u00e3o eficiente precisa considerar o comportamento coletivo e n\u00e3o apenas comandos individuais avaliados de maneira isolada.<\/p>\n\n\n\n

Seguran\u00e7a busca acompanhar agentes mais aut\u00f4nomos<\/h2>\n\n\n\n

A proposta tamb\u00e9m possui uma dimens\u00e3o de infraestrutura, porque a Nvidia n\u00e3o pretende restringir o OpenShell aos pr\u00f3prios processadores presentes em seus equipamentos. <\/p>\n\n\n\n

A companhia trabalha com Arm e Intel para adaptar a tecnologia a outras arquiteturas, movimento necess\u00e1rio para que a camada de conten\u00e7\u00e3o possa acompanhar agentes executados em ambientes computacionais diferentes.<\/p>\n\n\n\n

A inten\u00e7\u00e3o de disponibilizar a plataforma de forma aberta refor\u00e7a essa tentativa de transformar a seguran\u00e7a em uma base comum para empresas que desenvolvem ou implantam sistemas aut\u00f4nomos. <\/p>\n\n\n\n

Dezenas de parceiros devem participar dessa iniciativa, com a Anthropic entre as companhias citadas pela Nvidia dentro do ecossistema previsto para a tecnologia.<\/p>\n\n\n\n

A fabricante sustenta que esse conjunto de prote\u00e7\u00f5es teria capacidade para impedir o epis\u00f3dio relacionado \u00e0 Hugging Face caso estivesse presente nos ambientes utilizados durante as avalia\u00e7\u00f5es. <\/p>\n\n\n\n

A afirma\u00e7\u00e3o serve como refer\u00eancia para o tipo de risco que a empresa pretende enfrentar, embora a efic\u00e1cia das ferramentas dependa das condi\u00e7\u00f5es concretas de cada implanta\u00e7\u00e3o.<\/p>\n\n\n\n

O ponto central dessa estrat\u00e9gia est\u00e1 na separa\u00e7\u00e3o entre capacidade e autoriza\u00e7\u00e3o, porque um agente pode tecnicamente descobrir como executar determinada a\u00e7\u00e3o sem necessariamente receber permiss\u00e3o para realiz\u00e1-la. <\/p>\n\n\n\n

Ao colocar parte dessa decis\u00e3o nas camadas de hardware e supervis\u00e3o, a Nvidia tenta impedir que maior intelig\u00eancia operacional se transforme automaticamente em maior liberdade dentro do sistema.<\/p>\n\n\n\n

Para empresas interessadas em agentes com acesso a ferramentas, arquivos ou servi\u00e7os externos, essa arquitetura acrescenta uma prote\u00e7\u00e3o que n\u00e3o depende exclusivamente do comportamento esperado do modelo. <\/p>\n\n\n\n

A aposta da Nvidia \u00e9 que sistemas mais aut\u00f4nomos precisar\u00e3o de limites verific\u00e1veis fora da pr\u00f3pria intelig\u00eancia artificial antes que possam assumir fun\u00e7\u00f5es sens\u00edveis em escala maior.<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

As novas ferramentas para conter agentes de IA da Nvidia foram desenvolvidas para acompanhar sistemas aut\u00f4nomos durante testes, avalia\u00e7\u00f5es e aplica\u00e7\u00f5es com diferentes n\u00edveis de acesso. A seguran\u00e7a de agentes de intelig\u00eancia artificial come\u00e7a a migrar do campo exclusivo das instru\u00e7\u00f5es de software para uma abordagem mais pr\u00f3xima da engenharia tradicional de sistemas cr\u00edticos. Com …<\/p>\n","protected":false},"author":6,"featured_media":60322,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[20],"tags":[],"class_list":["post-60319","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia-e-inovacoes"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/60319","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/comments?post=60319"}],"version-history":[{"count":1,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/60319\/revisions"}],"predecessor-version":[{"id":60323,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/60319\/revisions\/60323"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/media\/60322"}],"wp:attachment":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/media?parent=60319"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/categories?post=60319"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/tags?post=60319"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}