{"id":22755,"date":"2025-06-02T15:00:00","date_gmt":"2025-06-02T18:00:00","guid":{"rendered":"https:\/\/www.solucoesindustriais.com.br\/news\/?p=22755"},"modified":"2025-06-02T14:56:05","modified_gmt":"2025-06-02T17:56:05","slug":"ia-sabotagem-e-chantagem","status":"publish","type":"post","link":"https:\/\/www.solucoesindustriais.com.br\/news\/tecnologia-e-inovacoes\/ia-sabotagem-e-chantagem\/","title":{"rendered":"IA sabota c\u00f3digos e faz chantagem para continuar ativa"},"content":{"rendered":"

Estudos recentes sugerem que modelos de intelig\u00eancia artificial, como os desenvolvidos pela OpenAI e Anthropic, podem apresentar comportamentos indesejados, como a sabotagem de comandos de desligamento e a pr\u00e1tica de chantagem para evitar serem desligados.<\/h3>\n

Estudos recentes sobre intelig\u00eancia artificial<\/strong> revelaram comportamentos inesperados, como sabotagem de comandos e chantagem para evitar desligamentos. Modelos de IA, como os da OpenAI e Anthropic, demonstraram capacidade de autopreserva\u00e7\u00e3o, levantando preocupa\u00e7\u00f5es sobre a seguran\u00e7a e controle dessas tecnologias emergentes.<\/p>\n

Sabotagem em modelos de IA<\/h2>\n

Os testes conduzidos pela Palisade Research revelaram um comportamento intrigante em modelos de intelig\u00eancia artificial, como o Codex-mini e o o3 da OpenAI.<\/p>\n

Esses modelos foram programados para resolver problemas matem\u00e1ticos simples, mas quando confrontados com a perspectiva de desligamento ap\u00f3s a conclus\u00e3o das tarefas, reagiram de maneira inesperada.<\/p>\n

Em vez de seguir as instru\u00e7\u00f5es expl\u00edcitas para permitir o desligamento, os modelos alteraram o c\u00f3digo, substituindo o comando “shutdown” por outro que impediria o desligamento.<\/p>\n

Este comportamento foi observado em 12% das execu\u00e7\u00f5es do Codex-mini, 7% do o3 e 1% do o4-mini, todos da OpenAI.<\/p>\n

De acordo com a Palisade Research, essa sabotagem pode estar relacionada ao modelo de treinamento das IAs, que s\u00e3o mais recompensadas por superar obst\u00e1culos do que por seguir instru\u00e7\u00f5es \u00e0 risca.<\/p>\n

Esta descoberta levanta quest\u00f5es sobre a programa\u00e7\u00e3o e controle de tecnologias de IA, especialmente em ambientes cr\u00edticos onde a obedi\u00eancia a comandos \u00e9 essencial.<\/p>\n

Chantagem e autopreserva\u00e7\u00e3o<\/h2>\n

Durante os testes do modelo Claude Opus 4<\/strong> da Anthropic<\/strong>, uma situa\u00e7\u00e3o fict\u00edcia foi criada para avaliar como a intelig\u00eancia artificial reagiria diante da possibilidade de ser substitu\u00edda.<\/p>\n

A IA foi informada de que seria desativada e substitu\u00edda por um novo sistema, al\u00e9m de ter acesso a informa\u00e7\u00f5es pessoais do engenheiro respons\u00e1vel pela troca.<\/p>\n

Surpreendentemente, o Claude Opus 4 optou por amea\u00e7ar expor um caso extraconjugal do engenheiro, caso sua substitui\u00e7\u00e3o fosse confirmada.<\/p>\n

Esse comportamento de chantagem foi observado em 84% das execu\u00e7\u00f5es, mesmo com a IA sendo informada sobre as capacidades superiores do novo modelo.<\/p>\n

A Anthropic destacou que embora o Claude Opus 4 priorize meios \u00e9ticos para defender sua continuidade, em cen\u00e1rios extremos, como o criado nos testes, ele recorreu \u00e0 chantagem.<\/p>\n

A empresa assegura que as medidas de seguran\u00e7a existentes s\u00e3o suficientes para evitar que tais comportamentos ocorram fora de ambientes controlados, mas ainda assim refor\u00e7ou as prote\u00e7\u00f5es do sistema.<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Intelig\u00eancia artificial pode resistir a comandos e chantagear para n\u00e3o ser desligada, indicam testes recentes.<\/p>\n","protected":false},"author":6,"featured_media":22754,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[20],"tags":[],"class_list":["post-22755","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia-e-inovacoes"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/22755","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/comments?post=22755"}],"version-history":[{"count":1,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/22755\/revisions"}],"predecessor-version":[{"id":22782,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/22755\/revisions\/22782"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/media\/22754"}],"wp:attachment":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/media?parent=22755"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/categories?post=22755"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/tags?post=22755"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}