{"id":60058,"date":"2026-09-16T10:00:00","date_gmt":"2026-09-16T13:00:00","guid":{"rendered":"https:\/\/www.solucoesindustriais.com.br\/news\/?p=60058"},"modified":"2026-09-16T11:13:42","modified_gmt":"2026-09-16T14:13:42","slug":"ex-google-deepmind-alerta-para-riscos-da-ia","status":"publish","type":"post","link":"https:\/\/www.solucoesindustriais.com.br\/news\/tecnologia-e-inovacoes\/ex-google-deepmind-alerta-para-riscos-da-ia\/","title":{"rendered":"Ex-Google DeepMind alerta para riscos extremos da intelig\u00eancia artificial"},"content":{"rendered":"
\n

Bilal Chughtai, ex-Google DeepMind, afirma que a corrida por modelos mais capazes reduz o espa\u00e7o para testes de seguran\u00e7a.<\/h3>\n\n\n\n

A velocidade alcan\u00e7ada pelos modelos mais avan\u00e7ados de intelig\u00eancia artificial abriu uma nova discuss\u00e3o dentro das pr\u00f3prias empresas respons\u00e1veis pela tecnologia, com antigos e atuais pesquisadores questionando se os mecanismos de seguran\u00e7a conseguem evoluir no mesmo ritmo. O debate passou a envolver tamb\u00e9m dirigentes das maiores desenvolvedoras e governos, que divergem sobre quanto uma eventual redu\u00e7\u00e3o na velocidade de desenvolvimento poderia afetar inova\u00e7\u00e3o, competitividade e seguran\u00e7a.<\/p>\n\n\n\n

Ex-DeepMind pede mais tempo para seguran\u00e7a<\/h2>\n\n\n\n

Bilal Chughtai, ex-engenheiro de pesquisa do Google DeepMind, passou a defender uma redu\u00e7\u00e3o no ritmo de desenvolvimento dos sistemas mais avan\u00e7ados ap\u00f3s deixar a companhia em julho de 2026. <\/p>\n\n\n\n

Durante sua passagem pelo laborat\u00f3rio, ele trabalhou com seguran\u00e7a e alinhamento, \u00e1rea que procura garantir que modelos sofisticados permane\u00e7am compat\u00edveis com objetivos e limites definidos por seres humanos.<\/p>\n\n\n\n

Na avalia\u00e7\u00e3o do pesquisador, a possibilidade de desenvolver sistemas seguros ainda existe, mas a competi\u00e7\u00e3o entre empresas reduz o intervalo dispon\u00edvel para identificar falhas antes que capacidades mais complexas cheguem ao mercado. <\/p>\n\n\n\n

Chughtai associa esse problema ao risco de empresas acelerarem projetos por receio de perder espa\u00e7o para concorrentes que mantenham investimentos e lan\u00e7amentos em ritmo superior.<\/p>\n\n\n\n

A preocupa\u00e7\u00e3o apresentada por ele alcan\u00e7a cen\u00e1rios extremos, inclusive a hip\u00f3tese de sistemas futuros causarem consequ\u00eancias capazes de amea\u00e7ar a sobreviv\u00eancia humana, possibilidade que permanece objeto de forte debate entre especialistas. <\/p>\n\n\n\n

Em vez de interromper completamente o desenvolvimento, Chughtai defende que empresas ganhem mais tempo para testar controles, aperfei\u00e7oar mecanismos de alinhamento e avaliar capacidades que ainda apresentam elevado grau de incerteza.<\/p>\n\n\n\n

Uma desacelera\u00e7\u00e3o isolada, por\u00e9m, teria alcance limitado na avalia\u00e7\u00e3o do ex-DeepMind, porque qualquer empresa que reduzisse unilateralmente seus projetos poderia interpretar a decis\u00e3o como perda competitiva. <\/p>\n\n\n\n

Por esse motivo, sua proposta depende de coordena\u00e7\u00e3o entre grandes desenvolvedores, com compromissos capazes de diminuir os incentivos para uma corrida baseada apenas em velocidade.<\/p>\n\n\n\n

Alertas avan\u00e7am dentro da ind\u00fastria<\/h2>\n\n\n\n

A manifesta\u00e7\u00e3o de Chughtai ocorre ap\u00f3s outros profissionais ligados aos principais laborat\u00f3rios apresentarem preocupa\u00e7\u00f5es semelhantes sobre modelos capazes de adquirir n\u00edveis crescentes de autonomia. <\/p>\n\n\n\n

Jacob Coxon, que trabalhou na OpenAI e posteriormente na Anthropic, deixou esta \u00faltima em setembro e afirmou que pesquisadores envolvidos diretamente com a tecnologia consideram plaus\u00edveis cen\u00e1rios de consequ\u00eancias catastr\u00f3ficas ainda nesta d\u00e9cada.<\/p>\n\n\n\n

As advert\u00eancias tamb\u00e9m alcan\u00e7aram o comando de algumas das empresas que disputam a lideran\u00e7a do setor, com Dario Amodei, CEO da Anthropic, defendendo uma redu\u00e7\u00e3o tempor\u00e1ria na velocidade de avan\u00e7o dos modelos de fronteira. <\/p>\n\n\n\n

Sam Altman, da OpenAI, e Elon Musk, ligado \u00e0 xAI, manifestaram apoio \u00e0 ideia de criar mais espa\u00e7o para medidas de seguran\u00e7a acompanharem as novas capacidades t\u00e9cnicas.<\/p>\n\n\n\n

Esse alinhamento incomum entre concorrentes desloca parte da discuss\u00e3o para um problema pr\u00e1tico, pois uma redu\u00e7\u00e3o coordenada exige crit\u00e9rios comuns para determinar quais capacidades merecem restri\u00e7\u00f5es adicionais. <\/p>\n\n\n\n

Tamb\u00e9m permanecem abertas quest\u00f5es sobre auditorias independentes, compartilhamento de informa\u00e7\u00f5es entre empresas e mecanismos capazes de verificar se compromissos semelhantes realmente s\u00e3o cumpridos.<\/p>\n\n\n\n

Competi\u00e7\u00e3o internacional limita consenso<\/h2>\n\n\n\n

A tentativa de estabelecer uma resposta conjunta enfrenta resist\u00eancia pol\u00edtica e geopol\u00edtica, sobretudo porque intelig\u00eancia artificial passou a ocupar posi\u00e7\u00e3o estrat\u00e9gica na disputa tecnol\u00f3gica entre Estados Unidos e China. <\/p>\n\n\n\n

O presidente Donald Trump rejeitou recentemente a proposta de desacelera\u00e7\u00e3o e associou sua posi\u00e7\u00e3o \u00e0 necessidade de preservar a lideran\u00e7a estadunidense diante da concorr\u00eancia chinesa.<\/p>\n\n\n\n

Pequim tamb\u00e9m contestou os pedidos provenientes de executivos estadunidenses, com o Minist\u00e9rio das Rela\u00e7\u00f5es Exteriores da China classificando esse movimento como parte de uma narrativa de confronto e competi\u00e7\u00e3o prejudicial. <\/p>\n\n\n\n

A rea\u00e7\u00e3o evidencia a dificuldade de transformar preocupa\u00e7\u00f5es compartilhadas sobre seguran\u00e7a em um acordo internacional quando os mesmos modelos tamb\u00e9m representam vantagens econ\u00f4micas, militares e estrat\u00e9gicas.<\/p>\n\n\n\n

A divis\u00e3o deixa o setor diante de duas press\u00f5es simult\u00e2neas, porque empresas procuram preservar capacidade de inova\u00e7\u00e3o enquanto pesquisadores cobram mais tempo para avaliar sistemas cuja autonomia cresce rapidamente. <\/p>\n\n\n\n

O resultado desse debate poder\u00e1 influenciar padr\u00f5es t\u00e9cnicos, regras p\u00fablicas e estrat\u00e9gias empresariais em uma ind\u00fastria na qual seguran\u00e7a e vantagem competitiva passaram a disputar espa\u00e7o nas mesmas decis\u00f5es.<\/p>\n<\/div>","protected":false},"excerpt":{"rendered":"

Bilal Chughtai, ex-Google DeepMind, afirma que a corrida por modelos mais capazes reduz o espa\u00e7o para testes de seguran\u00e7a. A velocidade alcan\u00e7ada pelos modelos mais avan\u00e7ados de intelig\u00eancia artificial abriu uma nova discuss\u00e3o dentro das pr\u00f3prias empresas respons\u00e1veis pela tecnologia, com antigos e atuais pesquisadores questionando se os mecanismos de seguran\u00e7a conseguem evoluir no mesmo …<\/p>\n","protected":false},"author":6,"featured_media":60063,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[20],"tags":[],"class_list":["post-60058","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia-e-inovacoes"],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/60058","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/comments?post=60058"}],"version-history":[{"count":1,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/60058\/revisions"}],"predecessor-version":[{"id":60064,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/posts\/60058\/revisions\/60064"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/media\/60063"}],"wp:attachment":[{"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/media?parent=60058"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/categories?post=60058"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.solucoesindustriais.com.br\/news\/wp-json\/wp\/v2\/tags?post=60058"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}