Ex-Google DeepMind alerta para riscos extremos da inteligência artificial
Bilal Chughtai, ex-Google DeepMind, afirma que a corrida por modelos mais capazes reduz o espaço para testes de segurança.
A velocidade alcançada pelos modelos mais avançados de inteligência artificial abriu uma nova discussão dentro das próprias empresas responsáveis pela tecnologia, com antigos e atuais pesquisadores questionando se os mecanismos de segurança conseguem evoluir no mesmo ritmo. O debate passou a envolver também dirigentes das maiores desenvolvedoras e governos, que divergem sobre quanto uma eventual redução na velocidade de desenvolvimento poderia afetar inovação, competitividade e segurança.
Ex-DeepMind pede mais tempo para segurança
Bilal Chughtai, ex-engenheiro de pesquisa do Google DeepMind, passou a defender uma redução no ritmo de desenvolvimento dos sistemas mais avançados após deixar a companhia em julho de 2026.
Durante sua passagem pelo laboratório, ele trabalhou com segurança e alinhamento, área que procura garantir que modelos sofisticados permaneçam compatíveis com objetivos e limites definidos por seres humanos.
Na avaliação do pesquisador, a possibilidade de desenvolver sistemas seguros ainda existe, mas a competição entre empresas reduz o intervalo disponível para identificar falhas antes que capacidades mais complexas cheguem ao mercado.
Chughtai associa esse problema ao risco de empresas acelerarem projetos por receio de perder espaço para concorrentes que mantenham investimentos e lançamentos em ritmo superior.
A preocupação apresentada por ele alcança cenários extremos, inclusive a hipótese de sistemas futuros causarem consequências capazes de ameaçar a sobrevivência humana, possibilidade que permanece objeto de forte debate entre especialistas.
Em vez de interromper completamente o desenvolvimento, Chughtai defende que empresas ganhem mais tempo para testar controles, aperfeiçoar mecanismos de alinhamento e avaliar capacidades que ainda apresentam elevado grau de incerteza.
Uma desaceleração isolada, porém, teria alcance limitado na avaliação do ex-DeepMind, porque qualquer empresa que reduzisse unilateralmente seus projetos poderia interpretar a decisão como perda competitiva.
Por esse motivo, sua proposta depende de coordenação entre grandes desenvolvedores, com compromissos capazes de diminuir os incentivos para uma corrida baseada apenas em velocidade.
Alertas avançam dentro da indústria
A manifestação de Chughtai ocorre após outros profissionais ligados aos principais laboratórios apresentarem preocupações semelhantes sobre modelos capazes de adquirir níveis crescentes de autonomia.
Jacob Coxon, que trabalhou na OpenAI e posteriormente na Anthropic, deixou esta última em setembro e afirmou que pesquisadores envolvidos diretamente com a tecnologia consideram plausíveis cenários de consequências catastróficas ainda nesta década.
As advertências também alcançaram o comando de algumas das empresas que disputam a liderança do setor, com Dario Amodei, CEO da Anthropic, defendendo uma redução temporária na velocidade de avanço dos modelos de fronteira.
Sam Altman, da OpenAI, e Elon Musk, ligado à xAI, manifestaram apoio à ideia de criar mais espaço para medidas de segurança acompanharem as novas capacidades técnicas.
Esse alinhamento incomum entre concorrentes desloca parte da discussão para um problema prático, pois uma redução coordenada exige critérios comuns para determinar quais capacidades merecem restrições adicionais.
Também permanecem abertas questões sobre auditorias independentes, compartilhamento de informações entre empresas e mecanismos capazes de verificar se compromissos semelhantes realmente são cumpridos.
Competição internacional limita consenso
A tentativa de estabelecer uma resposta conjunta enfrenta resistência política e geopolítica, sobretudo porque inteligência artificial passou a ocupar posição estratégica na disputa tecnológica entre Estados Unidos e China.
O presidente Donald Trump rejeitou recentemente a proposta de desaceleração e associou sua posição à necessidade de preservar a liderança estadunidense diante da concorrência chinesa.
Pequim também contestou os pedidos provenientes de executivos estadunidenses, com o Ministério das Relações Exteriores da China classificando esse movimento como parte de uma narrativa de confronto e competição prejudicial.
A reação evidencia a dificuldade de transformar preocupações compartilhadas sobre segurança em um acordo internacional quando os mesmos modelos também representam vantagens econômicas, militares e estratégicas.
A divisão deixa o setor diante de duas pressões simultâneas, porque empresas procuram preservar capacidade de inovação enquanto pesquisadores cobram mais tempo para avaliar sistemas cuja autonomia cresce rapidamente.
O resultado desse debate poderá influenciar padrões técnicos, regras públicas e estratégias empresariais em uma indústria na qual segurança e vantagem competitiva passaram a disputar espaço nas mesmas decisões.
