Ex-pesquisador da OpenAI e da Anthropic diz que quem constrói IA teme extinção humana
Ex-pesquisador da OpenAI e da Anthropic afirmou que pessoas diretamente envolvidas na criação de sistemas avançados consideram seriamente a possibilidade de consequências fatais para a humanidade.
A decisão de um pesquisador que passou por dois dos principais laboratórios de inteligência artificial do mundo transformou uma discussão técnica sobre segurança em um questionamento público sobre os rumos da indústria. Jacob Coxon deixou a Anthropic e afirmou que tanto a empresa quanto a OpenAI avançam rápido demais na busca por sistemas mais capazes, enquanto métodos destinados a manter tecnologias futuras sob controle ainda apresentam limitações.
Pesquisador faz alerta público sobre a IA
No X, antigo Twitter, Jacob Coxon afirmou que OpenAI e Anthropic aceitam um nível de incerteza que considera incompatível com as possíveis consequências de tecnologias futuras.
Antes de tornar públicas essas críticas, o pesquisador trabalhou nas duas empresas e acompanhou de perto projetos ligados ao desenvolvimento de sistemas avançados de inteligência artificial.
Ao expor sua posição, Coxon acusou os laboratórios de IA de “brincar com as nossas vidas”, expressão usada para questionar o ritmo adotado para o desenvolvimento dos recursos.
Para ele, as empresas seguem em busca de capacidades superiores sem possuir garantias equivalentes sobre controle, segurança e comportamento de modelos que podem superar os atuais.
O pesquisador também afirmou que “pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década”, frase que ampliou o peso da discussão.
A declaração chama atenção porque apresenta o temor como algo presente entre profissionais envolvidos diretamente na criação dessas tecnologias, e não apenas entre críticos externos do setor.
Essas afirmações não representam consenso científico sobre uma eventual catástrofe provocada pela inteligência artificial, mas revelam o grau de preocupação existente dentro de parte da indústria.
O debate envolve justamente a distância entre o avanço das capacidades dos modelos e a confiança disponível nos mecanismos destinados a limitar comportamentos inesperados ou perigosos.
Superinteligência concentra parte dos receios
Entre os cenários mais discutidos aparece a possibilidade de sistemas futuros superarem capacidades humanas em diferentes tarefas e também contribuírem diretamente para a criação de versões mais poderosas.
Essa hipótese está associada ao chamado autoaperfeiçoamento recursivo, conceito que ainda não corresponde a uma capacidade demonstrada pelos modelos disponíveis atualmente no mercado.
A preocupação surge porque uma evolução muito rápida poderia reduzir o intervalo disponível para testar novos comportamentos, corrigir falhas e estabelecer limites antes da chegada de sistemas mais sofisticados.
Nesse cenário, técnicas de alinhamento e monitoramento precisariam apresentar eficácia suficiente para tecnologias cujas características ainda permanecem cercadas por alto grau de incerteza.
A dimensão dessa inquietação também aparece dentro da própria Anthropic, onde um pesquisador estimou em mais de 10% a possibilidade de uma IA causar a morte de toda a humanidade na próxima década.
O percentual representa uma avaliação individual sobre um cenário extremo e não uma probabilidade aceita como conclusão científica pela comunidade especializada em inteligência artificial.
Competição amplia pressão por regras comuns
OpenAI e Anthropic disputam espaço em um mercado no qual avanços técnicos podem influenciar contratos, investimentos, atração de talentos e posição competitiva diante de outros desenvolvedores de inteligência artificial.
Essa dinâmica dificulta qualquer redução isolada do ritmo de pesquisa, porque uma empresa pode perder vantagem caso seus concorrentes mantenham projetos mais acelerados.
Por esse motivo, parte dos pesquisadores defende regras compartilhadas entre laboratórios e critérios mínimos de segurança antes da liberação de sistemas com capacidades consideradas especialmente sensíveis.
A proposta busca impedir que medidas de precaução passem a representar uma desvantagem competitiva para empresas que adotem limites mais rígidos do que seus principais rivais.
As críticas de Coxon ganham relevância justamente porque partem de alguém com experiência direta em duas companhias centrais nessa disputa por modelos mais avançados.
O episódio reforça uma discussão que ultrapassa previsões extremas e alcança uma questão prática sobre quais limites devem acompanhar a evolução tecnológica dentro dos principais laboratórios.
