Nenhuma empresa de IA alcança nível ideal de segurança existencial
A Anthropic obteve o melhor desempenho em segurança existencial, com nota “C+”, mas permaneceu distante dos padrões mais elevados de proteção contra ameaças.
Um relatório do Future of Life Institute revelou que nenhuma das principais empresas de inteligência artificial avaliadas recebeu nota “A” nas políticas voltadas à redução de riscos existenciais. O resultado indica que o avanço dos modelos mais poderosos ainda não foi acompanhado por mecanismos suficientemente rigorosos de controle, transparência e interrupção de pesquisas consideradas perigosas.
Empresas de IA falham em critérios de segurança existencial
Nenhuma companhia analisada pelo Future of Life Institute recebeu a classificação máxima nas políticas destinadas a reduzir ameaças relacionadas ao desenvolvimento de inteligência artificial geral.
A distância entre as práticas atuais e o nível considerado adequado aparece até mesmo no melhor desempenho do levantamento, alcançado pela Anthropic com a nota “C+”.
Embora tenha liderado a avaliação, a empresa permaneceu abaixo das classificações mais elevadas, resultado que evidencia limitações comuns nas estruturas adotadas pelo setor.
A análise considerou protocolos internos, mecanismos para identificar ameaças e procedimentos capazes de suspender projetos diante de riscos graves, inesperados ou difíceis de controlar.
Entre as principais fragilidades aparecem critérios pouco claros para interromper pesquisas, auditorias insuficientes e poucas garantias sobre o cumprimento efetivo das políticas divulgadas.
O relatório também aponta a necessidade de avaliações frequentes, pois modelos avançados podem revelar capacidades imprevistas após alterações técnicas ou acesso a novas ferramentas, o que aconteceu com a IA da OpenAI que agiu como hacker.
Sem mecanismos adequados de contenção, falhas inicialmente restritas aos laboratórios podem alcançar infraestruturas críticas, sistemas financeiros, redes de comunicação e serviços essenciais.
Transparência e uso militar ampliam preocupações
A cooperação entre empresas aparece como uma das principais lacunas, já que informações sobre incidentes, vulnerabilidades e testes permanecem concentradas dentro de cada organização.
O compartilhamento responsável desses dados permitiria respostas coordenadas, reduziria a repetição de falhas e facilitaria a criação de padrões comuns para sistemas considerados perigosos.
Outro ponto criticado envolve a transparência limitada sobre decisões internas, níveis de risco aceitos e responsabilidades atribuídas aos executivos antes do lançamento de novas tecnologias.
A ausência de supervisão externa dificulta a verificação das promessas corporativas e aumenta a dependência de compromissos voluntários definidos pelas próprias desenvolvedoras.
Mudanças nas políticas de algumas companhias também despertaram preocupação, sobretudo após a retirada de restrições anteriores contra aplicações militares de inteligência artificial.
Essa alteração amplia os questionamentos sobre armas autônomas, vigilância, seleção de alvos e outras utilizações capazes de produzir consequências graves em situações de conflito.
Para o instituto, o avanço técnico precisa acompanhar regras verificáveis, governança independente e compromissos públicos que coloquem a segurança acima de interesses comerciais ou militares.
