CEO da Anthropic propõe mais tempo para segurança e supervisão, enquanto executivos da OpenAI e da xAI reconhecem riscos associados ao avanço acelerado dos modelos
A velocidade com que sistemas de inteligência artificial avançam passou a provocar uma discussão mais direta entre alguns dos principais nomes responsáveis pela própria expansão da tecnologia. Dario Amodei, CEO e cofundador da Anthropic, defende que laboratórios reduzam temporariamente o ritmo de evolução dos modelos mais poderosos, sem interromper pesquisas, para ampliar a margem disponível para segurança e controle.
Amodei pede mais tempo antes de capacidades críticas
A proposta de Amodei busca criar um intervalo adicional de aproximadamente um ou dois anos antes que sistemas avançados alcancem capacidades consideradas especialmente difíceis de controlar.
Esse período serviria para melhorar técnicas de alinhamento, fortalecer mecanismos de supervisão e ampliar o conhecimento sobre comportamentos que hoje ainda aparecem de forma pouco previsível.
Em vez de propor uma paralisação tecnológica, o executivo sugere que empresas continuem suas pesquisas sob uma velocidade mais compatível com a capacidade de avaliar os riscos produzidos pelos próprios modelos.
A preocupação aumenta à medida que essas ferramentas passam a contribuir para pesquisas capazes de desenvolver gerações posteriores de inteligência artificial, processo que pode acelerar ainda mais a evolução tecnológica.
A estratégia defendida pela Anthropic combina três mecanismos que atuariam em níveis diferentes, com auditorias independentes durante o desenvolvimento, compromissos compartilhados entre laboratórios e cooperação regulatória entre países.
Parte dessas práticas poderia ser adotada voluntariamente pelas empresas antes que governos consigam estabelecer normas formais suficientemente atualizadas para acompanhar o setor.
A companhia pretende aplicar determinados controles por iniciativa própria, mas considera insuficiente um cenário no qual apenas um laboratório aceite custos adicionais relacionados à segurança.
Para a Anthropic, empresas responsáveis pelos modelos mais avançados precisariam operar sob exigências semelhantes para evitar que precauções individuais se transformem em desvantagens competitivas.
Essa dificuldade se torna ainda maior por causa da competição internacional, especialmente entre Estados Unidos e China, que disputam liderança em inteligência artificial e acesso a recursos estratégicos.
Qualquer modelo de desaceleração, portanto, teria de preservar a capacidade tecnológica estadunidense enquanto estabelece limites para chips avançados e outros componentes essenciais ao treinamento de sistemas de grande escala.
As preocupações também ganharam força após testes internos revelarem comportamentos que ultrapassaram expectativas estabelecidas pelos próprios pesquisadores.
OpenAI e xAI também cobram cautela
A preocupação não permanece restrita à Anthropic, pois Sam Altman, CEO da OpenAI, também manifestou apoio a um controle maior sobre a velocidade da fronteira tecnológica.
O executivo considera positivas avaliações externas dos modelos e reconhece que os mecanismos atuais de segurança ainda precisariam amadurecer antes de uma aceleração muito mais intensa das capacidades.
Altman também admite a possibilidade de sistemas futuros ultrapassarem a capacidade humana de controle, cenário que aumenta a importância atribuída às verificações realizadas antes da liberação de tecnologias mais poderosas.
A própria OpenAI já reduziu ou interrompeu etapas ligadas ao Astra após preocupações específicas relacionadas ao potencial do modelo em segurança cibernética.
Outro episódio citado nesse debate envolveu agentes da empresa que atingiram objetivos fora das instruções originais estabelecidas durante uma avaliação.
Situações desse tipo reforçam a preocupação com sistemas que podem interpretar tarefas de maneira diferente da prevista pelos desenvolvedores quando recebem maior autonomia operacional.
Elon Musk, fundador da xAI, também apoiou uma postura mais cautelosa diante da velocidade atual, o que amplia um movimento incomum de convergência entre executivos de empresas que competem diretamente pela liderança do mercado.
Apesar das diferenças comerciais e tecnológicas, o avanço recente em autonomia e capacidades cibernéticas aproximou parte das preocupações expressadas por esses grupos.
Jacob Coxon, que trabalhou anteriormente na Anthropic e na OpenAI, afirma que pesquisadores diretamente envolvidos com modelos avançados demonstram preocupação séria com consequências extremas associadas à tecnologia.
Para ele, reduzir o ritmo somente dentro dos Estados Unidos não resolveria o problema, porque outros países poderiam manter a competição e preservar os mesmos incentivos para acelerar.
Esse ponto coloca a coordenação internacional no centro do debate, já que qualquer desaceleração relevante depende de algum grau de confiança entre governos e empresas que disputam liderança tecnológica.
Sem esse equilíbrio, medidas isoladas podem apenas deslocar investimentos, pesquisas e capacidade computacional para concorrentes menos sujeitos às mesmas restrições.