Anthropic bloqueia usos do Claude ao detectar solicitações cuja finalidade não era explicitamente maliciosa, mas apresentava sinais compatíveis com desenvolvimento biológico perigoso.
A fronteira entre pesquisa legítima e utilização perigosa da inteligência artificial ganhou novo peso para a Anthropic após a empresa identificar contas que recorreram ao Claude em atividades associadas a riscos biológicos, desenvolvimento de armamentos e operações cibernéticas. Os episódios analisados entre dezembro de 2025 e agosto de 2026 levaram ao bloqueio de usuários e serviram de base para mudanças nos mecanismos de detecção da plataforma.
Claude é associado a riscos biológicos
A preocupação mais sensível descrita pela Anthropic está relacionada ao uso do Claude em pesquisas biológicas que poderiam oferecer suporte ao desenvolvimento de armas.
Para a empresa, esse campo exige atenção especial porque grande parte do conhecimento envolvido possui dupla finalidade e pode servir tanto à medicina quanto a aplicações capazes de provocar danos.
Essa característica torna mais difícil diferenciar uma pesquisa legítima de uma tentativa de obter assistência para objetivos perigosos, principalmente quando o usuário evita revelar claramente sua intenção.
Uma sequência de solicitações aparentemente comuns pode adquirir outro significado quando analisada em conjunto, o que exige mecanismos capazes de avaliar contexto e finalidade além do conteúdo isolado de cada pergunta.
Após identificar atividades que considerou compatíveis com desenvolvimento biológico malicioso, a Anthropic bloqueou os usuários relacionados aos episódios e utilizou essas descobertas para reforçar as proteções do Claude.
A medida procura reduzir a possibilidade de que modelos avançados facilitem acesso a conhecimentos ou etapas técnicas que antes exigiam maior especialização e experiência.
O relatório não indica que armas biológicas tenham sido efetivamente produzidas com auxílio da inteligência artificial, mas mostra que a empresa considera relevante impedir contribuições que possam reduzir obstáculos técnicos.
Essa distinção ganha importância porque o risco pode surgir antes de qualquer resultado concreto, especialmente quando um modelo consegue apoiar diferentes fases de uma pesquisa científica complexa.
Para a Anthropic, a evolução desses sistemas exige controles capazes de acompanhar não apenas aquilo que o usuário pergunta, mas também a relação entre várias interações ao longo do tempo.
A análise de comportamento passa, dessa forma, a ocupar uma posição central na tentativa de impedir que recursos destinados a pesquisa, produtividade ou programação sejam desviados para finalidades consideradas perigosas.
Outros abusos ampliam pressão sobre segurança
As preocupações identificadas pela empresa também alcançam projetos ligados a armamentos convencionais, nos quais o Claude teria oferecido auxílio a atividades de software relacionadas a armas de fogo, mísseis, drones armados, explosivos, munições e sistemas de controle.
Esses episódios mostram que ferramentas de uso geral podem assumir funções específicas dentro de operações técnicas que ultrapassam completamente suas aplicações empresariais ou acadêmicas mais comuns.
Claude Haiku, Claude Sonnet e Claude Opus aparecem entre os modelos utilizados nas atividades maliciosas analisadas, enquanto Claude Fable e sistemas da classe Mythos ficaram fora desses registros, com uma exceção ligada à destilação de modelos.
A diferença também indica que os riscos podem variar conforme as capacidades disponíveis em cada sistema e o tipo de tarefa solicitado pelos usuários.
O relatório inclui ainda usos relacionados a espionagem cibernética, vigilância, campanhas de influência, golpes e fraudes conduzidos por criminosos, empresas de spyware, organizações de propaganda e atores suspeitos de vínculos governamentais.
Em uma operação associada à Rússia, o Claude teria auxiliado alterações em códigos maliciosos depois que ferramentas de segurança detectaram parte da atividade.
O grupo ShinyHunters também aparece entre os atores que recorreram ao Claude para apoiar práticas criminosas, o que amplia o alcance das preocupações para ameaças digitais já conhecidas por empresas e autoridades.
A diversidade dessas ocorrências mostra que um mesmo sistema pode ser explorado em contextos completamente diferentes, desde pesquisa científica sensível até operações voltadas a fraude ou espionagem.
A Anthropic afirma que incorporou as informações obtidas nesses episódios aos mecanismos de proteção do Claude, com foco na identificação mais rápida de comportamentos semelhantes.
O conjunto dos casos reforça a necessidade de sistemas de segurança capazes de acompanhar o avanço das próprias ferramentas de inteligência artificial, sobretudo à medida que modelos mais sofisticados assumem tarefas técnicas com maior autonomia.