OpenAI, Anthropic e Google se uniram no Frontier Model Forum para combater cópias de IA na China, visando proteger inovações e mitigar riscos à segurança nacional, especialmente contra a destilação adversária que replica tecnologias sem autorização.
OpenAI, Anthropic e Google estão colaborando para enfrentar a cópia de modelos de inteligência artificial na China. Esta aliança visa proteger inovações e mitigar riscos de segurança nacional, compartilhando informações por meio do Frontier Model Forum. A prática de destilação adversária tem preocupado empresas dos Estados Unidos, que buscam impedir a replicação não autorizada de seus modelos.
Colaboração entre gigantes da tecnologia
A colaboração entre OpenAI, Anthropic e Google marca um movimento significativo no setor de inteligência artificial.
Essas empresas, que são concorrentes diretas, decidiram unir forças para enfrentar um desafio comum: a cópia de seus modelos de IA por empresas chinesas.
A prática, conhecida como destilação adversária, envolve a replicação de tecnologias inovadoras sem a devida autorização, o que pode comprometer a competitividade e a segurança dos desenvolvimentos originais.
Para coordenar os esforços, as empresas criaram o Frontier Model Forum, uma organização sem fins lucrativos que facilita o compartilhamento de informações sobre tentativas de destilação adversária.
Esse fórum foi fundado em parceria com a Microsoft em 2023 e tem como objetivo detectar e mitigar essas práticas, que violam os termos de serviço das empresas envolvidas.
A aliança inédita ressalta a gravidade do problema enfrentado pelas empresas estadunidenses, que temem que seus avanços em IA sejam usados de forma indevida por competidores estrangeiros, especialmente na China.
Além disso, a colaboração busca pressionar o governo dos EUA a fornecer diretrizes mais claras sobre o que pode ser compartilhado entre as empresas para combater essa ameaça, sem infringir leis antitruste.
Impactos econômicos e de segurança nacional
A prática de destilação adversária de modelos de inteligência artificial tem implicações significativas para a economia e a segurança nacional dos Estados Unidos.
Empresas como OpenAI, Anthropic e Google investiram bilhões em pesquisa e infraestrutura para desenvolver suas tecnologias de ponta.
No entanto, a replicação não autorizada dessas inovações por empresas chinesas representa uma ameaça direta a esses investimentos, potencialmente resultando em perdas financeiras substanciais.
Além do impacto econômico, há preocupações sérias em relação à segurança nacional. Modelos de IA destilados podem ser desprovidos de salvaguardas críticas, permitindo que sejam utilizados para fins maliciosos.
Isso inclui a criação de patógenos mortais ou a manipulação de informações sensíveis, algo que os modelos originais são projetados para evitar.
O governo dos EUA está ciente desses riscos e tem incentivado a colaboração entre empresas de tecnologia para mitigar essas ameaças
No entanto, para que essas medidas sejam eficazes, as empresas precisam de orientações claras sobre o que pode ser compartilhado dentro dos limites legais existentes.