Pesquisadores militares chineses utilizaram resultados de modelos de inteligência artificial de ponta dos Estados Unidos, desenvolvidos por OpenAI e Anthropic, para treinar sistemas de IA nacionais com o objetivo de aprimorarem capacidades de defesa da China, de acordo com uma análise da Reuters de mais de 80 artigos acadêmicos e patentes chineses.
Os documentos mostram o uso generalizado de uma técnica conhecida como “destilação de modelos”, na qual os resultados de um poderoso sistema de IA são utilizados para treinar modelos menores e especializados que podem ser implantados localmente sem os enormes requisitos computacionais necessários para construir sistemas de IA de ponta a partir do zero.
A análise da Reuters, que incluiu pesquisas compiladas pela Fundação Jamestown, com sede em Washington, e compartilhadas exclusivamente com a agência de notícias, mostrou que a destilação é amplamente utilizada por pesquisadores ligados ao Exército Popular de Libertação e a outras instituições militares da China.
Os documentos sugerem que as instituições de defesa chinesas veem os principais modelos de IA dos EUA tanto como uma fonte de conhecimento técnico quanto como uma forma de diminuir a diferença em relação aos rivais americanos.
A controvérsia gira em torno da extração não autorizada, e não da destilação em si, uma prática amplamente utilizada no setor.
A questão surgiu como um importante ponto de atrito antes das negociações entre os EUA e a China sobre governança e segurança em IA.
Autoridades americanas acusaram algumas entidades chinesas de usarem a destilação para extrair recursos de modelos americanos de IA, o que poderia comprometer os controles de exportação e infringir direitos de propriedade intelectual.
A China rejeita as acusações, afirmando que Washington está buscando um “hegemonismo” em IA, ao mesmo tempo em que argumenta que empresas americanas se envolveram em práticas semelhantes.
Desenvolvedores chineses também contestam as alegações de que seus avanços em IA dependem de modelos estrangeiros.
A startup de IA Moonshot negou, na semana passada, as acusações do governo Trump de que seu modelo Kimi K3 teria sido construído por meio da destilação, afirmando que ele foi desenvolvido com base em inovações próprias.
Sunny Cheung, pesquisador do Jamestown que analisou mais de 60 artigos, afirmou que cientistas militares chineses estão captando sistematicamente as etapas de raciocínio dos modelos ocidentais para adaptá-los à vigilância, à guerra cibernética e à tomada de decisões táticas.
“Ensinar a um modelo a resposta certa é uma coisa, mas ensinar-lhe o raciocínio por trás da resposta é muito mais difícil”, disse Cheung.
“Esses artigos mostram que pesquisadores ligados às forças armadas chinesas estão tentando transferir esse raciocínio caro e proprietário dos modelos ocidentais para sistemas menores que possam controlar e implantar localmente.”
A Reuters verificou a literatura acadêmica e identificou mais duas dúzias de estudos de caso ligados às forças armadas da China.
Um artigo publicado no ano passado por pesquisadores da Unidade 96941 do Exército Popular de Libertação (PLA) da China, uma unidade de inteligência militar e guerra eletrônica em Pequim, descreveu o uso do GPT-3.5 da OpenAI para processar código-fonte militar confidencial.
Os pesquisadores afirmaram que modelos de terceiros eram inadequados para lidar com informações confidenciais.
Para superar essa limitação, eles utilizaram o GPT-3.5 para resumir o código-fonte do software e treinaram um modelo nacional com base nesses resumos para que funcionasse inteiramente dentro das redes militares chinesas.
Representantes da Casa Branca, Pentágono, Ministério das Relações Exteriores da China, do Exército Popular de Libertação (PLA) e da OpenAI não comentaram o assunto.
Do monitoramento à área militar
Pesquisadores chineses têm utilizado a destilação para fins que vão desde o monitoramento de conteúdo até a implantação militar, conforme revelou a análise dos artigos realizada pela Reuters e pela Jamestown.
Na Universidade do Norte da China, que mantém laços estreitos com a indústria de armamentos do país, pesquisadores utilizaram o Claude 3 Haiku, da Anthropic, para gerarem dados sintéticos de treinamento para um modelo de recomendação de texto destinado ao monitoramento de redes sociais e à moderação de conteúdo.
A Anthropic afirmou que não fornece acesso comercial ao Claude na China nem a empresas controladas por Pequim e utiliza sistemas de monitoramento para detectar violações de políticas.
A empresa acrescentou que modelos destilados podem perder as salvaguardas de segurança dos sistemas originais, permitindo potencialmente que recursos sensíveis sejam transferidos para modelos fora de seu controle.
Um artigo de 2024 da Universidade Nacional de Tecnologia de Defesa do Exército Popular de Libertação (PLA) descreve o uso da destilação para reduzir um modelo de processamento de imagens para implantação em veículos aéreos não tripulados, permitindo que drones analisem vídeos ao vivo e auxiliem nas decisões de navegação e mira em tempo real, mesmo quando as comunicações são interrompidas.
Da mesma forma, pesquisadores da Academia de Ciências Militares da China utilizaram a destilação para executar um modelo de reconhecimento de alvos em hardware tático durante operações marítimas simuladas envolvendo drones, navios e submarinos não tripulados, conforme mostrou um estudo publicado no início deste ano.
Benefícios e limites
A China adotou a destilação para competir com os EUA na IA de ponta, ao mesmo tempo em que enfrenta restrições aos recursos de computação avançados devido aos controles de exportação de Washington sobre chips de alta tecnologia.
Os governos central e locais têm promovido a “redução do peso dos modelos” e a computação de ponta, direcionando subsídios e financiamento para pesquisa a tecnologias que permitem que modelos de IA sejam executados em drones, satélites e outros dispositivos com capacidade de processamento limitada.
Especialistas alertam, no entanto, que a destilação apresenta limitações significativas.
À medida que os modelos chineses de IA diminuem a diferença em relação aos seus equivalentes americanos, pesquisadores militares também estão analisando a destilação como um possível risco à segurança.
Em janeiro, pesquisadores da Universidade de Engenharia do Exército publicaram um artigo sobre a ameaça da “destilação sem dados”, um método de engenharia reversa das capacidades de um modelo sem acesso direto aos seus parâmetros centrais.
Para combater essa vulnerabilidade, eles propuseram mecanismos de defesa projetados para mascarar as informações lógicas ocultas expostas nas saídas públicas de um modelo.
Os modelos destilados também herdam apenas capacidades selecionadas e não conseguem replicar totalmente a inteligência abrangente dos sistemas de ponta.
Trevor Koverko, cofundador da empresa de dados de IA Sapien, afirmou que os modelos destilados continuam menos capazes do que seus modelos-mestres.
“Isso pode ser melhor compreendido como a transferência de capacidades selecionadas para um sistema mais barato e controlado localmente, e não como a conquista de independência em relação à IA de ponta.”
Pexels/Pachon in Motion