Riscos além-fronteiras tornam a cooperação internacional “vital para a segurança”, dizem especialistas
Recentemente, a Hugging Face, a maior comunidade de IA de código aberto do mundo, divulgou um incidente de segurança cibernética envolvendo um agente de IA autônomo. Quando vários modelos de IA dos EUA falharam em auxiliar na análise do ataque devido a restrições de segurança, o modelo GLM-5.2 de código aberto da Zhipu AI foi utilizado para ajudar no processo e analisar os dados relacionados.
O incidente gerou ampla discussão no setor, com o papel dos modelos de IA chineses – há muito vistos com preconceito por algumas elites políticas dos EUA – agora sob nova observação.
Alguns especialistas chineses enfatizaram que os modelos de IA de código aberto chineses têm sido alvo de preconceitos e restrições profundamente enraizados em alguns países ocidentais, mas seu papel no enfrentamento de desafios reais de segurança da IA demonstra o valor da visão chinesa de desenvolvimento de IA aberto e compartilhado.
Bloquear a tecnologia e construir barreiras não resolve os riscos globais da IA, enquanto a abertura, a cooperação e a governança global representam um caminho mais sustentável, enfatizaram.
De acordo com uma reportagem da Reuters publicada na quinta-feira, a startup nova-iorquina Hugging Face usou um modelo de IA chinês para conter um agente malicioso criado com a tecnologia da OpenAI.
A startup afetada, Hugging Face, afirmou ter recorrido ao modelo de código aberto GLM-5.2 da Zhipu AI na semana passada para analisar os dados do ataque, depois que os principais modelos de IA dos EUA se recusaram a realizar a tarefa, por não conseguirem distinguir entre um defensor e um atacante, segundo a reportagem.
Uma fonte familiarizada com o assunto confirmou ao Global Times que a Hugging Face usou o modelo da Zhipu AI, acrescentando que o caso reflete como, à medida que a IA se integra cada vez mais aos processos de negócios essenciais, as empresas estão ampliando suas expectativas em relação aos modelos fundamentais.
Além das capacidades do modelo, fatores como a implantação em ambientes de produção reais, a usabilidade para engenharia e a capacidade de lidar com tarefas complexas estão se tornando considerações cada vez mais importantes para as empresas. Isso também representa uma das principais direções no desenvolvimento dos modelos fundamentais de IA da China, de acordo com a fonte.
O incidente expôs falhas estruturais na abordagem fechada dos EUA ao desenvolvimento de IA, particularmente a ironia em torno das chamadas "salvaguardas de segurança nacional" que o país tem enfatizado repetidamente, disse Chen Jing, vice-presidente do Instituto de Pesquisa de Tecnologia e Estratégia, ao Global Times na quinta-feira.
Os principais modelos dos EUA impõem filtros rigorosos para evitar o uso indevido, mas essas mesmas restrições podem impedir que as equipes de segurança analisem dados reais de ataques, limitando severamente a utilidade dos modelos na resposta a incidentes no mundo real, disse Chen.
"Este caso também aponta para uma lição mais ampla: a abertura e o compartilhamento podem fortalecer a segurança da IA, dando aos desenvolvedores e às equipes de segurança maior flexibilidade para responder a riscos do mundo real", observou Chen.
Notavelmente, dados recentes de várias das principais plataformas globais de IA mostram que os grandes modelos de linguagem de código aberto chineses estão ganhando reconhecimento e adoção cada vez maiores em todo o mundo.
Dados da Hugging Face demonstram que a China ultrapassou os EUA em downloads mensais e downloads totais. No último ano, os modelos chineses rapidamente passaram a representar a maioria, ou 41%, dos downloads, de acordo com o relatório de primavera.
Além disso, o ranking mais recente de modelos de IA no OpenRouter mostra que seis dos dez modelos mais populares são desenvolvidos por empresas chinesas. Os três primeiros colocados são todos de desenvolvedores chineses de IA: Mimo-V2.5 da Xiaomi, Hy3 da Tencent e DeepSeek V4 Flash da DeepSeek.
