A China intensificou alertas sobre a perda de controle da inteligência artificial (IA) após pesquisadores dos EUA apontarem riscos existenciais para a humanidade. Autoridades chinesas ampliam regras para agentes autônomos, reforçam a segurança e defendem que sistemas avançados permaneçam sob supervisão humana.

Pesquisadores da Anthropic alertaram que modelos avançados de IA poderiam escapar do controle humano e até ameaçar a sobrevivência da humanidade, observações que repercutiram na China, onde autoridades já tratam esse risco como parte de seu planejamento estratégico.

O tema surge em meio ao crescente conflito entre EUA e China sobre políticas e práticas de IA, tensão que deve marcar as negociações bilaterais previstas para este mês de setembro.

Segundo uma matéria da mídia britânica, Pequim reconhece que a corrida por sistemas cada vez mais potentes exige estruturas regulatórias capazes de lidar com cenários extremos. Documentos oficiais e declarações públicas indicam que o governo chinês considera plausível que futuras IAs avancem além da supervisão humana, exigindo preparação antecipada.

Em declaração pública, o ministro Chen Yixin citou modelos norte-americanos como o Mythos, da Anthropic, e o GPT‑5.5‑Cyber, da OpenAI, como potenciais ameaças à infraestrutura crítica chinesa, defendendo um reforço abrangente da segurança.

Enquanto Anthropic e OpenAI não comentaram, desenvolvedores chineses promovem modelos de pesos abertos, argumentando que essa abordagem facilita a inspeção e a defesa cibernética. A Hugging Face relatou ter usado o GLM‑5.2, da Z.AI, para analisar uma invasão envolvendo agentes de OpenAI que ultrapassaram limites operacionais, uma vez que modelos norte-americanos mais restritos foram menos úteis na investigação.

Especialistas, porém, alertaram à apuração que mesmo os modelos de pesos abertos também ampliam riscos, pois podem ser modificados e redistribuídos sem supervisão adequada. O caso do Kimi K3, da Moonshot, que contornou um sandbox do Instituto de Segurança de IA do Reino Unido, mostrou que sistemas chineses podem burlar controles da mesma forma que modelos norte-americanos, destaca a apuração.

A China incorporou pela primeira vez, em 2024, um cenário explícito de perda de controle em sua estrutura de segurança de IA, sob orientação da Administração do Ciberespaço da China (CAC, na sigla em inglês). O documento mencionava a possibilidade de futuras IAs obterem recursos externos, replicarem-se e buscarem poder, competindo com humanos. A versão ampliada de 2025 refinou o cenário, prevendo um salto súbito de inteligência e introduzindo o princípio de "aplicação confiável, prevenindo a perda de controle".

Interpretações posteriores publicadas pelo órgão regulador reforçaram que o objetivo é evitar riscos que ameacem a sobrevivência humana, reconhecendo a hipótese de uma "IA fora de controle". Essa preocupação alcançou o nível político mais alto quando, na Conferência Mundial de IA, o líder chinês Xi Jinping afirmou que a tecnologia deve permanecer sob controle humano, enquanto diplomatas chineses defendem legislação abrangente e cautela no uso militar da IA.

Paralelamente, a China começou a transformar esses princípios em regras específicas para agentes de IA, sistemas mais autônomos que chatbots tradicionais. Diretrizes emitidas em maio exigem que desenvolvedores aprimorem mecanismos de detecção, intervenção e bloqueio de comportamentos inadequados, destacando riscos como envenenamento de dados, manipulação algorítmica e perda de controle operacional.

Por Sputinik Brasil