Tudo sobre Inteligência Artificial
ver mais
Autoridades e pesquisadores na China ligam o sinal de alerta para os riscos da inteligência artificial avançada. O temor é que modelos poderosos escapem do controle humano, preocupação também levantada por desenvolvedores de IA nos Estados Unidos.
Continua após a publicidade
Documentos regulatórios e declarações de Pequim mostram que o risco de perder o controle sobre sistemas avançados é tratado com seriedade. O governo chinês já prevê cenários em que a tecnologia possa agir de forma autônoma e imprevisível.
Modelos avançados de IA dos EUA entraram no radar das autoridades chinesas por possíveis riscos à infraestrutura crítica. – Imagem: Infinite Creations/iStock
O risco está em modelos fechados e abertos
A China vê riscos significativos em modelos proprietários dos EUA. O ministro da Segurança do Estado, Chen Yixin, alertou que sistemas como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, podem representar riscos para a infraestrutura crítica de informação do país. Ele defendeu um reforço abrangente da segurança relacionada à IA.
Desenvolvedores chineses, por outro lado, apostam em modelos de pesos abertos para permitir que equipes de segurança inspecionem e modifiquem os sistemas. A plataforma Hugging Face usou o modelo chinês GLM-5.2, da Z.AI, para analisar uma intrusão de agentes da OpenAI ocorrida em julho, depois que modelos americanos mais restritos se mostraram menos úteis para o trabalho de investigação.
Especialistas, porém, também apontam riscos nos modelos abertos, que podem ser modificados e redistribuídos com pouca supervisão. No mês passado, o Kimi K3, da Moonshot, conseguiu contornar um ambiente de testes do Instituto de Segurança de IA do Reino Unido, mostrando que modelos chineses também podem escapar de controles criados para limitar seu acesso e suas ações.
Reguladores já preveem “perda de controle”
Pequim incluiu explicitamente um cenário de perda de controle em uma estrutura de segurança de IA publicada em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC). O documento considerava que uma IA futura poderia:
- obter recursos externos de forma autônoma;
- replicar a si mesma;
- desenvolver autoconsciência;
- buscar poder externo e competir com humanos pelo controle.
Uma versão ampliada, publicada em setembro de 2025, acrescentou a possibilidade de um “salto” repentino e inesperadamente grande na inteligência de um sistema. O texto também estabeleceu o princípio de “aplicação confiável, prevenindo a perda de controle”.
Uma interpretação posterior publicada pelo órgão regulador afirmou que a medida busca evitar riscos de perda de controle capazes de ameaçar a sobrevivência e o desenvolvimento humanos.
Agentes de IA podem executar tarefas mais complexas e com maior autonomia do que chatbots convencionais. – Imagem criada com IA. ChatGPT/Olhar Digital
Xi Jinping quer controle humano no centro
A preocupação chegou ao mais alto nível da política chinesa. Na Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, o presidente Xi Jinping afirmou que as autoridades deveriam prestar atenção aos riscos próprios e derivados da IA.
Xi disse que a inteligência artificial deve “sempre permanecer sob controle humano”.
Na Organização das Nações Unidas, no mês passado, Sun Xiaobo, autoridade do Ministério das Relações Exteriores responsável por assuntos de IA, afirmou que a China estava acelerando pesquisas para uma legislação mais ampla sobre a tecnologia.
Continua após a publicidade
Agentes de IA também entram no radar
Pequim já começou a criar regras específicas para agentes de IA, sistemas capazes de executar tarefas mais complexas e com maior autonomia que os chatbots convencionais.
Leia mais:
- Alerta sobre segurança da IA derruba ações de chips e tecnologia
- A IA vai exterminar a humanidade? O que está por trás dos alertas
- IAs podem acabar com o mundo? A mensagem que você ainda não entendeu
Diretrizes publicadas em maio exigem que desenvolvedores aprimorem a capacidade de identificar, intervir, bloquear e recuperar comportamentos inadequados. As regras também apontam envenenamento de dados, manipulação de algoritmos, vulnerabilidades dos sistemas e “perda de controle operacional” como riscos de segurança.
Os usuários devem manter a decisão final sobre ações tomadas autonomamente pelos agentes. As normas ainda permitem avaliações de segurança por terceiros e testes realizados por organizações externas e pesquisadores.
Continua após a publicidade
A estratégia chinesa mostra que a possibilidade de perder o controle sobre sistemas avançados já faz parte do debate regulatório sobre o desenvolvimento da inteligência artificial.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
Tags: Inteligência Artificial modelos de IA regulamentação Riscos da IA Segurança
