A China está tornando suas regras sobre inteligência artificial cada vez mais rígidas, com atenção especial ao risco de a IA escapar da supervisão humana. O regulador do ciberespaço chinês, a CAC, publicou em setembro de 2024 uma estrutura de segurança que menciona explicitamente a possibilidade de sistemas de IA desenvolverem autoconsciência, obterem recursos de forma autônoma e buscarem fontes de poder, criando riscos de competição com os próprios seres humanos. Em setembro de 2025, uma versão ampliada do documento entrou em vigor, tornando o cenário ainda mais específico ao falar em "salto repentino de capacidade" da IA, com risco de ela se replicar e agir sem controle. O texto incorporou o princípio de "aplicação confiável" e de prevenção da perda de controle.

O presidente Xi Jinping, durante a Conferência Mundial de Inteligência Artificial realizada em julho em Xangai, declarou que a IA deve permanecer "sempre sob controle humano". O diplomata Sun Xiaobo informou que a China está acelerando estudos para criar uma legislação mais ampla sobre o tema, e o vice-representante na ONU, Sun Lei, pediu cautela no uso militar da IA para evitar corrida armamentista e erros estratégicos.

O país também publicou regras específicas para os chamados agentes de IA, sistemas mais autônomos que chatbots convencionais, exigindo que desenvolvedores identifiquem e bloqueiem comportamentos inadequados e que os usuários mantenham a decisão final sobre ações autônomas dos sistemas.

O ministro da Segurança do Estado, Chen Yixin, afirmou que modelos de IA desenvolvidos nos Estados Unidos podem ameaçar a infraestrutura crítica chinesa e alertou que grupos estrangeiros usam IA generativa para fabricar rumores políticos e promover "guerras cognitivas" contra o país. Ele classificou a inteligência artificial como "o principal campo de batalha da competição tecnológica global".