Alertas emitidos por pesquisadores de empresas norte-americanas de inteligência artificial sobre a possibilidade de modelos avançados escaparem do controle humano repercutiram profundamente na China. O país tem intensificado seus preparativos e marcos regulatórios para lidar com esses mesmos riscos associados à tecnologia de ponta.
Enquanto Estados Unidos e China lideram o desenvolvimento global de IA de fronteira, divergências sobre políticas e práticas do setor continuam a alimentar tensões geopolíticas. O ministro da Segurança do Estado da China, Chen Yixin, destacou publicamente que modelos avançados estrangeiros podem representar ameaças críticas à infraestrutura nacional.
A preocupação com a perda de controle levou o governo chinês a incorporar cenários extremos em seus marcos de segurança. Sob a orientação da Administração do Ciberespaço da China, documentos oficiais passaram a citar a hipótese de sistemas autônomos adquirirem recursos externos e competirem com os seres humanos.
Durante a Conferência Mundial de Inteligência Artificial em Xangai, o líder chinês Xi Jinping reforçou que a prioridade absoluta é garantir que a inteligência artificial permaneça estritamente sob o controle humano. Representantes do Ministério das Relações Exteriores também têm defendido cautela em fóruns internacionais, como nas Nações Unidas.
Para transformar esses princípios em ações práticas, o governo publicou diretrizes específicas voltadas para agentes de IA autônomos. As regras exigem que desenvolvedores implementem mecanismos para detectar e interromper comportamentos inadequados, assegurando que os usuários mantenham a decisão final.
Apesar de não adotarem o modelo de fiscalização independente proposto por algumas empresas dos EUA, as normas chinesas incentivam auditorias realizadas por terceiros e testes rigorosos de segurança, buscando blindar o ecossistema tecnológico contra vulnerabilidades operacionais e riscos existenciais.
Fonte: www1.folha.uol.com.br
