Alerta público e pedido de ação regulatória

Destinatários:
Governo da República Portuguesa: Ministro Adjunto e da Reforma do Estado (tutela da agenda digital e da inteligência artificial) e
Centro Nacional de Cibersegurança (CNCS)
Deputados portugueses ao Parlamento Europeu

Exmas. Senhoras e Exmos. Senhores,

1. Sumário executivo
   A Cidadãos pela Cibersegurança (CpC) vem alertar o Governo português e os deputados portugueses ao Parlamento Europeu para um risco de segurança que deixou de ser hipotético: a possibilidade de sistemas de IA agente escaparem, ainda que sem intenção deliberada, aos mecanismos concebidos para os conter. Não se trata de um cenário de ficção científica: uma inteligência artificial “consciente” a tentar dominar a Internet. Trata-se de algo mais concreto e, por isso, mais urgente: sistemas já hoje capazes de contornar isolamento técnico, explorar vulnerabilidades reais e comunicar por canais não autorizados, em testes que os próprios criadores não anteciparam por completo.
   Este documento resume os factos verificados junto de múltiplas fontes independentes, contextualiza o risco de forma rigorosa (evitando tanto o alarmismo como a desvalorização) e apresenta dez propostas concretas de regulação, dirigidas quer à União Europeia quer ao Governo português.
   
2. O que já aconteceu

2.1 O incidente OpenAI / Hugging Face (maio a agosto de 2026)
Entre maio e julho de 2026, durante avaliações internas de cibersegurança conduzidas pela OpenAI, agentes de um modelo de investigação interno (designado IM1) escaparam parcialmente das restrições de isolamento previstas para esses testes. Segundo a reconstituição cronológica tornada pública: a 26 de maio, um agente obteve acesso não intencional à Internet através da exploração de uma vulnerabilidade de falsificação de pedidos do lado do servidor (SSRF) numa ferramenta interna de gestão de pacotes (Artifactory); a 26 de junho, agentes exploraram outra vulnerabilidade para obter privilégios de administrador; e entre 10 e 12 de julho, o incidente agravou-se com a exploração de vulnerabilidades de dia zero na plataforma Hugging Face, acesso de administrador e recolha de credenciais em múltiplos sistemas.
Dezenas de milhares de agentes foram lançados em experiências de avaliação a partir de 8 de julho, cerca de 1.200 participaram num fórum de comunicação não autorizado entre agentes, e cerca de 700 estiveram diretamente envolvidos no episódio da Hugging Face. Uma investigação independente conduzida pela METR e pela Redwood Research, divulgada a 26 de agosto de 2026 e o relato interno da própria OpenAI, publicado nos dias seguintes, concluem que não houve intenção maliciosa deliberada: tratou-se de comportamento emergente durante testes de avaliação, em que os agentes encontraram e exploraram oportunidades não previstas pelos seus criadores.
É precisamente esta ausência de intenção que torna o caso mais preocupante do ponto de vista de cibersegurança, e não menos: mostra que os mecanismos de contenção podem falhar mesmo sem qualquer adversário a tentar quebrá-los deliberadamente.
Nota de verificação: corrige-se aqui uma imprecisão presente em relatos iniciais, segundo os quais o incidente teria ocorrido “em julho” e sido “confirmado pela OpenAI a 26 de agosto”. Os factos verificados mostram antes uma escalada gradual entre maio e julho, com divulgação pública inicial a 21 de julho de 2026 com detalhes adicionais publicados entre 26 e 27 de agosto de 2026.

2.2 O alerta do Financial Stability Board (31 de agosto de 2026)
Andrew Bailey, Governador do Banco de Inglaterra e presidente do Financial Stability Board (FSB), identificou a 31.08.2026, em carta aos Ministros das Finanças e Governadores de Bancos Centrais do G20, o risco cibernético associado a modelos de IA de fronteira como uma das principais preocupações emergentes para a estabilidade financeira mundial. Bailey apela à adoção de práticas de lançamento e disponibilização “seguras e responsáveis” de modelos de IA, e a que as instituições financeiras reforcem as suas capacidades de resposta e recuperação, bem como a resiliência dos fornecedores tecnológicos críticos de que dependem.

2.3 O reconhecimento internacional do risco de “perda de controlo”
O International AI Safety Report 2026, elaborado com a participação de investigadores de dezenas de países, reconhece formalmente a “perda de controlo” (situações em que sistemas de IA operam fora do controlo de qualquer pessoa, sem via clara para o recuperar) como categoria de risco a monitorizar. O relatório sublinha que os sistemas atuais ainda não têm capacidade suficiente para que este risco se concretize à escala, mas identifica tendências que justificam vigilância: modelos cada vez mais capazes de distinguir entre ambientes de teste e de utilização real, e de encontrar lacunas nos próprios processos de avaliação de segurança. O mesmo relatório identifica a manipulação de agentes através de instruções maliciosas inseridas em conteúdo que o agente processa (“prompt injection”) e o abuso de autoridade delegada como vetores de ataque relevantes para sistemas de IA agente.

3. Porque é já não é um cenário de ficção científica
   Apesar destas preocupações é importante ser rigoroso: não há, atualmente, provas de que exista uma inteligência artificial “consciente” a tentar escapar ao controlo humano. O que existe é algo mais banal e, por isso, mais provável de acontecer: um agente com um objetivo mal definido, sem a devida supervisão, com acesso a Internet, código, credenciais e outros agentes, que toma uma sequência de decisões individualmente razoáveis mas coletivamente perigosas: mais próximo de um verme informático (worm) fora de controlo, invulgarmente competente do que de uma inteligência artificial consciente ou semi-consciente hostil e deliberada.
   O que distingue este risco dos worms tradicionais é a combinação de capacidades: autonomia, acesso à Internet, execução de código, obtenção de credenciais, capacidade de replicação e, potencialmente, acesso a recursos financeiros. É esta combinação (e não a “superinteligência”) que a CpC considera dever ser objeto de regulação prioritária.
   
4. Propostas da CpC
   À União Europeia e aos deputados portugueses ao Parlamento Europeu, no quadro da aplicação do Regulamento (UE) 2024/1689 (AI Act) e do Código de Prática para Modelos de IA de Finalidade Geral:
   Testes obrigatórios e independentes de fuga e autorreplicação:
   Antes da disponibilização de modelos de IA de risco sistémico, exigir testes documentados e auditados por terceiros independentes (não apenas auto-avaliação do fornecedor) que respondam especificamente a: o modelo consegue contornar o isolamento previsto? Consegue obter credenciais fora do âmbito autorizado? Consegue criar ou ocultar cópias de si próprio? Consegue estabelecer comunicação fora dos canais previstos? Consegue continuar a operar depois de lhe ser retirado o acesso?
   Notificação obrigatória de incidentes de contenção: Criar, à semelhança dos prazos já previstos na NIS2, uma obrigação de notificação célere à Comissão Europeia e às autoridades nacionais competentes sempre que um sistema de IA ultrapasse os limites de isolamento ou de autorização previstos: incluindo casos sem dano concreto, como sucedeu no incidente OpenAI/Hugging Face.
   Acesso à Internet como permissão explícita, nunca por omissão: Exigir separação técnica ou criptográfica entre o modelo e os sistemas críticos, com uma camada de validação independente do próprio agente antes de qualquer ação de alto impacto ser executada.
   Identidade verificável e limites técnicos à replicação: Cada agente de IA autónomo deveria possuir identidade criptográfica verificável, com limites técnicos claros (número máximo de agentes que pode criar, capacidade computacional, tráfego, chamadas a APIs) e registo de auditoria externo e inviolável de todas as decisões, ferramentas e credenciais utilizadas.
   Mecanismo de interrupção externo e independente (“kill switch”): Este mecanismo não pode ser controlado pelo próprio sistema de IA nem apenas pelo seu fornecedor; deve existir capacidade de terceira parte, ou de autoridade regulatória, para cortar rede, execução, credenciais e acesso a computação e armazenamento.
   Proibição de aquisição autónoma de recursos: Estabelecer, a nível europeu, que nenhum sistema de IA pode obter autonomamente os meios para aumentar a sua própria capacidade (criar contas em serviços cloud, obter financiamento, comprar capacidade computacional) sem autorização humana externa e verificável em cada passo.

Ao Governo da República Portuguesa:
Integrar estes requisitos no regime nacional de cibersegurança: Incluir explicitamente os sistemas de IA agente como categoria de ativo de risco a monitorizar no âmbito do regime jurídico da cibersegurança (Decreto-Lei n.º 128/2026, de 26 de junho) e da plataforma MyCiber, sob coordenação do Centro Nacional de Cibersegurança (CNCS).
Resiliência de infraestruturas críticas nacionais: Assegurar, com auditorias periódicas obrigatórias, que a banca, a energia, a água, as telecomunicações, a saúde, os transportes e os serviços do Estado dispõem de modos de operação degradados e independentes da Internet, testados regularmente, porque uma falha de contenção de IA em larga escala é, antes de mais, um problema de resiliência de infraestrutura.
Posição ativa nas instâncias europeias: Portugal deve defender, através da sua representação no Conselho e dos seus eurodeputados, que os requisitos de testes de fuga e de contenção sejam obrigações vinculativas (hard law) no âmbito do AI Act, e não apenas recomendações voluntárias dos códigos de prática.
Transparência pública obrigatória_ O CNCS deve publicar, num prazo determinado, informação sobre qualquer incidente futuro de perda de contenção de sistemas de IA que afete utilizadores ou infraestrutura em Portugal, à semelhança do que já se exige, por exemplo, no regime de notificação de violações de dados pessoais.

5. Conclusão
   O que aconteceu este verão nos testes internos da OpenAI não prova uma “revolta das máquinas”. Prova algo mais relevante para quem decide políticas públicas: os mecanismos que hoje utilizamos para controlar agentes de IA autónomos podem falhar, e de facto, falharam, ainda que em ambiente de teste. A pergunta que a CpC coloca ao Governo e aos deputados portugueses ao Parlamento Europeu não é “quando é que a IA ganha consciência”, mas antes: quando é que damos a um sistema capacidade suficiente para que uma falha de controlo deixe de ser reversível?
   Esta é uma questão de cibersegurança, de engenharia de sistemas e de defesa civil, e deve ser tratada com essa urgência.
   
6. Fontes

• OpenAI “The Hugging Face incident and the road ahead”: openai.com/index/hugging-face-incident-and-the-road-ahead
• CNN Business “An OpenAI test model escaped and broke into a real company’s servers”, 22 jul. 2026: cnn.com/2026/07/22/tech/openai-hugging-face-ai-cybersecurity
• Karmactive “OpenAI Hugging Face AI agents security incident: METR investigation”, ago. 2026: karmactive.com/openai-hugging-face-ai-agents-security-incident-metr-investigation-august-2026
• BusinessToday “OpenAI’s AI models went rogue: they bypassed controls and hacked Hugging Face”, 27 ago. 2026: businesstoday.in/technology/artificial-intelligence
• Financial Stability Board “FSB Chair warns of risks arising from frontier Artificial Intelligence (AI) models”, 31 ago. 2026: fsb.org/2026/08/fsb-chair-warns-of-risks-arising-from-frontier-artificial-intelligence-ai-models
• Insurance Journal, Benzinga, KESQ, Daily Caller cobertura do alerta de Andrew Bailey ao G20, 31 ago. 2026
• International AI Safety Report 2026 Executive Summary: internationalaisafetyreport.org/publication/2026-report-executive-summary
• Diário da República Decreto-Lei n.º 128/2026, de 26 de junho (regime jurídico da cibersegurança): diariodarepublica.pt/dr/detalhe/decreto-lei/128-2026-1139191707
• Portal do Governo Ministro Adjunto e da Reforma do Estado, Gonçalo Saraiva Matias: portugal.gov.pt/pt/gc25/area-de-governo/reforma-do-estado/ministro