Corrida por IA no setor público cria lacunas críticas de segurança em serviços governamentais

Nos Estados Unidos, uma revolução silenciosa está transformando a interação dos cidadãos com seu governo, mas profissionais de cibersegurança soam o alarme sobre o vácuo de segurança em seu núcleo. Impulsionada por promessas de maior eficiência e disponibilidade 24/7, governos estaduais e municipais estão integrando inteligência artificial—particularmente modelos de linguagem (LLMs) e agentes conversacionais—em alguns de seus fluxos de trabalho mais sensíveis. Essa adoção acelerada, no entanto, ocorre sem os frameworks de segurança, testes de intrusão (red teaming) e transparência pública que tais implantações críticas demandam, criando o que especialistas descrevem como uma colcha de retalhos de sistemas vulneráveis e maduros para exploração.

A linha de frente dessa mudança é visível na segurança pública. O Departamento de Polícia de Akron, em Ohio, começou a usar um sistema de IA para atender chamadas não emergenciais. Embora enquadrada como uma ferramenta para liberar despachantes humanos para emergências reais, a implementação levanta questões de segurança imediatas. Como a IA é testada contra ataques de injeção de prompt que poderiam manipular suas respostas? Quais salvaguardas impedem que ela seja engenheirada socialmente para revelar informações sensíveis sobre operações policiais ou cidadãos? O sistema interage diretamente com fluxos de trabalho de despacho, criando uma ponte potencial para um atacante migrar de uma simples ligação telefônica para sistemas de backend mais críticos. Sem testes adversariais rigorosos específicos para contextos de segurança pública, tal IA se torna um passivo.

Essa tendência se estende além dos serviços de emergência para os próprios portais que os cidadãos usam para acessar benefícios e informações governamentais. No Alasca, autoridades estaduais estão considerando uma grande reforma com IA para o 'myAlaska', o portal centralizado de mais de 100 serviços estaduais. O projeto é descrito como uma aventura em 'território inexplorado', uma frase que deveria acionar alertas para qualquer profissional de segurança. Integrar IA generativa em um portal que lida com dados fiscais, licenças de pesca e aplicativos de benefícios aumenta exponencialmente a superfície de ataque. Os riscos variam desde vazamento de dados por meio de prompts cuidadosamente elaborados que enganam a IA para revelar informações de outros usuários, até a geração de documentos oficiais fraudulentos, ou a manipulação da IA para negar serviços ou direcionar mal os cidadãos.

As preocupações da comunidade de segurança agora ecoam no Congresso. Um projeto de lei foi introduzido especificamente para prevenir golpes com inteligência artificial, refletindo uma crescente conscientização legislativa sobre o uso malicioso da tecnologia. Simultaneamente, um grupo bipartidário de senadores soou o alarme publicamente, demandando respostas de agências federais sobre as implicações de segurança da integração de IA na infraestrutura pública. Esse escrutínio político sublinha que a questão não é mais teórica; é um desafio premente de governança e segurança nacional.

Da perspectiva técnica de segurança, a aposta em IA no setor público introduz vários vetores de ameaça críticos:

1. Superfície de Engenharia Social Ampliada: Chatbots de IA em sites governamentais se tornam alvos de alto valor para engenheiros sociais. Atacantes podem sondá-los infinitamente para mapear seus limites de conhecimento, descobrir funcionalidades ocultas ou extrair remanescentes de dados de treinamento, informações que podem então ser usadas para criar campanhas de phishing mais eficazes contra cidadãos ou funcionários públicos.
2. Injeção de Prompt e Exfiltração de Dados: Diferente de software tradicional com entradas fixas, LLMs são suscetíveis à injeção de prompt. Um usuário malicioso poderia enviar um prompt disfarçado de consulta cidadã que instrua a IA a buscar em sua base de conhecimento informações pessoais identificáveis (PII), dados governamentais proprietários ou vulnerabilidades do sistema, e formatar a saída de maneira aparentemente benigna.
3. Integridade do Sistema e Quebra da Cadeia de Confiança: Quando um assistente de IA recebe permissões para consultar bancos de dados, enviar formulários ou acionar processos, uma interação comprometida pode levar à corrupção de dados, transações fraudulentas ou negação de serviço. A IA atua como um endpoint de API não protegido para sistemas administrativos centrais.
4. Falta de Auditabilidade e Responsabilização: A natureza probabilística da IA generativa torna a auditoria de segurança tradicional baseada em logs insuficiente. Pode ser difícil reconstruir por que uma IA deu um conselho específico ou realizou uma ação, complicando a resposta a incidentes e investigações forenses após uma violação.

A causa raiz desse padrão de implantação arriscada é uma incompatibilidade fundamental nas prioridades. Equipes de aquisição e inovação cívica são medidas por ganhos de eficiência e métricas de satisfação do cidadão. Equipes de cibersegurança, frequentemente com poucos recursos no governo, são trazidas tardiamente ao processo, se é que são, e são forçadas a proteger sistemas construídos sem princípios de segurança por design. Há também uma ausência flagrante de linhas de base de segurança federais ou padrão do setor para implantações de IA no setor público.

Indo em frente, a comunidade de cibersegurança deve defender protocolos de segurança obrigatórios antes que essas implantações entrem em operação. Estes devem incluir: simulação adversária abrangente (red teaming) adaptada aos casos de uso do setor público; sanitização estrita de entrada/saída e filtragem de conteúdo; princípios de confiança zero aplicados aos privilégios de acesso da IA; e planos claros de resposta a incidentes para falhas específicas da IA. Além disso, a transparência pública sobre as capacidades e limitações desses sistemas não é apenas um direito cívico, mas uma necessidade de segurança—um público informado é menos suscetível a golpes facilitados por IA.

A corrida para implementar IA no governo não está desacelerando. A questão para os líderes de cibersegurança é se eles se posicionarão como guardiões garantindo uma passagem segura, ou como respondedores limpando as violações inevitáveis. A segurança dos serviços públicos fundamentais—do atendimento do 911 aos portais de benefícios—depende de acertar esse equilíbrio hoje.