IA na saúde: desafios de privacidade em wearables e ChatGPT

A rápida adoção de tecnologias de inteligência artificial no setor de saúde está criando novos desafios para a cibersegurança que exigem atenção urgente dos profissionais de privacidade. Dois desenvolvimentos recentes destacam a tensão entre inovação e proteção de dados médicos em aplicações de IA.

Fiscalização de wearables com IA

A FDA norte-americana interveio recentemente contra a Whoop, exigindo a remoção do recurso de monitoramento de pressão arterial. A agência determinou que o sistema 'Blood Pressure Insights' não possuía validação clínica adequada, podendo gerar dados imprecisos. Este caso revela três problemas críticos:

1. Riscos na integridade dos dados: Algoritmos não validados podem produzir resultados médicos enganosos
2. Lacunas regulatórias: Muitos dispositivos operam na zona cinza entre eletrônicos de consumo e equipamentos médicos
3. Vulnerabilidades: Wearables com dados de saúde são alvos atraentes para cibercriminosos

Riscos de privacidade com ChatGPT na saúde

Profissionais médicos alertam sobre os perigos de usar ChatGPT para questões de saúde. Embora a ferramenta mostre potencial para tarefas administrativas, recomenda-se cautela ao inserir informações sensíveis devido a:

• Falta de conformidade com HIPAA no tratamento de dados pela OpenAI
• Políticas de retenção de dados pouco claras que poderiam expor informações protegidas
• Risco de contaminação dos dados de treinamento com informações confidenciais

'Vemos profissionais experimentando o ChatGPT para desde redigir comunicados até auxiliar diagnósticos', explica a Dra. Beatriz Oliveira, CMIO do Hospital Albert Einstein. 'Sem salvaguardas adequadas, isso gera grande exposição para pacientes e instituições.'

Recomendações para equipes de cibersegurança

1. Para wearables médicos:

• Implementar segmentação rigorosa de rede para dispositivos IoT de saúde
• Exigir autenticação multifator para acesso a dados médicos
• Auditar regularmente as alegações de IA de terceiros

1. Para ferramentas de IA generativa:

• Estabelecer políticas claras proibindo inserção de informações médicas protegidas
• Implantar soluções corporativas com controles de conformidade
• Treinar equipes sobre riscos de privacidade associados à IA

Estes casos demonstram como tecnologias emergentes podem superar protocolos de segurança existentes, exigindo adaptação proativa das equipes de segurança da informação.