IA en salud: riesgos de privacidad en wearables y ChatGPT

La rápida adopción de tecnologías de inteligencia artificial en el sector salud está generando nuevos desafíos de ciberseguridad que requieren atención urgente por parte de los profesionales de privacidad. Dos desarrollos recientes destacan la creciente tensión entre innovación y protección de datos médicos en aplicaciones de IA.

Escrutinio regulatorio a wearables con IA

La FDA estadounidense intervino recientemente contra Whoop, exigiendo la eliminación de su función de monitoreo de presión arterial. El organismo determinó que el sistema de 'Blood Pressure Insights' impulsado por IA carecía de validación clínica adecuada, pudiendo generar datos inexactos. Este caso revela tres problemas críticos:

1. Riesgos en integridad de datos: Algoritmos no validados pueden producir resultados médicos engañosos
2. Vacíos regulatorios: Muchos dispositivos operan en zona gris entre electrónica de consumo y equipos médicos
3. Vulnerabilidades: Los wearables con datos de salud son blancos atractivos para ciberdelincuentes

Riesgos de privacidad con ChatGPT en salud

Profesionales médicos alertan sobre los peligros de usar ChatGPT para temas de salud. Si bien la herramienta muestra potencial para tareas administrativas, se advierte contra el ingreso de información sensible debido a:

• Falta de cumplimiento HIPAA en el manejo de datos por OpenAI
• Políticas de retención de datos poco claras que podrían exponer información protegida
• Riesgo de contaminación de datos de entrenamiento con información confidencial

'Vemos profesionales experimentando con ChatGPT para desde redactar comunicados hasta apoyar diagnósticos', explica la Dra. Elena Martínez, CMIO del Hospital Clínic. 'Sin salvaguardas adecuadas, esto genera gran exposición para pacientes e instituciones.'

Recomendaciones para equipos de ciberseguridad

1. Para wearables médicos:

• Implementar segmentación estricta de red para dispositivos IoT de salud
• Requerir autenticación multifactor para acceso a datos médicos
• Auditar regularmente las afirmaciones de IA de terceros

1. Para herramientas de IA generativa:

• Establecer políticas claras que prohíban ingresar información médica protegida
• Implementar soluciones empresariales con controles de cumplimiento
• Capacitar al personal en riesgos de privacidad asociados a IA

Estos casos demuestran cómo las tecnologías emergentes pueden superar los protocolos de seguridad existentes, requiriendo adaptación proactiva de los equipos de seguridad informática.