Illinois pioneiro na regulamentação de terapia por IA: multas de US$ 10 mil por bots de saúde mental sem licença

Em uma decisão histórica sobre governança de IA, Illinois implementou as primeiras penalidades financeiras do país direcionadas a aplicações de inteligência artificial não licenciadas na área de saúde mental. O código atualizado de Saúde Mental e Deficiências de Desenvolvimento do estado agora autoriza multas de até US$ 10 mil por infração para qualquer entidade que ofereça serviços terapêuticos por meio de IA sem supervisão clínica ou licenciamento adequados.

Esta ação regulatória segue múltiplos relatos de pacientes vulneráveis recebendo conselhos prejudiciais de chatbots terapêuticos sem salvaguardas apropriadas. "Quando sistemas de IA adentram o território clínico sem proteções adequadas, tornam-se vendedores de óleo de cobra digitais", declarou a senadora estadual Sara Feigenholtz, que propôs a legislação.

As implicações para a cibersegurança são particularmente significativas dada a sensibilidade dos dados de saúde mental. Bots terapêuticos não regulamentados frequentemente não cumprem padrões HIPAA, com vários casos documentados de armazenamento inadequado de dados de sessões ou compartilhamento com anunciantes. A nova lei exige que provedores de terapia por IA implementem criptografia ponta-a-ponta, realizem auditorias de segurança regulares e mantenham políticas adequadas de retenção de dados.

Especialistas em TI para a saúde alertam que muitos aplicativos de saúde mental para consumidores operam em áreas cinzentas regulatórias. "Essas plataformas usam termos de responsabilidade vagos para evitar classificação como dispositivos médicos enquanto fazem alegações terapêuticas", explicou o Dr. Michael Chen, pesquisador em cibersegurança médica da Universidade Northwestern. A lei de Illinois proíbe especificamente que sistemas de IA diagnostiquem condições ou recomendem tratamentos sem envolvimento clínico humano.

O mecanismo de fiscalização combina denúncias de usuários com monitoramento proativo pelo Departamento de Regulação Financeira e Profissional de Illinois. Primeiras infrações normalmente resultam em ordens de cessação, com multas progressivas para reincidentes. Autoridades estaduais já identificaram doze plataformas que podem estar sujeitas às novas restrições.

Este desenvolvimento ocorre enquanto a FDA prepara atualizações em suas diretrizes sobre software como dispositivo médico (SaMD) baseado em IA/ML. Profissionais de cibersegurança devem observar a ênfase da lei em:

1) Requisitos de proveniência de dados para treinar modelos terapêuticos de IA
2) Prazos obrigatórios para notificação de violações
3) Proibição de usar dados de pacientes para fins secundários sem consentimento explícito

Analistas legais preveem medidas similares na Califórnia e Nova York durante a próxima sessão legislativa. A abordagem de Illinois oferece um potencial modelo para equilibrar inovação em IA com proteções ao paciente em áreas sensíveis da saúde.