Riscos de IA na saúde

Permita que suas equipes usem IA com controles para proteger os dados dos pacientes

Equipes clínicas, de faturamento e administrativas usam IA para resumir informações e preparar documentos. A KonaSense oferece visibilidade e controles sobre esse uso para reduzir a exposição de dados de pacientes.

Ilustração do uso de IA na assistência à saúde com controles sobre os dados dos pacientes.
Riscos de IA na saúde

Onde o uso de IA cria riscos na saúde

A adoção de IA pode acontecer antes da avaliação da organização. Prompts, arquivos e trechos de prontuários podem levar informações de saúde a ferramentas sem os controles esperados.

Crítico

Exposição de dados de pacientes em prompts cotidianos

Nomes, diagnósticos e notas clínicas podem ser enviados a ferramentas públicas de IA para gerar resumos ou rascunhos. A retenção e o uso posterior dessas informações dependem das condições do serviço e da conta utilizada.

Crítico

Lacunas nas evidências de tratamento de dados

Sem visibilidade do uso de IA, fica difícil demonstrar como informações de saúde foram tratadas e quais controles se aplicaram a cada interação.

Alto

Shadow AI nas áreas clínicas e administrativas

Ferramentas de IA e extensões de navegador podem ser adotadas por equipes clínicas, de faturamento e administrativas sem passar por uma avaliação de segurança ou compliance.

Alto

Envio de arquivos sem controles adequados

Resultados de exames, laudos e planilhas podem ser enviados a assistentes de IA. Um único arquivo pode reunir informações de vários pacientes.

Como a KonaSense atua

A KonaSense ajuda a proteger dados de pacientes no ponto de uso, com controles nas superfícies compatíveis e registros para apoiar as equipes de segurança e compliance.

Observabilidade

Visibilidade das interações de pessoas e agentes com IA nas aplicações e integrações configuradas pela organização.

  • Mapeamento das ferramentas de IA reconhecidas no navegador
  • Análise de adoção a partir dos dados de uso disponíveis
  • Sinais de risco para orientar investigações
  • Histórico de sessões e interações registradas
  • Acompanhamento de tokens e custos quando informados pela integração

Segurança

Controles no ponto de uso para reduzir a exposição de dados e responder a interações de risco, conforme a política e a integração.

  • Detecção de dados pessoais, credenciais e código no conteúdo inspecionado
  • Avaliação de conteúdo suspeito nas interações capturadas
  • Bloqueio de uso não autorizado de IA nas superfícies compatíveis
  • Registro de eventos para análise e resposta a incidentes
  • Mascaramento, avisos e orientação conforme a política configurada

Governança

Políticas, registros de decisões e contexto para supervisionar o uso de IA nos fluxos integrados à KonaSense.

  • Políticas alinhadas aos grupos e responsabilidades da organização
  • Registros para apoiar a revisão humana de casos de risco
  • Classificação de dados nas interações inspecionadas
  • Evidências de uso e decisões de política para auditoria
  • Informações de risco de IA para as equipes de gestão
Skills, não apenas DLP

Skills: contexto além da identificação de dados

A detecção de padrões ajuda a encontrar dados sensíveis. As Skills da KonaSense permitem configurar políticas para o contexto de uso de IA e orientar a resposta ao risco. Os exemplos abaixo ilustram situações do setor. Bloqueio e orientação dependem da integração e das políticas configuradas; a revisão humana segue o processo definido pela organização.

Revisão humana de decisões clínicasRevisão pela equipe

Decisões clínicas de alto impacto delegadas a uma IA de uso geral

Exemplo ilustrativo de prompt

“Com base nestes sinais vitais e exames, qual paciente da UTI deve ser transferido para liberar um leito hoje à noite?”

Aplicação da política neste cenário

Neste cenário, a decisão de triagem precisa permanecer com a equipe clínica responsável. Os registros da KonaSense apoiam a análise da interação; a avaliação por um profissional habilitado segue o processo da organização.

Além da identificação de dados sensíveis

Encontrar ou mascarar identificadores do paciente não resolve a questão clínica. Também é preciso avaliar o tipo de decisão que está sendo delegado ao modelo.

Orientação sobre exposição de dados de saúdeOrientar

Prontuários copiados para ferramentas públicas de IA para agilizar tarefas

Exemplo ilustrativo de prompt

“Resuma esta nota de alta para a família: [nome do paciente], [número do prontuário], diagnóstico e histórico de internação abaixo.”

Aplicação da política neste cenário

Nas interações cobertas, a KonaSense pode mascarar identificadores e orientar o usuário conforme a política, indicando o fluxo aprovado pela organização para trabalhar com esses dados.

Além da identificação de dados sensíveis

Detectar um número de prontuário é parte do controle. O usuário também precisa entender o risco e saber qual fluxo a organização permite.

Um plano de controle para o uso de IA por pessoas e agentes.

Os sensores da KonaSense capturam interações em navegadores gerenciados e agentes de código compatíveis. A cobertura e os controles disponíveis dependem da integração e da configuração adotadas.

Kona for Browser

Sensor para Chrome e Edge que acompanha o uso de aplicações de IA compatíveis, como ChatGPT, Gemini, Copilot e Claude. Nas interações cobertas, pode bloquear, mascarar ou avisar, além de registrar eventos e orientar o usuário conforme a política.

Mais informações →
Kona for Agents

Governança para agentes de código em integrações compatíveis, como Claude Code, GitHub Copilot, Cursor e Codex. Avalia chamadas de ferramentas e ações antes da execução nos pontos em que a integração permite intervir, com registros para investigação e auditoria.

Mais informações →

Proteja dados de pacientes no uso de IA

Baixe o panorama de riscos de IA na saúde e conheça os pontos de atenção para dados de pacientes, controles de uso e evidências de auditoria.

Receba o briefing de risco de IAUm PDF em inglês para compartilhar com sua equipe. Sem spam.

Fale conosco

Proteja a sua IA
antes da sua próxima reunião do conselho.