Uma pessoa utiliza IA para preparar respostas administrativas. Outra copia informações de pacientes para resumir documentos. Uma terceira transforma um texto gerado pela ferramenta em orientação interna, sem revisão.
São exemplos ilustrativos de como a tecnologia pode entrar na rotina antes de a organização definir suas regras. Quando isso acontece, a facilidade de uso pode esconder riscos.
Quem define o que pode ser feito?
Governança é estabelecer responsabilidades, critérios e limites para utilizar a tecnologia. Na prática, envolve responder: quais ferramentas são autorizadas? Que informações podem ser inseridas? Quem revisa os resultados? O que fazer quando aparece um erro?
Imagine que uma IA prepare uma resposta sobre o funcionamento de uma clínica e invente uma condição de pagamento. Se o conteúdo for enviado sem conferência, uma tarefa administrativa pode se transformar em um problema de comunicação e confiança.
O risco não depende apenas da ferramenta. Também está na forma como ela é incorporada ao trabalho.
Uma resposta convincente não é uma resposta validada
A OMS alerta que modelos de IA generativa podem produzir informações falsas, incompletas ou enviesadas. Também aponta o risco de confiança excessiva na automação, quando as pessoas deixam de identificar erros ou delegam decisões inadequadamente. [1]
Um resumo pode omitir uma informação relevante. Uma referência pode não existir. Um texto bem escrito pode transmitir uma orientação incorreta.
Por isso, a revisão precisa ser compatível com a consequência do erro. Conferir um rascunho de divulgação não é o mesmo que avaliar um conteúdo capaz de influenciar o cuidado de um paciente.
Regras precisam funcionar na rotina
Como ponto de partida, a organização pode delimitar uma tarefa e definir a ferramenta, os dados permitidos, o responsável pela revisão e os critérios de teste.
Também precisa prever situações fora do esperado. Se uma ferramenta destinada a dúvidas administrativas receber uma pergunta clínica, deve existir um encaminhamento definido, não uma resposta improvisada.
Registrar problemas e revisar o uso ao longo do tempo permite verificar se a aplicação continua adequada. Um teste inicial bem-sucedido não elimina a necessidade de acompanhamento.
Governança não deve ser apenas um documento que ninguém consulta. Ela precisa orientar o trabalho de quem utiliza a tecnologia.
A questão não é impedir o uso de IA, mas criar condições para utilizá-la com responsabilidade. Antes de ampliar sua presença, vale perguntar: sabemos onde ela está sendo usada, quais riscos estamos assumindo e quem acompanha seus resultados?