Uma resposta organizada, com linguagem técnica e referências, pode parecer confiável. Mas a qualidade da apresentação não comprova a qualidade da informação.

Na saúde, essa diferença importa tanto na elaboração de materiais quanto no apoio a tarefas administrativas e profissionais. Antes de utilizar uma resposta, é necessário verificar o que ela afirma e quais seriam as consequências de um erro.

Uma referência pode parecer real e não existir

Imagine que uma equipe utilize IA para preparar um material educativo. A ferramenta apresenta uma explicação convincente e cita um estudo. Ao procurar a publicação, ninguém consegue encontrá-la.

Walters e Wilder identificaram referências inventadas e erros bibliográficos em textos produzidos por GPT-3.5 e GPT-4. O estudo foi publicado em 2023 e não representa uma avaliação de todas as ferramentas atuais, mas demonstra por que referências geradas precisam ser conferidas. [1]

Não basta verificar se o link abre. É preciso confirmar se o documento existe, se os autores e a data estão corretos e se a fonte realmente sustenta a afirmação.

O erro também pode estar no resumo

Uma IA pode produzir um resumo legível e, ainda assim, omitir uma condição importante, misturar informações ou acrescentar uma conclusão ausente no original.

O NIST reconhece a produção de conteúdo falso ou incorreto apresentado de forma convincente como um risco da IA generativa. [2]

Por exemplo, ao resumir um procedimento interno, a ferramenta pode retirar uma exceção que determina quando a tarefa deve ser encaminhada a outro profissional. O texto fica mais curto, mas deixa de representar o processo.

Nesse caso, a conferência precisa comparar o resultado com o documento original, não apenas avaliar se a redação está boa.

A revisão precisa acompanhar o risco

Para um rascunho administrativo, pode ser necessário conferir horários, condições e responsáveis. Para conteúdo que possa influenciar o cuidado, a avaliação exige conhecimento profissional e fontes adequadas ao assunto.

Perguntar novamente à mesma IA se ela tem certeza não constitui verificação independente. A checagem deve recorrer ao material original, a fontes externas confiáveis e à pessoa responsável pelo conteúdo.

Também é importante evitar inserir informações sensíveis em ferramentas cuja autorização e condições de uso não foram avaliadas.

A IA pode apoiar a elaboração de uma resposta. A confiança para utilizá-la precisa vir da verificação, não do tom com que foi escrita.