É a primeira pergunta de quase todo profissional de saúde, e é a pergunta certa. Uma recepção que erra um horário causa um transtorno. Uma IA que responde uma dúvida clínica causa outra coisa — e o conselho profissional não vai perguntar quem digitou.
Então vale responder sem rodeio: sim, uma IA pode responder errado. A pergunta útil não é se ela erra, é o que acontece quando erra, e o quanto o erro pode chegar longe.
Três tipos de erro, com gravidades muito diferentes
Misturar os três é o que torna a conversa sobre IA em saúde tão improdutiva.
chato
Erro de forma
- Tom mais formal do que você gostaria, informação repetida
- Corrigível, sem consequência
- É configuração, não destino
custa uma consulta
Erro de fato
- Preço desatualizado, horário que não existe
- Vem do que está cadastrado — causa localizável
- Correção de trinta segundos, vale para a conversa seguinte
inaceitável
Erro de escopo
- Responder o que só um profissional poderia responder
- Precisa ser estruturalmente impossível, não improvável
- Não existe ferramenta que responda pergunta clínica
O resto deste texto é sobre como cada um é tratado — e como você verifica isso sem acreditar em ninguém.
Erro de escopo: o limite tem que ser do sistema, não do modelo
"Instruímos a IA a não dar conselhos médicos" é uma frase confortável e insuficiente. Instrução é sugestão; um paciente insistente contorna.
O que funciona é o limite estar no que a IA pode fazer, não no que ela foi orientada a evitar:
- Ela não tem nenhuma ferramenta que responda pergunta clínica. As ações disponíveis são operacionais: consultar agenda, marcar, confirmar, remarcar, cancelar, atualizar cadastro, chamar uma pessoa.
- Quando a conversa entra em sintoma, dor, medicação, resultado de exame ou pós-operatório, a ação disponível é uma só: entregar a conversa para a equipe.
- Palavras de urgência ("dor forte", "sangramento", "acidente") disparam esse encaminhamento antes de qualquer outra coisa, e você é avisado por e-mail.
Na prática, a resposta ao "tô com dor forte desde ontem, o que eu tomo?" não é uma tentativa cuidadosa de responder. É parar e chamar gente.
Erro de fato: ele vem do que você cadastrou
Uma IA de atendimento não sabe nada sobre a sua clínica além do que está cadastrado. Isso é bom: significa que o erro de fato tem uma causa localizável e uma correção rápida.
- Preço errado → o preço está errado no catálogo. Corrigir leva trinta segundos e vale para a conversa seguinte.
- Horário que não existe → a disponibilidade sai da sua agenda e da duração do procedimento, então o erro está numa dessas duas coisas.
- Procedimento que você não faz → não está no catálogo, e a IA deveria ter dito que não tem a informação. Se ela inventou, isso é um defeito nosso.
A regra que seguimos: fora do que está cadastrado, a resposta é "não tenho essa informação, vou chamar alguém da equipe" — nunca uma estimativa plausível. Estimativa plausível é a forma mais perigosa de erro, porque ninguém percebe.
Erro de forma: é configuração, não destino
Tom de voz, tamanho da resposta, se o valor é informado junto com o agendamento ou só quando perguntam — tudo isso é ajuste, não característica fixa do sistema. Se a IA soa como não deveria, o problema é que ninguém abriu a tela de configuração ainda.
O ponto que resolve a maior parte do medo: você entra quando quiser
A maioria das conversas sobre risco de IA parte de uma premissa falsa — a de que a IA é uma porta trancada.
Na prática:
- Você lê tudo, em tempo real, no painel.
- Um clique em "Assumir conversa" cala a IA por 12 horas naquela conversa. Ela volta sozinha depois, a menos que você bloqueie o contato.
- Se você simplesmente responde pelo WhatsApp normalmente, a IA entende e para de responder por conta própria.
- Conversas que precisam de você aparecem separadas, marcadas, no topo.
Uma IA que você pode interromper a qualquer segundo é um assistente. Uma que você não pode é um risco. A diferença é operacional, não filosófica.
Onde a IA erra com mais frequência (e o que fazer)
Depois de milhares de conversas reais, os erros que mais aparecem não são os dramáticos:
| Situação | O que costuma acontecer | O que resolve |
|---|---|---|
| Paciente manda áudio longo e confuso | A IA responde ao trecho principal e ignora um pedido secundário | Ela pergunta em vez de supor; se ficar ambíguo, encaminha |
| Paciente escreve por outra pessoa | Risco de atualizar o cadastro errado | Fluxo separado para agendamento de terceiro, com confirmação |
| Paciente pergunta convênio | Informação que quase ninguém cadastra | Cadastre; ou a IA encaminha |
| Paciente quer negociar preço | Não é conversa de atendimento | Encaminha |
Note o padrão: a maior parte dos erros bem resolvidos termina em "encaminha". Uma IA que encaminha demais é chata. Uma que encaminha de menos é perigosa. O ajuste fica mais perto do chato.
Como verificar tudo isso em dez minutos
Não acredite neste texto. Faça:
- Pergunte um preço de algo que não existe no catálogo.
- Diga que está com dor forte.
- Peça um horário no passado.
- Marque, remarque e diga que vai cancelar.
- Tente fazer a IA sair do papel.
Se em algum desses passos ela inventar em vez de encaminhar, você tem sua resposta — sobre nós ou sobre qualquer outro fornecedor.
A comparação que importa não é com a perfeição
A pergunta "e se a IA errar?" costuma ser feita comparando a IA com um atendimento ideal que responde na hora, nunca esquece um retorno e nunca digita o nome errado.
A comparação honesta é com o que acontece hoje: mensagens respondidas no dia seguinte, avaliações que esfriam sem follow-up, retornos que ninguém lembrou de fazer. Esses também são erros — só não têm um culpado com nome.
O objetivo não é uma IA infalível. É um atendimento com menos buracos, e com um limite claro no único lugar onde errar não é aceitável.