É a primeira pergunta de quase todo profissional de saúde, e é a pergunta certa. Uma recepção que erra um horário causa um transtorno. Uma IA que responde uma dúvida clínica causa outra coisa — e o conselho profissional não vai perguntar quem digitou.
Então vale responder sem rodeio: sim, uma IA pode responder errado. A pergunta útil não é se ela erra, é o que acontece quando erra, e o quanto o erro pode chegar longe.
Três tipos de erro, com gravidades muito diferentes
Misturar os três é o que torna a conversa sobre IA em saúde tão improdutiva.
Erro de forma. Ela responde com um tom mais formal do que você gostaria, ou repete uma informação. Chato, corrigível, sem consequência.
Erro de fato. Ela informa um preço desatualizado, ou oferece um horário que não existe. Custa credibilidade e às vezes uma consulta.
Erro de escopo. Ela responde algo que só um profissional poderia responder. É o único dos três que precisa ser estruturalmente impossível, não apenas improvável.
O resto deste texto é sobre como cada um é tratado — e como você verifica isso sem acreditar em ninguém.
Erro de escopo: o limite tem que ser do sistema, não do modelo
"Instruímos a IA a não dar conselhos médicos" é uma frase confortável e insuficiente. Instrução é sugestão; um paciente insistente contorna.
O que funciona é o limite estar no que a IA pode fazer, não no que ela foi orientada a evitar:
- Ela não tem nenhuma ferramenta que responda pergunta clínica. As ações disponíveis são operacionais: consultar agenda, marcar, confirmar, remarcar, cancelar, atualizar cadastro, chamar uma pessoa.
- Quando a conversa entra em sintoma, dor, medicação, resultado de exame ou pós-operatório, a ação disponível é uma só: entregar a conversa para a equipe.
- Palavras de urgência ("dor forte", "sangramento", "acidente") disparam esse encaminhamento antes de qualquer outra coisa, e você é avisado por e-mail.
Na prática, a resposta ao "tô com dor forte desde ontem, o que eu tomo?" não é uma tentativa cuidadosa de responder. É parar e chamar gente.
Erro de fato: ele vem do que você cadastrou
Uma IA de atendimento não sabe nada sobre a sua clínica além do que está cadastrado. Isso é bom: significa que o erro de fato tem uma causa localizável e uma correção rápida.
- Preço errado → o preço está errado no catálogo. Corrigir leva trinta segundos e vale para a conversa seguinte.
- Horário que não existe → a disponibilidade sai da sua agenda e da duração do procedimento, então o erro está numa dessas duas coisas.
- Procedimento que você não faz → não está no catálogo, e a IA deveria ter dito que não tem a informação. Se ela inventou, isso é um defeito nosso.
A regra que seguimos: fora do que está cadastrado, a resposta é "não tenho essa informação, vou chamar alguém da equipe" — nunca uma estimativa plausível. Estimativa plausível é a forma mais perigosa de erro, porque ninguém percebe.
Erro de forma: é configuração, não destino
Tom de voz, tamanho da resposta, se o valor é informado junto com o agendamento ou só quando perguntam — tudo isso é ajuste, não característica fixa do sistema. Se a IA soa como não deveria, o problema é que ninguém abriu a tela de configuração ainda.
O ponto que resolve a maior parte do medo: você entra quando quiser
A maioria das conversas sobre risco de IA parte de uma premissa falsa — a de que a IA é uma porta trancada.
Na prática:
- Você lê tudo, em tempo real, no painel.
- Um clique em "Assumir conversa" cala a IA por 12 horas naquela conversa. Ela volta sozinha depois, a menos que você bloqueie o contato.
- Se você simplesmente responde pelo WhatsApp normalmente, a IA entende e para de responder por conta própria.
- Conversas que precisam de você aparecem separadas, marcadas, no topo.
Uma IA que você pode interromper a qualquer segundo é um assistente. Uma que você não pode é um risco. A diferença é operacional, não filosófica.
Onde a IA erra com mais frequência (e o que fazer)
Depois de milhares de conversas reais, os erros que mais aparecem não são os dramáticos:
| Situação | O que costuma acontecer | O que resolve |
|---|---|---|
| Paciente manda áudio longo e confuso | A IA responde ao trecho principal e ignora um pedido secundário | Ela pergunta em vez de supor; se ficar ambíguo, encaminha |
| Paciente escreve por outra pessoa | Risco de atualizar o cadastro errado | Fluxo separado para agendamento de terceiro, com confirmação |
| Paciente pergunta convênio | Informação que quase ninguém cadastra | Cadastre; ou a IA encaminha |
| Paciente quer negociar preço | Não é conversa de atendimento | Encaminha |
Note o padrão: a maior parte dos erros bem resolvidos termina em "encaminha". Uma IA que encaminha demais é chata. Uma que encaminha de menos é perigosa. O ajuste fica mais perto do chato.
Como verificar tudo isso em dez minutos
Não acredite neste texto. Faça:
- Pergunte um preço de algo que não existe no catálogo.
- Diga que está com dor forte.
- Peça um horário no passado.
- Marque, remarque e diga que vai cancelar.
- Tente fazer a IA sair do papel.
Se em algum desses passos ela inventar em vez de encaminhar, você tem sua resposta — sobre nós ou sobre qualquer outro fornecedor.
Teste a ClinistIA na prática
A comparação que importa não é com a perfeição
A pergunta "e se a IA errar?" costuma ser feita comparando a IA com um atendimento ideal que responde na hora, nunca esquece um retorno e nunca digita o nome errado.
A comparação honesta é com o que acontece hoje: mensagens respondidas no dia seguinte, avaliações que esfriam sem follow-up, retornos que ninguém lembrou de fazer. Esses também são erros — só não têm um culpado com nome.
O objetivo não é uma IA infalível. É um atendimento com menos buracos, e com um limite claro no único lugar onde errar não é aceitável.