A IA de atendimento pode dar informação clínica errada ou prometer o que a clínica não cumpre? Como evito?

"A IA de atendimento pode dar informação clínica errada ou prometer o que a clínica não cumpre? Como eu evito?"

Resposta curta: pode, sim. E a conta não cai no fornecedor da ferramenta. Cai na clínica.

A boa notícia é que isso não é um risco solto no ar. É um risco gerenciável, com causa conhecida e barreira clara.

O erro da IA não é aleatório. Ele tem origem previsível, tipos mapeáveis e um conjunto de guardrails que quase nenhum dono instala antes de colocar o robô pra atender.

E ele roda o tempo todo. Nas clínicas atendidas pela Odonto Results, 43,8% dos leads chegam fora do horário comercial e 19,4% no fim de semana, dados internos da Odonto Results. Quase metade do contato acontece sem ninguém da equipe por perto pra revisar o que a IA respondeu.

Ou seja: o guardrail não é refinamento. É o que separa uma IA que agenda paciente de uma IA que cria passivo jurídico.

Neste guia você vai ver:

• Por que a IA inventa (e por que soa tão convincente quando erra)
• Os tipos de erro clínico que ela pode cometer na sua clínica
• Quem responde legalmente quando ela erra: você, pelo CFO e pelo CDC
• O playbook de guardrails pra restringir, testar, auditar e corrigir
• Como a governança e a LGPD entram no fluxo automatizado

O que é alucinação de IA e por que ela inventa com cara de certeza

Comece pela causa. A IA de linguagem não "sabe" fatos. Ela prevê o próximo trecho de linguagem mais provável, não confere se aquilo é verdade.

Pensa assim: ela completa a frase com o que soa plausível, do mesmo jeito que o corretor do celular sugere a próxima palavra. Quando não tem a informação certa, ela não trava. Ela preenche.

Esse preenchimento com cara de fato é o que se chama de alucinação. O modelo entrega uma resposta inventada com o mesmo tom seguro de uma resposta correta.

E não é defeito só de ferramenta barata. Em estudo revisado por pares com 12.197 saídas de modelos de linguagem, 7% a 9% das respostas do GPT-4.1 traziam diretrizes clínicas inventadas, mesmo com instrução explícita pra seguir as diretrizes reais. Fonte: BMJ Health & Care Informatics, via PubMed Central.

Se um modelo de ponta inventa protocolo clínico até quando mandam não inventar, uma IA de atendimento sem barreira vai inventar sobre a sua clínica. A pergunta não é "se", é "com que frequência e sobre o quê".

Os tipos de erro clínico que a IA pode cometer na clínica

Agora fica concreto. O erro não é abstrato: ele aparece em categorias que você consegue prever e blindar. Veja os mais comuns numa clínica odontológica:

Tipo de erro	Como aparece na conversa	Por que é grave
Procedimento que a clínica não faz	"Sim, fazemos implante zigomático" quando ninguém faz	Paciente marca esperando algo que não existe ali
Preparo ou jejum trocado	Orientação de preparo de exame ou pré-cirúrgico errada	Vira decisão clínica errada, remarcação e risco
Contraindicação inventada	"Você não pode fazer clareamento" sem base	Afasta o paciente de um tratamento indicado
Preço ou horário inventado	Valor ou horário que não está na tabela real	Vira obrigação pelo CDC e frustração na recepção
Convênio ou credenciamento errado	Diz que atende um convênio já descredenciado	Paciente comparece e descobre que não é atendido
Diagnóstico ou opinião clínica	"Isso parece infecção, comece com tal remédio"	Infração ética (CFO, Art. 44, V) e risco à saúde

Repare no padrão: quase todo erro cai em duas famílias. Ou a IA afirma algo que não é verdade sobre a operação (procedimento, preço, convênio), ou ela invade o campo clínico que é do dentista (diagnóstico, contraindicação, conduta).

Cada família tem um guardrail próprio, e a gente chega neles. Antes, entenda por que o tom da IA engana.

O tom seguro da IA engana: certeza não é sinal de acerto

Aqui mora a armadilha que pega o dono desprevenido. A IA erra com a mesma confiança com que acerta.

Ela não diz "acho que", não hesita, não sinaliza dúvida. Ela responde firme. E firmeza soa como competência, tanto pro paciente quanto pra equipe que lê a conversa por cima.

Os números confirmam o descompasso. Num estudo experimental que avaliou quatro chatbots de IA respondendo a perguntas de pacientes sobre cuidados de emergência, os modelos entregaram informação potencialmente perigosa em 5% a 35% das respostas, e a acurácia e completude receberam a nota máxima em apenas 50% dos casos avaliados por médicos. Fonte: Journal of Medical Internet Research, via PubMed Central.

Metade das respostas com nota máxima, uma fatia relevante perigosa, e tudo dito com o mesmo tom convicto. Esse é o ponto.

Lembre: o tom seguro da IA não é medida de verdade. Ela expressa certeza mesmo quando está errada, então você nunca pode usar "soou convincente" como controle de qualidade. O controle tem que ser estrutural, não impressão.

O risco real começa no paciente, não no relatório

Antes de falar de lei, olhe pro paciente. É ele quem sofre primeiro o erro.

Uma pessoa que recebe informação clínica falsa da IA pode tomar uma decisão de saúde com base em algo que a clínica nunca disse de verdade. Adia um tratamento por uma contraindicação inventada. Faz um preparo errado. Confia num "pode esperar" que não deveria existir.

Não é um lead perdido. É uma pessoa orientada errado por um canal que leva o nome da sua clínica.

E é exatamente esse dano ao paciente que abre a porta da responsabilidade legal. O que vem a seguir não é tecnicismo: é a consequência direta de um erro que chegou até alguém.

Quem responde quando a IA erra: você, não o fornecedor

Essa é a parte que mais surpreende o dono. Muita gente assume que, se a ferramenta errou, o problema é da ferramenta. Não é.

O Código de Ética Odontológica é direto. Pela publicidade e propaganda em desacordo com o Código respondem solidariamente os proprietários, o responsável técnico e os demais profissionais que concorreram para a infração (Art. 45). Fonte: Conselho Federal de Odontologia.

Traduzindo pro seu caso: o canal automatizado leva o nome e a responsabilidade técnica da clínica. Se ele divulga algo em desacordo com o Código, quem responde é você e o seu RT, não quem vendeu o software.

E o Código também trata do conteúdo clínico. Ele classifica como infração ética dar consulta, diagnóstico, prescrição de tratamento ou divulgar resultados clínicos por qualquer veículo de comunicação (Art. 44, V). Isso é vedado até ao próprio profissional. Um canal da clínica que faz isso comete a mesma infração.

Some a isso a responsabilidade civil pelo dano causado ao paciente, e o recado fica claro: a IA é uma extensão da clínica, e a clínica assina embaixo de tudo que ela diz.

Prometer o que a clínica não cumpre vira obrigação contratual

O segundo grande risco não é o erro clínico. É a promessa. E aqui a lei é ainda mais objetiva.

Pelo Código de Defesa do Consumidor, a oferta e a publicidade suficientemente precisas obrigam o fornecedor e integram o contrato (Art. 30). Se o fornecedor recusar cumprir, o consumidor pode exigir o cumprimento forçado da obrigação nos termos anunciados (Art. 35). Fonte: Tribunal de Justiça do DF e Territórios, Direito Fácil.

O que isso significa na prática? Tudo que a IA prometer vira exigível:

• Preço: se ela cravou "R$ 4.000 no protocolo", esse é o preço que o paciente pode cobrar.
• Prazo: "seus dentes ficam prontos em 7 dias" é um prazo que passa a valer.
• Brinde ou condição: "avaliação com tomografia grátis" vira obrigação.
• Resultado: "sem dor" ou "garantia de sucesso" é promessa que o paciente pode exigir e que ainda esbarra na ética.

Prometer resultado, aliás, é duplamente arriscado: além de virar obrigação pelo CDC, colide com a vedação à publicidade enganosa e abusiva do CFO, que inclui o uso indevido de preços e de "antes e depois" (Art. 44, I).

Lembre: a IA não precisa "mentir" pra criar passivo. Basta prometer com precisão algo que a clínica não entrega sempre. Uma promessa boa demais dita 24 horas por dia é um contrato que você não sabia que assinou.

A base desatualizada: o erro que a própria clínica planta

Nem todo erro nasce da alucinação. Uma parte grande nasce de dentro de casa: a IA responde certo o que está na base, mas a base está velha.

É o erro silencioso, porque a IA parece funcionar. Ela só está repetindo, com confiança, uma verdade que deixou de ser verdade. Exemplos que aparecem toda semana:

• Dentista que saiu. A IA segue oferecendo a especialista que não atende mais ali.
• Convênio descredenciado. Ela confirma um convênio que a clínica não aceita há meses.
• Tabela de preço antiga. Ela passa o valor do ano passado e o paciente cobra na recepção.
• Horário ou unidade que mudou. Ela agenda pra um turno ou endereço que não existe mais.

O ponto é incômodo, mas útil: aqui o culpado não é o modelo, é o processo. Quem alimenta a IA precisa de rotina de atualização, senão a ferramenta vira um repetidor fiel de informação obsoleta. Veja como treinar e alimentar a IA com os dados da clínica.

Como evitar: o playbook de guardrails

Chegamos ao "como evito". A resposta não é uma coisa, são camadas. Cada uma corta um tipo de erro. Instale todas.

1. Restrinja a IA à base configurada (grounding). Trave a IA pra responder só o que está registrado na base da clínica, sem "criar" resposta. É a diferença entre uma IA que consulta a sua fonte e uma que improvisa. Sem essa barreira, todo o resto perde força.

2. Defina o escopo: o que ela pode e o que não pode dizer. Escreva instruções claras de atendimento. A IA fala de horário, endereço, procedimentos que a clínica faz, faixa de preço aprovada e agendamento. Ela não opina sobre diagnóstico, conduta ou caso específico.

3. Proíba diagnóstico, prescrição e opinião clínica. Isso não é só boa prática, é o Art. 44, V do CFO. A regra é simples: dúvida clínica não se responde no chat, se encaminha pra avaliação. A IA informa e agenda; o dentista avalia, na cadeira.

4. Escalone pra humano na dúvida (handoff). Toda vez que a conversa sai do escopo (pergunta clínica, caso complexo, reclamação, urgência), a IA passa pra equipe em vez de arriscar. Um bom handoff é o que impede a IA de "chutar" pra não deixar o paciente sem resposta. Veja quando a IA deve passar o atendimento para um humano.

5. Corrija na fonte, nunca só no chat. Achou um erro? Conserte na base que a IA lê (o preço, o script, a informação), não respondendo dentro daquela conversa. A máquina não aprende com a correção pontual de um chat. Se a informação errada continuar na fonte, ela repete o erro na próxima conversa.

6. Teste antes de subir. Rode um roteiro de perguntas-armadilha (procedimento que não faz, preço, contraindicação, urgência, convênio) e confira se ela responde só a base e escala o resto. Não coloque no ar sem esse teste.

7. Audite as conversas depois. Revise por amostragem o que a IA respondeu, procure erros recorrentes e leve a correção pra fonte. Auditar não é desconfiança, é manutenção. É o que transforma erro pontual em melhoria de base.

8. Seja transparente e cuide da promessa da própria clínica. Avise que é um assistente virtual e não deixe a comunicação da clínica prometer o que a IA não entrega (o clássico "atendimento 24h com IA" que, na prática, não agenda nada de madrugada). Overpromising começa antes da conversa, no seu próprio anúncio.

Quer o mapa completo de como montar esse atendimento do zero? Veja o guia de IA de atendimento para clínica.

Governança de IA na clínica: quem responde e o que documentar

Guardrail é o controle na conversa. Governança é o controle em volta dela. Uma clínica que fatura alto não trata a IA como gadget: trata como um canal com dono, política e rastro.

Monte esta estrutura mínima:

Elemento de governança	O que definir	Por que importa
Responsável nomeado	Quem responde pela IA (gestor ou RT)	Sem dono, ninguém revisa nem corrige
Política interna de uso	O que a IA pode e não pode dizer	Alinha equipe e evita improviso
Base e escopo	A IA só responde o que está registrado	Corta alucinação na raiz
Regra de handoff	Quando escalar pra humano	Impede a IA de chutar no clínico
Rastreabilidade	Registro e auditoria das conversas	Permite achar e corrigir o erro
Contrato com o fornecedor	Correção, atualização, dados, limitação de responsabilidade	Define de quem é cada obrigação

O contrato com o fornecedor merece atenção. Ele deveria prever como e em quanto tempo a base é atualizada, como um erro é corrigido, como os dados são tratados e os limites de responsabilidade de cada lado. Não pra jogar a culpa fora (você viu que a clínica responde de todo jeito), mas pra ter processo quando algo falhar.

Governança não é burocracia. É o que permite dizer, com documento na mão, que a clínica tem controle sobre o próprio canal.

LGPD: dado de saúde exige cuidado reforçado no fluxo automatizado

Falta uma camada que muita clínica esquece: proteção de dados. E ela pesa mais aqui do que em qualquer outro atendimento.

A LGPD classifica dado referente à saúde como dado pessoal sensível (Art. 5, II), cujo tratamento exige consentimento do titular de forma específica e destacada, para finalidades específicas (Art. 11, I). Fonte: Lei Geral de Proteção de Dados, Planalto.

Uma IA que coleta e responde sobre dados de pacientes está tratando dado sensível o tempo todo. Isso significa base de consentimento clara, segurança reforçada no fluxo e transparência sobre quem está do outro lado.

Avisar que o paciente fala com um assistente virtual não é só cortesia. Ajuda no encaixe da LGPD e evita que ele decida algo de saúde achando que conversou com o dentista. Para o desenho completo, veja LGPD na clínica: dados de leads e pacientes.

Seu próximo passo

1. Faça o teste-armadilha hoje. Mande pra sua IA cinco perguntas que ela não deveria responder sozinha (um procedimento que a clínica não faz, um preço, uma contraindicação, uma urgência, um convênio). Veja se ela inventa, promete ou escala. O resultado te diz o tamanho do risco atual.
2. Instale as barreiras que faltarem. Trave a base (grounding), proíba diagnóstico e promessa, configure o handoff e defina quem é o responsável pela IA. Corrija sempre na fonte, nunca só no chat.
3. Ponha governança em volta. Documente a política de uso, a rotina de atualização da base, a auditoria das conversas e as cláusulas do contrato com o fornecedor. É isso que blinda a clínica que atende sem humano por perto quase metade do tempo.

Quer uma IA de atendimento que agenda paciente sem virar risco jurídico, com guardrail e governança de verdade? Agende uma apresentação.