IA e Automação

Como sei se a automação de IA está gerando faturamento a mais, ou só fazendo mais rápido o que ia acontecer de qualquer jeito?

O painel da automação conta o que ela tocou, nunca o que teria acontecido sem ela. Este guia mostra como montar um grupo de controle dentro da própria clínica, quais desenhos usar quando não dá para segurar lead, como separar aceleração de incremento e como converter o lift medido em receita tratada e em decisão de contrato.

Vinícius Ragazzi
Por Vinícius RagazziAtualizado em 31 de agosto de 2026 · 25 min de leitura
TL;DR

Você só sabe comparando com um grupo que não recebeu a automação: sorteie por lead uma fatia da entrada para ficar de fora, meça receita tratada por coorte fechada em janela longa e chame de lift apenas a diferença entre os dois grupos, nunca o total que o painel atribui.

Pontos-chave
  • Painel de automação não mede lift: ele conta o que tocou, não o contrafactual. O desenho padrão para isolar efeito causal é sortear unidades para controle e tratamento, como descreve o Google Research em Measuring Ad Effectiveness Using Geo Experiments (Vaver e Koehler, 2011): regiões geográficas que não se sobrepõem são sorteadas para condição de controle ou de tratamento.
  • Efeito medido com desenho causal tem tamanho, não é só sinal de mais ou menos: no estudo Generative AI at Work (Brynjolfsson, Li e Raymond, NBER Working Paper 31161, abril de 2023, revisado em novembro de 2023), com dados de 5.179 atendentes de suporte ao cliente, o acesso a um assistente conversacional de IA generativa aumentou a produtividade, medida em chamados resolvidos por hora, em 14% na média.
  • O lugar onde a automação tende a ser incremental de verdade é a hora em que ninguém atenderia: 46,0% dos leads de clínica odontológica chegam fora do horário comercial. Base: 16.719 leads com primeira mensagem no WhatsApp. Janela: 25 de março a 25 de agosto de 2026, dados internos da Odonto Results.

Faz parte do guia: O que é uma IA de atendimento para clínica odontológica e como ela funciona?

Nesta página
  1. TL;DR
  2. Pontos-chave
  3. Volume atribuído não é lift: a confusão que custa contrato
  4. Os três destinos de um paciente que a automação atendeu
  5. Por que todo painel de automação reporta resultado positivo
  6. O contrafactual: a peça que transforma volume em lift
  7. Grupo de controle (holdout) dentro da própria clínica
  8. Unidade de aleatorização: sorteie o LEAD
  9. Contaminação: os quatro vazamentos que matam o teste por dentro
  10. Tamanho de amostra: qual lift a sua base consegue enxergar
  11. Quando não dá para segurar lead: quatro desenhos alternativos
  12. Por que comparar mês contra mês engana
  13. Quebre a população antes de olhar a série temporal
  14. A métrica de desfecho certa: receita tratada por coorte de lead
  15. Coorte fechada de leads, não mês calendário
  16. Janela de maturação: o pico seguido do vale
  17. Efeito de novidade e efeito Hawthorne
  18. Onde a automação costuma ser incremental de verdade
  19. Converter o lift em R$ (e descontar o custo)
  20. Quando o resultado dá zero ou negativo
  21. Governança: pré-registre antes de ligar a chave
  22. Como apresentar o resultado para o dono
  23. Checklist: erros que invalidam a medição antes do resultado sair
  24. Seu próximo passo
  25. Perguntas frequentes

"Como sei se a automação de IA está gerando faturamento a mais, ou só fazendo mais rápido o que ia acontecer de qualquer jeito?"

Essa é a pergunta certa. E quase nenhum painel de automação responde a ela.

O painel te mostra conversas atendidas, tempo de resposta, agendamentos em que a IA apareceu no caminho. Tudo verdade. Nada disso é lift.

Lift é a diferença entre o que aconteceu e o que teria acontecido sem a automação. Esse segundo número não existe em lugar nenhum do seu sistema. Ele precisa ser construído, com desenho de teste, antes de você ligar a chave.

E a boa notícia: dá para construir dentro da sua clínica, sem laboratório, em uma janela que cabe num trimestre.

Neste guia você vai ver:

  • Por que todo painel de automação reporta resultado positivo, mesmo quando o ganho é zero
  • Os três destinos de um paciente atendido pela IA, e por que só um deles é faturamento novo
  • Como montar o grupo de controle (holdout) dentro da própria clínica, sem quebrar a operação
  • O que fazer quando segurar lead não é possível: rollout escalonado, unidade pareada e série temporal
  • Como converter o lift em R$, descontar o custo da automação e apresentar a decisão para o dono

Volume atribuído não é lift: a confusão que custa contrato

Existem dois números com nomes parecidos e significados opostos.

Volume atribuído é quanto a automação tocou. Sai do painel, é grande e é sempre positivo.

Lift incremental é quanto não teria acontecido sem ela. Não sai de painel nenhum. Precisa de comparação.

Pensa assim: se você contratar alguém para carimbar um papel que já estava assinado, o relatório dessa pessoa vai mostrar mil carimbos por mês. O carimbo é real. O contrato não.

A automação de atendimento está exatamente nessa posição. Ela toca o lead que já viria, o lead que viria mais tarde e o lead que não viria. O painel soma os três e chama de resultado.

Lembre: o painel de automação não mente. Ele responde a outra pergunta. Ele responde "o que eu toquei?", e você está perguntando "o que eu causei?".

Os três destinos de um paciente que a automação atendeu

Todo lead que passa pela IA vai para um de três lugares. Separar esses três é a base de toda a medição.

Destino O que significa O painel conta? É faturamento novo?
Viria de qualquer jeito O paciente já estava decidido e agendaria com ou sem a automação Sim, conta inteiro Não
Veio mais cedo (aceleração) O agendamento aconteceria de qualquer forma, só que semanas depois Sim, conta inteiro Não, é antecipação de caixa
Não viria (incremento) Sem resposta rápida ou sem follow-up, esse lead morria na fila Sim, conta inteiro Sim, é o lift

Repare no padrão: a coluna do painel é idêntica nas três linhas. A coluna que importa muda em todas.

E aceleração tem valor, só que outro valor. Antecipar receita melhora fluxo de caixa, ocupa cadeira ociosa mais cedo e reduz o risco de o paciente fechar com o concorrente no meio da espera. Só não é crescimento de faturamento anual, e você não pode somar duas vezes.

O erro comum é vender aceleração como incremento no primeiro trimestre e não ter o que mostrar no quarto.

Por que todo painel de automação reporta resultado positivo

Não é má-fé de fornecedor. É construção.

Um painel de automação enxerga só a população que a automação atendeu. Ele não tem, e não pode ter, a versão da mesma população sem automação. Sem esse espelho, qualquer conversa que terminou em agendamento entra como sucesso.

Some a isso três vieses que empurram o número para cima:

  1. Seleção pela intenção. Quem responde à IA já é quem estava mais quente. A automação recebe crédito por um sinal que ele mesmo emitiu.
  2. Atribuição por toque. Se a IA mandou uma mensagem em algum ponto da jornada, o agendamento vira dela, mesmo que a decisão tenha vindo da indicação da cunhada.
  3. Ausência de contrafactual. Não existe no relatório a linha "estes teriam agendado sozinhos". Então ela vale zero, e nunca vale zero.

O mesmo problema aparece na mídia paga, e vale a leitura cruzada: veja qual canal merece o crédito no seu modelo de atribuição.

Vou dar um exemplo do nosso lado, para não parecer conversa de quem só cobra dos outros.

Nas clínicas atendidas pela Odonto Results, entre os leads que agendam, metade fecha em até 34 minutos (recorte: agendamento dentro do WhatsApp, ritmo de decisão de quem já recebeu resposta imediata). Janela: 25 de março a 25 de agosto de 2026.

É um número real e é um número limitado: ele descreve o ritmo de quem já foi respondido na hora. Não existe ali um grupo lento para comparar. Então ele prova velocidade de decisão, não prova lift. A diferença entre essas duas frases é o assunto deste guia inteiro.

O contrafactual: a peça que transforma volume em lift

Contrafactual é a resposta para "o que teria acontecido com esses mesmos leads, no mesmo período, sem a automação?".

Como você não pode rodar a realidade duas vezes, o jeito de construir o contrafactual é sortear: uma parte recebe, outra não, e a diferença entre as duas é o efeito.

Esse é o desenho padrão em medição de mídia. No artigo Measuring Ad Effectiveness Using Geo Experiments (Vaver e Koehler, Google, 2011), os autores descrevem o método assim: regiões geográficas que não se sobrepõem são sorteadas para condição de controle ou de tratamento, e cada região realiza a condição sorteada por meio de anúncio geo-direcionado.

Troque "região geográfica" por "lead que entra na sua clínica" e você tem o teste que precisa.

A palavra que carrega tudo é sorteadas. Não escolhidas, não separadas por conveniência, não divididas por quem estava disponível. Sorteadas.

Grupo de controle (holdout) dentro da própria clínica

Holdout é a fatia da entrada que fica de fora da automação de propósito, pelo tempo do teste.

Ele não fica sem atendimento. Ele recebe o processo antigo: a recepção liga, a CRC responde quando dá, o WhatsApp é aberto no horário comercial. É exatamente o mundo que você tinha antes.

Cinco decisões definem o holdout:

  1. Qual percentual segurar. O suficiente para o efeito ser detectável, o mínimo para não doer. A conta vem do cálculo de poder, não do estômago.
  2. Por quanto tempo. Até a coorte maturar, não até o primeiro resultado bonito aparecer. Em odontologia, orçamento de alto ticket demora a fechar, então janela curta mede só a ponta rápida do funil.
  3. Quem opera o controle. Precisa ser a mesma equipe, com o mesmo empenho. Se a CRC souber que aquele grupo é "o grupo perdedor", ela mesma vira a variável.
  4. O que exatamente muda. Uma coisa por vez. Se você ligar IA de primeiro contato, IA de reativação e novo script comercial no mesmo dia, mediu o pacote, não a automação.
  5. Quando parar. Definido antes. Teste que termina quando o número fica bom não é teste, é seleção de evidência.

Lembre: o holdout tem custo e você deve dizer isso em voz alta na reunião. Segurar uma fatia por uma janela definida custa menos que renovar por um ano inteiro um contrato que você não sabe se funciona.

Unidade de aleatorização: sorteie o LEAD

Aqui mora o erro que mais invalida teste de automação em clínica.

A unidade de aleatorização é a coisa que você sorteia. Ela precisa ser a mesma coisa que você mede depois. Se você mede desfecho por lead, sorteie por lead.

O que não serve como unidade:

  • Dia da semana. Segunda não é igual a sexta, nem em volume nem em perfil de quem procura. Você compara automação com calendário.
  • Dentista ou cadeira. Agenda, especialidade, ticket e taxa de fechamento variam demais entre profissionais. O efeito do dentista some dentro do efeito da IA.
  • Canal de origem. Lead de busca é diferente de lead de rede social na intenção e no ticket. Sortear por canal mede canal.
  • Unidade da rede, quando são poucas. Com duas ou três unidades você não tem repetição suficiente para separar sinal de ruído.
  • Ordem de chegada ("os últimos leads do dia ficam de fora"). Horário carrega perfil, e você acabou de comprar um viés.

O sorteio certo é simples: no momento em que o lead entra, um número aleatório decide se ele vai para o fluxo com automação ou para o fluxo antigo. O critério é a entrada, não o comportamento posterior.

E ele precisa ser estável por pessoa: o mesmo paciente que voltar depois tem que cair no mesmo grupo, senão você contamina os dois lados com a mesma pessoa.

Contaminação: os quatro vazamentos que matam o teste por dentro

Contaminação é quando o grupo de controle recebe, sem querer, um pedaço do tratamento. O efeito medido encolhe e você conclui que a automação não funciona quando na verdade o teste vazou.

Os quatro vazamentos que aparecem em clínica:

  1. Equipe humana atendendo o holdout com afinco extra. A CRC quer provar que a mão dela é melhor que a IA. Ela responde em segundos o grupo que deveria receber o padrão antigo. Resultado: dois grupos tratados.
  2. Mesmo número de WhatsApp para os dois fluxos. Se a automação responde no mesmo número, qualquer regra frágil manda mensagem automática para quem estava no controle. Separe por regra explícita e audite a saída, não confie no combinado.
  3. Lead duplicado. O paciente preenche formulário e depois chama no WhatsApp. Duas entradas, dois sorteios, uma pessoa nos dois grupos. Deduplique por telefone antes de sortear.
  4. Indicação e boca a boca dentro do teste. O paciente do grupo tratado conta para o cônjuge, que entra como lead novo e cai no controle já convencido. Não dá para eliminar, dá para reconhecer que empurra o resultado para baixo.

Cheque isso com auditoria de mensagens, não com declaração. Puxe uma amostra de conversas do grupo de controle e leia. Se tiver resposta automática lá, o teste já vazou.

Tamanho de amostra: qual lift a sua base consegue enxergar

Poder estatístico é a chance de o teste encontrar um efeito que de fato existe. Teste sem poder devolve "não deu diferença" mesmo quando a automação está funcionando.

Três princípios que valem sem calculadora:

  • Quanto menor o efeito que você quer enxergar, maior a base necessária. Detectar uma virada grande é barato. Detectar um ganho modesto é caro.
  • Quem manda é o grupo menor. Se o holdout é uma fatia pequena, é ela que define a precisão, não o volume total da clínica.
  • Desfecho raro exige mais gente. Medir agendamento (evento frequente) precisa de menos base que medir caso de alto ticket fechado (evento raro).

Na prática, é isso que a janela te compra:

Volume de leads na coorte 30 dias 60 dias 90 dias
Poucas dezenas por mês Nada conclusivo, só direção Só efeito muito grande aparece Só efeito grande aparece
Algumas centenas por mês Só efeito muito grande Efeito grande, com faixa larga Efeito moderado começa a aparecer
Mais de mil por mês Efeito grande na ponta do funil Efeito moderado no agendamento Efeito moderado até a receita tratada

Antes de ligar o teste, peça o cálculo de poder usando a sua taxa de agendamento atual como taxa de base. Qualquer número que eu cravasse aqui, sem a sua base, seria chute.

Só para dar a ordem de grandeza do denominador com que se trabalha nesse tipo de leitura: nas clínicas atendidas pela Odonto Results, 12% dos leads viram agendamento dentro do WhatsApp (faixa de 9% a 15%, recorte in-channel, sem telefone). Base: 21.433 leads. Janela: 25 de março a 25 de agosto de 2026.

Com uma taxa de base nessa ordem, mover o ponteiro de forma detectável exige coorte grande. É por isso que teste de duas semanas quase sempre volta inconclusivo.

Quando não dá para segurar lead: quatro desenhos alternativos

Nem toda clínica aceita holdout. Às vezes o volume é baixo demais, às vezes o sócio não topa, às vezes a automação já está ligada há meses.

Aí você troca rigor por viabilidade, de forma consciente.

Desenho Como funciona Quando cabe Limite honesto
Rollout escalonado (stepped wedge) Liga a automação em datas diferentes por unidade, equipe ou linha de tratamento. Quem ainda não recebeu serve de comparação Rede com várias unidades ou clínica com times separados Precisa de várias unidades e de datas realmente escalonadas, não de duas
Unidade-controle pareada (matched market) Uma unidade fica sem automação e é comparada com uma unidade parecida em porte, praça e mix Rede pequena, quando segurar lead individual é inviável Duas unidades nunca são gêmeas. Diferença de praça vira efeito falso
Série temporal interrompida Modela a série histórica e projeta o que teria acontecido, comparando com o observado depois da virada Automação já ligada, sem controle possível Depende de série longa e estável, e não sobrevive a mudança de verba no meio
Liga e desliga por período Alterna semanas com e sem automação, sorteando quais semanas Volume alto e efeito rápido Não serve para desfecho lento (caso de alto ticket que fecha em meses)

O rollout escalonado tem pedigree. Foi o desenho usado no estudo Generative AI at Work (Brynjolfsson, Li e Raymond, NBER Working Paper 31161, abril de 2023, revisado em novembro de 2023), com dados de 5.179 atendentes de suporte ao cliente, e não com clínicas odontológicas. Os autores estudaram a introdução escalonada de um assistente conversacional baseado em IA generativa, e mediram aumento de produtividade, em chamados resolvidos por hora, de 14% na média.

Guarde a forma desse resultado: um número com tamanho, com desenho declarado e com população declarada. É assim que um resultado de automação deveria chegar na sua mesa.

Sobre a unidade pareada, vale a ressalva de quem inventou boa parte desse ferramental. No artigo Estimating Ad Effectiveness using Geo Experiments in a Time-Based Regression Framework (Kerman, Wang e Vaver, Google, 2017), os autores registram que o teste de mercado pareado compara o comportamento dos usuários de uma única região de controle com o de uma única região de teste, situação em que o método de regressão entre regiões não se aplica bem, por haver poucas unidades disponíveis.

O mesmo artigo descreve a saída: o método de regressão baseada em tempo prevê a série temporal da resposta contrafactual do mercado, o que permite estimar diretamente o efeito causal acumulado ao final do experimento.

Traduzindo para a sua realidade: quando sobra só uma unidade de comparação, o contrafactual passa a ser um modelo, não um sorteio. Continua útil e passa a carregar premissa. Diga isso na reunião.

Por que comparar mês contra mês engana

Pré contra pós é a medição mais usada e a mais frágil. Ela atribui à automação tudo que mudou no período.

Quatro coisas mudam sozinhas e falsificam o resultado:

  • Sazonalidade. Janeiro não é março, e dezembro não é nenhum dos dois. Odontologia tem estação.
  • Verba e mix de campanha. Se o investimento subiu no mesmo mês em que a IA entrou, os dois efeitos ficam grudados e não há como separar.
  • Tendência. Clínica que já vinha crescendo sozinha continua crescendo. Sem descontar a tendência, você credita à automação o seu próprio crescimento anterior.
  • Regressão à média. Você liga automação depois de um mês ruim. Mês ruim tende a ser seguido de mês menos ruim, sem nenhuma intervenção. Parte do "ganho" é só a estatística voltando ao normal.

Existe um sinal de alerta simples: se o resultado do pré contra pós for enorme, desconfie mais, não menos. Efeito gigante em medição frágil quase sempre é a soma de várias coisas que mudaram juntas.

Quebre a população antes de olhar a série temporal

Esse é o erro silencioso, o que passa por revisão.

Uma série temporal só é comparável se a população dela for a mesma nos dois lados da linha. Se no meio do período mudou o modelo de IA, entrou um canal novo, uma campanha grande foi ligada ou o mix de tratamento virou, você está comparando duas populações diferentes.

A média muda sem nada ter piorado ou melhorado. É composição, não desempenho.

Antes de plotar qualquer linha, quebre por:

  • Canal de origem (busca, rede social, indicação, base própria)
  • Tipo de tratamento (rotina, estética, alto ticket, urgência)
  • Unidade e turno
  • Versão da automação (mudou prompt, modelo ou fluxo? é outro regime)

Se cada quebra mostra estabilidade e só o agregado mudou, você achou uma mudança de mix, não um efeito.

A métrica de desfecho certa: receita tratada por coorte de lead

Conversas atendidas não é desfecho. Tempo de resposta não é desfecho. São métricas de processo, úteis para diagnosticar, inúteis para decidir contrato.

O desfecho que decide é receita tratada por coorte de lead: pegue todos os leads que entraram numa janela definida e siga esse mesmo conjunto até o dinheiro entrar.

A escada de desfecho, do mais fraco ao mais forte:

  1. Conversas atendidas (processo)
  2. Tempo até a primeira resposta (processo)
  3. Taxa de agendamento sobre leads da coorte (ponta do funil)
  4. Comparecimento sobre agendados da coorte (onde muito ganho de funil evapora)
  5. Orçamento aprovado sobre quem compareceu
  6. Receita tratada da coorte (o número que paga a clínica)
  7. Margem de contribuição da receita tratada, menos o custo da automação

Meça o degrau mais alto que a sua base sustenta. Se o volume não permite chegar na receita, meça agendamento e comparecimento e diga explicitamente que o resto é projeção.

Para calibrar quanto se perde entre um degrau e outro: nas clínicas atendidas pela Odonto Results, no funil completo (IA, equipe e telefone) 20% a 40% dos leads viram agendamento e 20% a 50% dos agendados comparecem. É uma faixa operacional, não uma medição de recorte datado, porque o fechamento por ligação não fica registrado na conversa.

O recado prático: um ganho de agendamento pode virar quase nada em receita se ele estiver concentrado em quem não comparece. Por isso o desfecho tem que atravessar o comparecimento.

Coorte fechada de leads, não mês calendário

Essa distinção é onde a leitura honesta se separa da leitura confortável.

Mês calendário soma o dinheiro que entrou em agosto, venha ele de lead de agosto, de junho ou do ano passado. É a visão do caixa, e ela mistura safras.

Coorte fechada pega os leads que entraram em agosto e acompanha só eles, mês após mês, até maturar. É a visão da eficácia.

Por que isso importa no teste: se a automação acelera, o mês calendário mostra um salto imediato (dinheiro de safras antigas chegando mais cedo). A coorte não se deixa enganar, porque cada safra é contada uma vez só.

Regra operacional: congele a coorte na data de entrada do lead, nunca na data do agendamento nem na data do pagamento. Um lead entra em uma safra e fica nela para sempre.

Janela de maturação: o pico seguido do vale

Aceleração e incremento têm assinaturas diferentes no tempo. Essa é a forma mais barata de distinguir os dois.

Assinatura da aceleração: o grupo tratado dispara nas primeiras semanas, o grupo de controle vai atrás e o acumulado converge. A diferença encolhe conforme a janela cresce. É o pico seguido do vale.

Assinatura do incremento: a distância entre os dois grupos se abre e continua aberta no acumulado, mesmo depois de o controle ter tido todo o tempo do mundo.

Como fazer na prática:

  1. Plote o acumulado de cada grupo, não o valor semanal. Acumulado revela convergência, semanal esconde.
  2. Estenda a janela até o ciclo de decisão do seu ticket mais lento. Reabilitação e ortodontia demoram mais que profilaxia.
  3. Só declare incremento quando o acumulado estiver estável, não quando a diferença estiver no máximo.

Quem para o teste no pico está medindo aceleração e chamando de crescimento. É o erro mais comum do primeiro trimestre.

Efeito de novidade e efeito Hawthorne

O primeiro mês costuma exagerar o ganho por dois motivos que não têm nada a ver com a tecnologia.

Efeito de novidade: fluxo novo recebe atenção nova. A equipe está curiosa, o gestor está olhando o painel todo dia, os casos difíceis recebem tratamento manual "só desta vez". Isso decai.

Efeito Hawthorne: as pessoas mudam de comportamento quando sabem que estão sendo observadas. Uma equipe que sabe que a IA está sendo testada trabalha diferente nos dois grupos, e o efeito medido vira uma mistura de tecnologia e vigilância.

Duas defesas simples:

  • Descarte a primeira semana da análise principal (declare isso antes, no pré-registro, para não parecer conveniência).
  • Não anuncie o desenho do teste como competição entre IA e equipe. Anuncie como decisão de investimento da clínica, que é o que é.

Onde a automação costuma ser incremental de verdade

Nem todo pedaço do funil tem espaço para ganho. Se o lead já é atendido em minutos por uma equipe presente, a margem de incremento é pequena, e o teste vai devolver algo perto de zero.

O incremento aparece onde hoje existe ausência. Três segmentos concentram isso:

  1. Lead que chega quando não tem ninguém. Nas clínicas atendidas pela Odonto Results, 46,0% dos leads chegam fora do horário comercial (recorte: primeira mensagem no WhatsApp). Base: 16.719 leads. Janela: 25 de março a 25 de agosto de 2026. Esse lead ou é respondido por automação ou espera até amanhã.
  2. Fim de semana e feriado. Mesmo raciocínio, com agravante: a espera é mais longa e o paciente tem tempo de procurar outra clínica.
  3. Fila que ninguém retornaria. Orçamento em aberto de meses atrás, paciente que sumiu no meio do plano, base antiga sem tratativa. Ninguém ia ligar. Tudo que sair dali é incremento por definição.

Dica de desenho: se o seu volume é baixo, rode o teste só nesses segmentos. O efeito esperado é maior, então você precisa de menos base para enxergá-lo, e o resultado sai mais rápido. Para o segmento de fora do horário, veja como funciona a resposta em segundos no primeiro contato.

Para dar a referência do que se compara nesse segmento: nas clínicas atendidas pela Odonto Results, a IA de Agendamento responde a primeira mensagem em 5,7 segundos na mediana (recorte: IA de Agendamento no WhatsApp). Janela: 25 de março a 25 de agosto de 2026.

Esse número descreve o tratamento, não o efeito. O efeito só aparece quando existe o outro lado da comparação.

Converter o lift em R$ (e descontar o custo)

Lift em agendamento não é dinheiro. Ele vira dinheiro depois de atravessar quatro filtros, e cada filtro corta.

A cadeia é esta:

Lift em agendamento → comparecimento → fechamento → ticket → margem de contribuição → menos o custo total da automação

Exemplo hipotético, com números inventados só para a conta ficar visível. Suponha que na sua janela de teste:

  • Grupo com automação: 1.000 leads, 150 agendamentos (15%)
  • Grupo de controle: 200 leads, 24 agendamentos (12%)
  • Lift: 3 pontos percentuais, ou seja 30 agendamentos a mais nos 1.000 leads tratados
  • Digamos que 50% comparecem: 15 pacientes a mais na cadeira
  • Digamos que 40% fecham: 6 casos a mais
  • Ticket médio hipotético de R$5.000: R$30.000 de receita tratada a mais
  • Margem de contribuição hipotética de 50%: R$15.000
  • Menos o custo mensal hipotético da automação, digamos R$3.000: sobram R$12.000

Troque cada número por o seu. E repare no que aconteceu: o painel mostraria mil conversas atendidas, e a conta honesta terminou numa fração bem menor.

Isso não desqualifica a automação. Isso te dá o número com que se negocia contrato, escala ou corta.

E o custo não é só a mensalidade da ferramenta. Entram integração, tempo da equipe, curadoria de conteúdo, revisão de conversas e o custo do próprio holdout. Veja como enxergar os custos escondidos no cálculo de ROI e como ler ROAS e ROI sem se enganar.

Lembre: o número que decide não é "quantos atendimentos a IA fez". É "quanto de margem sobrou que não teria sobrado", com faixa de incerteza declarada.

Quando o resultado dá zero ou negativo

Vai acontecer, e não é fracasso do teste. É o teste funcionando.

Zero e negativo têm leituras diferentes, e cada uma leva a uma decisão diferente:

Resultado Leitura provável Decisão que segue
Zero, com faixa estreita A automação não muda o desfecho nessa população Realocar para outro segmento (fila fria, fora do horário) ou encerrar
Zero, com faixa larga O teste não teve poder para enxergar Não decidir ainda. Aumentar base ou janela, ou trocar o desfecho por um mais frequente
Negativo consistente Algo na experiência está pior: tom, roteiro, handoff mal feito Auditar conversas antes de culpar a tecnologia. É correção, não desligamento imediato
Positivo só na ponta do funil Ganho em agendamento que morre no comparecimento Trabalhar confirmação e qualificação, não escalar ainda

O pior resultado possível não é o zero. É o teste inconclusivo por desenho ruim, porque ele custou o mesmo e não destrava decisão nenhuma.

Governança: pré-registre antes de ligar a chave

Pré-registro é escrever o que vai ser medido, como e com que critério de decisão, antes de ver qualquer número. É o que impede a análise de virar caça ao resultado bonito.

Um documento de uma página, aprovado por você e pelo fornecedor, com sete campos:

  1. Hipótese. O que se espera que a automação mude, em qual população.
  2. Desfecho primário. Um só. Receita tratada da coorte, ou agendamento da coorte se a base não permitir mais.
  3. Desfechos secundários. Declarados, e explicitamente rotulados como exploratórios.
  4. Unidade de aleatorização e percentual do holdout.
  5. Janela. Data de início, data de corte da coorte, data de maturação.
  6. Critério de decisão. O que faz escalar, o que faz manter, o que faz cortar. Com números.
  7. Regras de exclusão. Duplicados, testes internos, leads de campanha institucional, primeira semana.

Guarde o documento assinado. Quando o resultado sair, ele não se discute: ele se lê.

E deixe explícito quem calcula. Fornecedor calculando o próprio lift é conflito de interesse, mesmo com boa fé. Se não houver terceiro, no mínimo exija os dados brutos da coorte para conferência.

Como apresentar o resultado para o dono

O dono não quer metodologia. Ele quer saber o que fazer com o contrato.

Três frases, nessa ordem, e nada mais na primeira página:

  1. O efeito. "A automação gerou X agendamentos a mais por mil leads, o que equivale a R$Y de margem no trimestre."
  2. A incerteza. "A faixa vai de A a B. Se a faixa cruza o zero, não medimos ganho, medimos ruído."
  3. A decisão. "Com esse efeito, escalar para todas as unidades se paga em N meses. Se preferir, mantemos o teste rodando mais 30 dias para estreitar a faixa."

O que não entra: contagem de conversas, tempo de resposta, satisfação do fluxo. Isso vai no anexo.

E uma disciplina que constrói confiança mais que qualquer número: apresente também o que o teste não conseguiu medir. Efeito de marca, indicação gerada, paciente que voltou fora da janela. Dizer "isso ficou de fora" vale mais que fingir que cobriu tudo.

Checklist: erros que invalidam a medição antes do resultado sair

Rode esta lista antes de ligar o teste. Cada item é uma medição que já morreu por causa dele.

  • [ ] O desfecho primário está escrito e é único
  • [ ] A unidade de aleatorização é o lead, e o sorteio é estável por pessoa
  • [ ] Os leads foram deduplicados por telefone antes do sorteio
  • [ ] O grupo de controle recebe o processo antigo, com o mesmo empenho da equipe
  • [ ] Nenhuma regra automática toca o grupo de controle (auditado em amostra de conversas, não declarado)
  • [ ] Só uma variável mudou entre os grupos
  • [ ] A coorte é fechada pela data de entrada do lead
  • [ ] A janela cobre a maturação do ticket mais lento
  • [ ] A primeira semana está declarada como descartada
  • [ ] Verba, campanha e preço não mudam no meio do teste (ou a mudança está registrada)
  • [ ] O cálculo de poder foi feito com a taxa de base real da clínica
  • [ ] O critério de decisão está escrito com número, antes de qualquer resultado
  • [ ] Quem calcula o resultado não é quem vende a automação
  • [ ] A apresentação final traz efeito, faixa de incerteza e decisão

Se algum item continuar em aberto, não ligue o teste ainda. Um teste mal desenhado não é melhor que nenhum: ele produz um número com aparência de prova, e você vai decidir com base nele.

Seu próximo passo

  1. Escolha o segmento e escreva o pré-registro de uma página. Comece pelo lead fora do horário e pela fila fria, onde o efeito esperado é maior e a base necessária é menor. Defina desfecho, janela e critério de decisão antes de ver número.
  2. Ligue o sorteio por lead e audite o vazamento na primeira semana. Puxe uma amostra de conversas do grupo de controle e confirme que nenhuma automação encostou nele. Se encostou, corrija e reinicie a contagem.
  3. Leia por coorte fechada até a maturação e converta em margem. Apresente efeito, faixa de incerteza e a decisão que ele destrava. Só então escale, mantenha ou corte.

Quer montar essa medição com quem já roda automação de atendimento em clínica e sabe onde o teste costuma vazar? Agende uma apresentação.

Perguntas frequentes

Qual a diferença entre volume atribuído e lift incremental?

Volume atribuído é quanto a automação tocou: conversas atendidas, agendamentos em que ela apareceu no caminho. Lift incremental é quanto não teria acontecido sem ela. O primeiro sai do painel e é sempre positivo por construção. O segundo só existe se você tiver um grupo de comparação que não recebeu a automação na mesma janela.

Quanto do meu fluxo de leads eu preciso segurar no grupo de controle?

Uma fatia pequena o suficiente para não doer no caixa e grande o bastante para o efeito aparecer. A decisão não é de gosto: peça o cálculo de poder estatístico com a sua taxa de agendamento atual como taxa de base antes de ligar o teste. Se o holdout ficar com poucas dezenas de leads, só um efeito enorme vai ser detectável, e o teste nasce cego.

Segurar leads no grupo de controle não é jogar dinheiro fora?

É um custo real e você deve tratá-lo como custo de decisão, não como desperdício. O grupo de controle não fica sem atendimento: ele recebe o processo antigo, o mesmo que a clínica usava antes. O que você paga é a diferença de desempenho numa fatia pequena, por uma janela definida, para não pagar um contrato inteiro apostando no palpite.

Dá para medir lift sem segurar lead nenhum?

Dá, com desenhos mais fracos e mais premissas. Os três usuais são o rollout escalonado (ligar por unidade ou por equipe em datas diferentes), a unidade-controle pareada e a série temporal interrompida. O Google Research descreve o caso da comparação entre uma única região de controle e uma única região de teste em Estimating Ad Effectiveness using Geo Experiments in a Time-Based Regression Framework (Kerman, Wang e Vaver, 2017).

Por que comparar o mês antes com o mês depois não vale?

Porque no meio do caminho mudou tudo: sazonalidade, verba de anúncio, mix de campanha, equipe, preço. O pré contra pós atribui à automação qualquer coisa que tenha mexido no período, inclusive a regressão à média (você costuma ligar automação depois de um mês ruim, e mês ruim tende a ser seguido de mês menos ruim sem nenhuma intervenção).

Como eu sei que a automação só antecipou o que já ia acontecer?

Aceleração pura aparece como pico seguido de vale: o grupo tratado dispara nas primeiras semanas e o grupo de controle alcança depois, com o acumulado convergindo. Incremento verdadeiro mantém a distância aberta ao final de uma janela longa. Por isso a leitura tem que ser por coorte fechada de leads, acompanhada até a maturação, e não por mês calendário.