IA pode receber uma solicitação, identificar intenção, consultar conteúdo aprovado, coletar contexto e encaminhar uma conversa. Esse ganho desaparece quando o sistema inventa respostas, insiste em um fluxo inadequado ou transfere para uma pessoa sem histórico. O projeto não é apenas um chatbot; é uma operação com papéis e limites.
Comece por uma tarefa específica. ‘Atender todos os clientes’ é amplo demais para definir qualidade. ‘Receber novos contatos, explicar o próximo passo com base em uma fonte aprovada e encaminhar casos elegíveis’ permite desenhar entradas, saídas, testes e supervisão.
Delimite o papel da IA
- O que o sistema pode responder diretamente e a partir de quais fontes.
- Que dados pode solicitar, por que são necessários e onde serão registrados.
- Que ações pode executar, como criar um contato ou sugerir um horário.
- Que temas exigem uma pessoa, validação adicional ou recusa segura.
- Como o usuário reconhece que está interagindo com automação e pede ajuda humana.
Trabalhe com conhecimento aprovado
A base de conhecimento precisa ter proprietário, fonte, data de revisão e escopo. Políticas, preços, disponibilidade e regras mudam. Quando a informação estiver ausente, conflitante ou vencida, o comportamento esperado deve ser reconhecer o limite e encaminhar, não completar a resposta por plausibilidade.
- Selecione documentos necessários ao caso de uso e remova duplicações.
- Separe conteúdo público de material interno ou restrito.
- Defina responsáveis por atualização e aprovação.
- Teste perguntas comuns, ambíguas, adversariais e fora de escopo.
- Registre falhas e transforme padrões recorrentes em melhorias de fonte ou fluxo.
Desenhe um handoff que preserve contexto
O encaminhamento deve acontecer por regra, pedido do usuário ou baixa confiança. A pessoa que recebe precisa saber quem iniciou a conversa, qual foi a intenção declarada, o que já foi perguntado, quais dados foram confirmados, que conteúdo foi apresentado e por que a transferência ocorreu.
- Resumo curto e fiel, sem esconder a conversa original.
- Campos estruturados separados de inferências do modelo.
- Motivo do handoff e prioridade definida por regras auditáveis.
- Mensagem clara ao usuário sobre o que acontece a seguir.
- Mecanismo para o atendente corrigir dados e devolver aprendizado ao sistema.
Handoff não é falha da automação. É uma capacidade essencial de um sistema que conhece seus limites.
Trate privacidade e segurança como requisitos
Mapeie quais dados pessoais entram no fluxo, a finalidade de uso, quem acessa, onde ficam armazenados, quais fornecedores participam e por quanto tempo os registros são necessários. Colete o mínimo adequado ao objetivo e evite incluir dados sensíveis em prompts, logs ou ferramentas sem avaliação específica.
Avalie antes e durante a operação
- Correção factual em perguntas dentro do escopo.
- Taxa e qualidade dos encaminhamentos, com revisão amostral humana.
- Casos em que o sistema deveria ter recusado ou transferido antes.
- Tempo até resolução e esforço adicional criado para a equipe.
- Incidentes de privacidade, segurança, acesso ou uso indevido.