Contexto
Modelos de IA não produzem respostas igualmente confiáveis em todas as tarefas. O resultado pode variar conforme os dados, o contexto, a formulação do pedido e o desempenho do modelo. Por isso, uma interface precisa comunicar limites e incerteza antes que a pessoa trate a saída como fato ou decisão.
Esta regra orienta como calibrar a comunicação ao risco. Ela não exige um percentual de confiança em toda resposta: o indicador só deve aparecer quando for compreensível, acionável e sustentado por uma medida válida.
Explique o que a IA consegue fazer e onde pode falhar, usando uma linguagem proporcional ao desempenho observado. Em vez de prometer que uma resposta está correta, indique quando ela é uma sugestão, pode conter erros ou precisa de conferência.
Conecte a incerteza a uma ação concreta. Ofereça alternativas, peça esclarecimento, mostre fontes ou encaminhe para revisão humana quando a saída puder afetar direitos, dinheiro, saúde, segurança ou uma decisão difícil de reverter.
Use categorias ou explicações simples quando números exatos não forem interpretáveis. Se usar uma métrica, explique o que ela representa, como foi calculada e qual limiar muda a conduta. Atualize o aviso quando o desempenho variar por idioma, tipo de dado, tarefa ou condição de uso.
Porque isso importa?
Uma resposta fluente pode parecer mais certa do que é. Limites explícitos ajudam a evitar confiança excessiva, dependência automática e também a rejeição indiscriminada de uma ferramenta que pode ser útil em tarefas adequadas.
O Microsoft HAX recomenda comunicar o desempenho esperado e possíveis erros, ajustando a precisão da linguagem à precisão real do sistema. O Google PAIR alerta que indicadores numéricos de confiança podem confundir quando não orientam uma ação.
Em um estudo da CHI com 258 participantes, a complexidade da tarefa e a incerteza alteraram a forma como as pessoas se apoiaram na IA. A comunicação precisa ser testada no contexto real, especialmente quando a decisão tem impacto alto.
Quando usar?
- Respostas, recomendações ou classificações com desempenho variável.
- Tarefas ambíguas, novas ou com dados incompletos.
- Saídas que podem orientar decisões de saúde, finanças, direitos, segurança ou acesso.
- Predições e estimativas em que diferentes cenários são plausíveis.
- Conteúdo gerado que será enviado, publicado ou usado como base para outra ação.
- Fluxos em que a pessoa precisa saber quando revisar, comparar ou procurar outra fonte.
Quando evitar?
- Não mostre um percentual de confiança sem explicar seu significado e sua calibração.
- Não use um aviso genérico como substituto de fontes, revisão, confirmação ou recuperação.
- Não apresente falsa precisão, como 87,3%, quando a diferença não muda a decisão.
- Não use o mesmo nível de alerta para tarefas de baixo e alto impacto.
- Não esconda a limitação em uma página distante do resultado.
- Não transforme toda resposta em um alerta que interrompe o trabalho sem oferecer uma saída.
Recomendações
Faça
- Use “pode”, “talvez” ou “provavelmente” quando a evidência não sustentar certeza.
- Diga qual parte da saída precisa de verificação.
- Mostre alternativas ou cenários quando houver mais de uma interpretação plausível.
- Explique o que um indicador de confiança significa.
- Ofereça fontes, revisão humana, correção ou outra rota de decisão.
- Avise quando a qualidade for menor para um idioma, dado ou tarefa específica.
- Teste a compreensão do aviso com as pessoas que usarão o sistema.
Evite
- Não diga “a IA sabe” ou “isso está correto” sem base suficiente.
- Não use somente cor, ícone ou posição para indicar incerteza.
- Não exiba números sem unidade, referência ou limiar de ação.
- Não use “confiança” para mascarar uma medida que não foi validada.
- Não coloque a responsabilidade inteira na pessoa com um disclaimer genérico.
- Não remova a possibilidade de continuar de forma segura quando a saída for incerta.
