Contexto
Uma resposta gerada por IA pode resumir documentos, recomendar uma ação ou apoiar uma decisão. Quando ela se baseia em fontes, dados ou regras, a pessoa precisa conseguir ver o que sustenta a resposta e avaliar se aquilo é adequado ao contexto.
Uma citação não torna uma resposta automaticamente correta. Fontes podem estar incompletas, mal interpretadas ou não sustentar o trecho ao qual foram associadas. A finalidade é permitir verificação proporcional ao risco.
Mostre as fontes que sustentam uma resposta de IA perto do trecho, da afirmação ou da recomendação a que se relacionam. Permita abrir a origem, identificar o tipo de evidência e entender quais critérios, filtros ou dados influenciaram a saída quando isso for relevante.
Em respostas de baixo risco, links e trechos podem ser suficientes. Em recomendações, classificações ou fluxos de alto impacto, explique também os dados considerados, as regras aplicadas, as limitações e a incerteza que pode afetar o resultado.
Se não houver base verificável, deixe isso claro. Não invente citações nem misture conteúdo pesquisado, dados fornecidos pela pessoa e conhecimento geral do modelo sem identificação.
Porque isso importa?
Uma resposta bem escrita pode parecer confiável mesmo quando está incompleta ou inadequada. Fontes e critérios visíveis ajudam a pessoa a comparar a interpretação com a origem e decidir se precisa buscar outra evidência.
A diretriz 11 do Microsoft HAX recomenda disponibilizar explicações adequadas sobre por que o sistema produziu uma saída ou tomou uma ação. O estudo de Amershi e colaboradores, publicado na CHI 2019, propõe diretrizes de interação humano-IA que incluem tornar a justificativa do comportamento compreensível. Isso não representa uma promessa de explicabilidade total para qualquer modelo ou resposta.
Quando usar?
- Respostas com pesquisa na web, documentos, bases internas ou arquivos enviados.
- Resumo, análise e recomendações que precisam ser conferidos.
- Fluxos de alto impacto, como saúde, finanças, segurança, direitos, acesso ou seleção de pessoas.
- Respostas que combinam várias origens.
- Sistemas que usam regras, filtros ou dados específicos para recomendar ou classificar.
Quando evitar?
- Não exija uma lista extensa de fontes para sugestões locais, reversíveis e de baixo risco.
- Não mostre detalhes técnicos que não ajudam a pessoa a avaliar a resposta.
- Não trate explicação como substituta de revisão humana, teste, governança ou confirmação antes de uma ação sensível.
- Não mostre uma fonte apenas por estar relacionada ao tema se ela não sustenta o trecho apresentado.
- Não exponha conteúdo privado ou dados pessoais para tornar a resposta mais explicável.
Recomendações
Faça
- Vincule a fonte ao trecho ou à recomendação que ela sustenta.
- Permita abrir a origem e identificar tipo, data e contexto quando forem relevantes.
- Separe fatos citados, inferências da IA e sugestões práticas.
- Explique critérios, filtros ou dados em saídas de maior impacto.
- Informe limites, ausência de evidência ou incerteza com clareza.
- Ofereça revisão humana e caminhos para questionar ou corrigir o resultado.
Evite
- Não use citações decorativas ou sem relação direta com a afirmação.
- Não esconda fontes em um menu difícil de encontrar.
- Não apresente explicação genérica como justificativa específica.
- Não use somente indicadores de confiança sem explicar o que representam.
- Não faça a pessoa confiar em uma fonte que não consegue abrir ou conferir.
