Observabilidade na era da IA: sistemas que ninguém prevê sozinho

Observabilidade na era da IA explica sistemas distribuídos com modelos e agentes, e tem dois lados: aplicar inteligência causal ao ambiente e instrumentar a própria IA. Exige rastrear prompt, token, ferramenta e decisão, escolher entre OneAgent, OpenTelemetry e modelo híbrido, controlar cardinality e sampling, e sustentar a rastreabilidade que a regulação já cobra.

Uma troca de versão de modelo entra em produção numa terça e nada acende. O erro segue em zero, a latência média segue dentro do acordo, e o assistente passa a responder um pouco pior. A falha existe, e nenhum limiar sabe disso.

Observabilidade na era da IA é a disciplina de instrumentar e interrogar sistemas distribuídos cujo comportamento depende de componentes não determinísticos: modelos de linguagem, agentes autônomos e pipelines de recuperação de contexto. A finalidade é responder a perguntas que ninguém formulou antes da falha acontecer.

O que muda quando a IA entra nos dois lados do sistema

Duas conversas circulam com o mesmo nome, e o mercado raramente costura as duas. A primeira usa inteligência artificial para investigar o ambiente. A segunda tenta enxergar a inteligência artificial que já roda em produção.

As duas dependem do mesmo pipeline de telemetria. Telemetria é o conjunto de sinais que o sistema emite sobre si mesmo, e o caminho que atravessa o balanceador é o mesmo que atravessa a chamada ao modelo. Tratar as pontas como projetos separados entrega dois ambientes parciais em vez de um ambiente legível.

O relatório State of Observability 2025, da Dynatrace, registra que 100% das empresas pesquisadas já adotaram IA em algum grau, e que apenas 33% aplicam IA dentro do próprio programa de observabilidade. Todo mundo colocou IA para dentro, e um terço enxerga o que ela faz.

Por que tratar as duas metades separadas produz um ambiente meio cego

Quem trabalha só a camada de AIOps ganha alerta melhor sobre um ambiente que não representa toda a carga. Artificial Intelligence for IT Operations, ou AIOps, é a camada de análise sobre a telemetria, e o resultado dela depende inteiramente da qualidade da instrumentação que a alimenta. Quem instrumenta apenas o modelo ganha um retrato desconectado do usuário.

Costurar as duas metades é decisão de desenho de pipeline, tomada antes de qualquer configuração de painel. Para o Site Reliability Engineer, ou SRE, em plantão, é a diferença entre ver o caminho do impacto e ver um sintoma solto. Para o profissional DevOps, é o que permite atribuir a degradação à versão publicada, e não ao horário em que ela apareceu.

Observabilidade não é monitoramento: a fronteira dos unknown unknowns

Quatro critérios separam as duas práticas, e a distância aumenta quando um modelo entra na jornada do usuário.

O que são unknown unknowns na prática de um plantão

São 3h40 e o alerta que disparou é de saturação de processador num nó. Esse alerta dispara toda madrugada, quando o processamento em lote roda, e a equipe aprendeu a ignorá-lo. Desta vez o canal de suporte também acendeu.

O gráfico de erro está limpo e a latência média está dentro do Service Level Objective, ou SLO. O percentil 99 sobe há quarenta minutos, o suficiente para o cliente sentir e pouco para consumir o orçamento de erro. A causa aparece três horas depois: uma troca de versão de modelo aumentou o tempo de resposta do assistente, que passou a pressionar o pool de conexões.

O sinal que explicaria a origem não existia, porque ninguém tinha pensado naquela pergunta. Esse é o formato típico do problema não previsto em sistemas com IA: nenhum componente reporta falha, e ainda assim a jornada piorou.

A variação silenciosa tem uma segunda forma, mais lenta. Um sistema de IA opera sem erro de aplicação, com boa latência, e mesmo assim degrada a qualidade das decisões por drift de dados. Nenhum limiar clássico captura esse movimento, porque não há número ultrapassado, e a diferença aparece na avaliação da saída, não no gráfico de disponibilidade.

Os três sinais e o que a IA acrescenta a cada um

A telemetria clássica tem três sinais, e a carga de IA acrescenta um quarto.

Um trace reúne spans, e span é a unidade de trabalho dentro do trace. O trace é o sinal que mais muda de escala quando a IA entra, porque uma única interação de agente encadeia chamada de modelo, recuperação de contexto e execução de ferramenta, cada uma com seu próprio span, enquanto uma rota de API convencional costuma resolver a requisição em poucos.

Os sinais são parte do problema. As cinco capacidades essenciais de uma plataforma de observabilidade cobrem o resto: Application Performance Monitoring, ou APM, monitoramento de infraestrutura e cloud, Digital Experience Monitoring, ou DEM, AIOps, e compliance e governança de performance.

Observabilidade da IA: o que instrumentar numa aplicação com modelo e agente

O inventário do que se observa numa aplicação com IA cabe em sete blocos, confirmados na documentação da plataforma Dynatrace.

O que rastrear em cada passo de um agente

A hierarquia de spans de agente tem um topo e dois filhos: invoke_agent, com chat e execute_tool abaixo. Sem essa árvore, um agente lento vira caixa preta. Com ela, a equipe distingue se o gargalo foi o modelo, a ferramenta ou a recuperação, o que muda a correção de lugar antes de qualquer hipótese.

Alucinação e drift: os dois problemas que não aparecem como erro

Alucinação é resposta errada entregue com aparência de confiança, e se detecta por avaliação de qualidade da saída. Drift é qualidade que cai ao longo do tempo, porque o mundo mudou e o modelo não, e se detecta por série temporal dessa avaliação. Confundir os dois leva a equipe a caçar incidente onde existe curva descendente.

IA na observabilidade: o que a inteligência causal resolve que o dashboard não resolve

A IA causal atua na identificação da causa e do contexto do problema, enquanto os dashboards organizam e tornam exploráveis os sinais operacionais. Davis analisa relações de causalidade sobre o mapa de dependências, aponta causa raiz, descreve impacto no negócio e indica as transações afetadas.

Smartscape mantém esse mapa atualizado em tempo real. Para o arquiteto, é registro de território que a documentação nunca acompanhou. Para o SRE em plantão, é o atalho que mostra o caminho do impacto.

Correlação temporal não é causalidade

Duas métricas que sobem juntas às três da manhã não têm relação por causa disso. Sem mapa de dependências, a correlação temporal produz alerta plausível e inútil, e alerta inútil em volume produz fadiga de alerta. O ceticismo com IA aplicada à observabilidade nasce daí, e não do conceito.

Para o CIO, o CTO e o CEO, causa raiz com impacto no negócio substitui impressão por evidência na conversa com o conselho de administração. A diferença aparece no vocabulário do relatório: em vez de contagem de incidentes, causa, alcance e reincidência evitada.

A arquitetura: OneAgent, OpenTelemetry e o modelo híbrido

São três abordagens de instrumentação, e a escolha acontece entre elas, e não entre plataformas. Instrumentação são as câmeras instaladas na fábrica.

OneAgent é o agente unificado da plataforma: uma instalação descobre a stack de um host, contêiner ou ambiente cloud, com linguagens, frameworks, bancos, filas e dependências, sem configuração manual por componente. OpenTelemetry é o padrão USB-C da telemetria, padrão aberto e vendor-neutral da CNCF que define APIs, SDKs, convenções semânticas e protocolo de transporte.

A Dynatrace permite combinar a cobertura automática do OneAgent com instrumentação baseada em OpenTelemetry quando o projeto exige maior controle ou integrações específicas. O critério de escolha é o inventário real de cargas, e não a preferência da equipe: onde a tecnologia tem suporte nativo, a descoberta automática entrega cobertura em dias, e onde não tem, a instrumentação aberta é o único caminho.

O transporte é o OTLP, o envelope dos correios. Roda sobre gRPC na porta 4317, binário e mais eficiente em volume, ou sobre HTTP com protobuf na porta 4318, mais simples de atravessar firewall e mais fácil de depurar. A plataforma Dynatrace aceita as duas.

O padrão aberto responde ao receio de aprisionamento, porque a instrumentação pertence à CNCF e não a um fornecedor. O que se contrata é a capacidade de analisar o sinal, e não o direito de coletá-lo.

As convenções semânticas GenAI, no nível do atributo

As convenções semânticas GenAI do OpenTelemetry padronizam os nomes de atributo da telemetria de IA. Entre eles estão gen_ai.request.model, gen_ai.usage.input_tokens, gen_ai.usage.output_tokens e gen_ai.response.finish_reasons. A convenção cobre spans de cliente de modelo, spans de agente, eventos de conteúdo e métricas.

A ressalva técnica importa aqui. A convenção é desenvolvida pelo GenAI SIG desde abril de 2024 e, em março de 2026, a maior parte ainda estava em status experimental. Quem assume que o padrão está congelado vai refatorar, e a decisão prudente é isolar a camada de atributos de modo que a renomeação seja alteração de configuração, e não de código.

Legado e pontos de fronteira

Ambiente heterogêneo com sistemas legados é onde a lacuna dói mais, e não onde a prática deixa de valer. A propagação de contexto quebra nas fronteiras entre gerações de sistema, o carimbo no passaporte não é aplicado, e sobra span órfão. A correção é instrumentação manual nesses pontos, propagando os campos traceparent e tracestate do W3C Trace Context, o que transforma dois traces incompletos em um percurso único.

O custo é o gargalo real: cardinality, sampling e orçamento de telemetria

São três causas e três controles, e nenhum controle funciona como ajuste posterior. As causas são o volume de spans por interação de agente, o payload textual grande de prompt e resposta, e o token como dado de alta cardinality.

Os controles são a governança de atributos definida antes da coleta, o sampling desenhado por criticidade e a decisão explícita sobre o que não coletar. Não há percentual de economia prometido aqui, e sim a diferença entre um ambiente onde o custo é decisão e um ambiente onde o custo é surpresa na fatura. Para o gerente de infraestrutura, essa é a distinção que define se o orçamento do próximo ciclo é previsão ou torcida.

Cardinality explosion, explicada sem jargão

Cardinality é a quantidade de valores distintos que uma dimensão assume. Usar identificador único de requisição ou timestamp granular como dimensão cria uma série temporal nova a cada valor. O volume cresce, o custo acompanha, e a informação não cresce junto.

Sampling em sistema crítico

Sampling é a pesquisa eleitoral. Head-based agressivo decide no início da requisição e perde justamente o trace de erro e o de latência alta, enquanto o permissivo demais estoura o orçamento. Em sistemas críticos, o sampling tail-based é geralmente preferido, porque decide depois de observar o resultado da transação e preserva os eventos que precisam de análise.

Erros de adoção que aparecem sempre

Cinco erros se repetem em implantação real, e os cinco custam mais para corrigir do que teria custado evitar. Coletar tudo sem propósito dispara o custo de ingestão e faz a equipe perder confiança no dado. Atributo fora da semantic convention, com app.name no lugar de service.name, quebra a correlação entre camadas.

A falta de governança de atributos produz o mesmo serviço com nomes diferentes, e os dashboards deixam de agrupar. A mistura de contas entre ambientes faz o sinal de desenvolvimento contaminar a linha de base de produção, o que compromete a detecção de anomalia antes de qualquer incidente real.

O quinto erro é subestimar a curva de aprendizagem da equipe interna. O ambiente fica instrumentado, ninguém consulta, e a plataforma vira custo sem contrapartida. É o único dos cinco que nenhuma configuração corrige.

Observabilidade na era da IA por setor

Em órgãos públicos, um portal de tributos com assistente conversacional herda um componente que responde rápido e pode responder errado. O custo da resposta errada é social e político antes de ser técnico, e a explicação precisa estar disponível quando o controle externo perguntar.

Em instituições financeiras, quem usa IA em triagem precisa demonstrar resiliência operacional e manter trilha auditável completa. Retenção longa com consulta rápida deixa de ser conveniência, porque a pergunta do auditor chega meses depois do evento.

Em cooperativas, uma plataforma digital multi-praça precisa provar que a qualidade é igual na capital e na cidade pequena. Com IA na jornada, comparar latência não basta, e entram na comparação regionalizada a qualidade de resposta e o custo por interação.

Em empresas privadas de grande porte, a IA entrou no produto exatamente onde a experiência é decidida: busca, recomendação e atendimento. Uma troca de versão de modelo degrada a experiência sem gerar erro de aplicação, e a observabilidade é o que separa a hipótese da constatação.

Rastreabilidade deixou de ser boa prática: o que a regulação já exige

A regulação europeia de inteligência artificial obriga ao registro automático de eventos ao longo da vida de sistemas classificados como de alto risco. No Brasil, o arcabouço de proteção de dados sustenta o direito de revisão de decisão automatizada, e o marco legal específico de inteligência artificial seguia em tramitação no Congresso.

No setor financeiro, o arcabouço de segurança cibernética aplicável às instituições autorizadas pelo Banco Central exige área responsável por registrar e controlar os efeitos de incidentes relevantes. A exigência comum às três frentes é a mesma: demonstrar o que aconteceu, com registro produzido pelo próprio sistema.

Linhagem completa do prompt à resposta significa reconstruir, meses depois, qual versão de modelo respondeu, com qual contexto e com qual resultado. Grail retém logs, métricas, traces e eventos em volume massivo, com períodos de retenção que variam conforme o tipo de dado e a configuração adotada, com consulta rápida sobre todo o histórico, e o Dynatrace Query Language, ou DQL, é a linguagem que faz as perguntas exploratórias sobre esse histórico.

Como estruturar a jornada sem parar a operação

São cinco passos em ordem, e o primeiro valor visível aparece em poucas semanas, e não ao final de um projeto fechado.

1. Diagnóstico do ambiente atual. Antes de instrumentar, saber o que existe e o que já falha em silêncio.
2. Definição de governança. Convenção de atributo, propagação de contexto, sampling e retenção decididos como projeto.
3. Implantação em ondas. Valor visível em poucas semanas e expansão de cobertura nos meses seguintes.
4. Formação da equipe por perfil. Fundamentos de OpenTelemetry, instrumentação manual, configuração de Collector e análise com o Dynatrace Query Language.
5. Revisão periódica. A governança de performance continuada adapta o desenho às mudanças do ambiente.

O Collector é a peça intermediária que recebe, processa, filtra e reenvia telemetria, aplicando regras de transformação no caminho. A decisão sobre o que não coletar se materializa nele, e é ali que a previsibilidade do orçamento deixa de depender de negociação e passa a depender de configuração.

Observabilidade na era da IA não se resolve com licença. O padrão de instrumentação é aberto e a plataforma de referência é a Dynatrace, e o que separa um ambiente instrumentado de um ambiente legível são decisões que só se tomam com experiência de campo: qual atributo governar, o que não coletar e onde a propagação de contexto vai quebrar no legado.

Perguntas frequentes sobre observabilidade na era da IA

O que é observabilidade de LLM?

Observabilidade de modelo de linguagem é o recorte que instrumenta a chamada ao modelo e o que a cerca: versão em uso, tokens de entrada e de saída, latência de inferência, contexto recuperado e qualidade da resposta. Ela só produz diagnóstico quando o span do modelo está no mesmo trace da jornada do usuário.

Alucinação aparece como erro na telemetria?

Não. A chamada retorna com sucesso, dentro da latência esperada, e o conteúdo é que está errado. A detecção depende de avaliação de qualidade da saída registrada como sinal próprio, e a série temporal dessa avaliação é o que distingue alucinação pontual de drift ao longo do tempo.

As convenções semânticas GenAI do OpenTelemetry já são estáveis?

Em março de 2026, a maior parte ainda estava em status experimental, sob desenvolvimento do GenAI SIG desde abril de 2024. Adotar a convenção continua sendo a decisão correta, desde que a camada de atributos fique isolada, para que uma renomeação futura seja alteração de configuração e não de código.

Como controlar o custo de telemetria de uma aplicação com IA?

Por três decisões tomadas antes da coleta: governança de atributos que impede cardinality explosion, sampling desenhado por criticidade com preferência por tail-based em sistemas críticos, e definição explícita do que não será coletado. Ajuste posterior reduz custo e destrói justamente o histórico que a investigação vai precisar.

É preciso trocar de plataforma para observar aplicações com IA?

A escolha relevante não é entre plataformas, e sim entre abordagens de instrumentação dentro do ecossistema: OneAgent, OpenTelemetry ou modelo híbrido. A plataforma Dynatrace ingere telemetria de IA por OpenTelemetry, o que preserva a portabilidade da instrumentação e mantém a análise causal sobre o mesmo mapa de dependências.

Qual atributo governar, o que deixar de coletar e onde a propagação de contexto vai quebrar são decisões que dependem de leitura do ambiente, e não de documentação de produto. A Rike IS conduz esse percurso em sistemas críticos de alta complexidade, com consultoria, implantação, treinamento e governança contínua em observabilidade sobre a plataforma Dynatrace, junto a órgãos públicos, instituições financeiras, cooperativas e empresas privadas de grande porte. O trabalho começa pelo diagnóstico do ambiente atual, que mapeia a instrumentação existente e as perguntas que a operação ainda não consegue responder.

Este conteúdo tem finalidade informativa. As referências regulatórias são contextuais e não constituem orientação jurídica.