Pular para o conteúdo

A auditoria de dados e o Janitor

Limpeza automática de dados

Ele encontra o que está errado nos seus dados. Depois, limpa tudo com você.

Mais de 180 verificações em cada tabela assim que ela chega. A auditoria de dados ordena o que encontrou pelas respostas que isso afeta, e o Janitor pergunta só o que apenas você pode decidir. Depois, cria uma visão limpa que todas as respostas usam.

Limpeza de dados agêntica

Conheça seu Janitor

Clique em Limpar esta tabela e o Janitor começa a trabalhar. Ele lê o que a auditoria de dados encontrou, testa cada correção nas suas próprias linhas e só para nas decisões que não pode tomar sozinho. Isso é limpeza de dados agêntica: o agente faz o trabalho, e você toma as decisões que mudam um número.

  1. Comece por uma tabela ou uma nota

    Clique em Limpar esta tabela em uma tabela, ou em Perguntar ao Janitor em uma única nota. Ele já tem as evidências que a auditoria mediu.

  2. Ele pergunta só o que cabe a você

    Mês primeiro ou dia primeiro? Qual coluna de moeda prevalece? Qual linha duplicada fica? Cada pergunta chega como um cartão de escolha, com a recomendação dele primeiro.

  3. Ele mostra o plano

    Um cartão de revisão lista cada correção e o que vai ficar como está. Nada é criado até você clicar em Criar a visão limpa.

  4. Você recebe uma visão limpa

    O resultado é uma nova visão que você pode abrir, e o cartão da tabela mostra Limpa como com o nome dela. O original continua exatamente como chegou.

Uma gravação sem som. O Janitor recebe o pedido de limpar um arquivo de pedidos de marketplace. Ele faz três perguntas como cartões de escolha, cada uma com a recomendação primeiro: datas com o mês ou o dia primeiro, qual coluna de moeda prevalece e qual linha duplicada manter. Mostra um cartão de revisão com cada correção, a visão é criada e a tabela passa a mostrar Limpa como Marketplace orders, cleaned.

Uma execução real: três perguntas, um cartão de revisão e uma visão limpa.

Qualidade de dados automática

A auditoria de dados: mais de 180 verificações em cada tabela assim que ela chega

Cada tabela que você envia ou conecta é verificada ao chegar, antes de alguém fazer uma pergunta, e cada visão é verificada enquanto é criada. Ele procura os problemas que todo mundo sabe procurar e também aqueles em que ninguém pensaria. O que ele encontra vai para uma única página, a auditoria de dados, com o mais urgente primeiro e o motivo pelo qual cada problema importa.

A página de auditoria de dados: o Janitor no painel de chat, contadores com 172 notas abertas, 53 relevantes, 90 para observar, 29 informativas e 10 resolvidas, uma caixa de busca com filtros de status, gravidade, conector e tabela, e o cartão de uma tabela com uma nota de chaves duplicadas, suas etiquetas de por que importa e os botões Reconhecer, Descartar, Criar um fato e Perguntar ao Janitor
Uma página para cada problema que a auditoria encontrou, o mais urgente primeiro.

O que as verificações procuram

  • Valores ausentes disfarçados

    N/A, um traço ou um vazio salvos como texto, 1900-01-01 no lugar de uma data desconhecida, 999 no lugar de uma idade desconhecida.

  • Números e datas salvos como texto

    Valores com $, € ou vírgulas, negativos entre parênteses, dois formatos de número ou vários formatos de data em uma coluna, números de série do Excel se passando por datas.

  • Grafias e nomes

    Retail, retail e RETAIL contados como três canais, sim/não escrito de seis jeitos, um mesmo ID com vários nomes.

  • Duplicados e chaves

    Linhas repetidas exatamente, chaves que se repetem e chaves que se repetem e discordam nos números.

  • Valores impossíveis

    Quantidades negativas, percentuais acima de 100, datas no futuro, um total que não é a soma das partes.

  • Estrutura de planilha

    Linhas de total no meio dos dados, cabeçalhos repetidos no meio do arquivo, meses dispostos como colunas, um arquivo cortado na última linha do Excel.

  • IDs e codificação

    CEPs que perderam o zero inicial, IDs exportados como 1.23E+11, acentos corrompidos, caracteres invisíveis dentro dos valores.

  • Tempo e atualização

    Uma tabela que parou de atualizar, um último mês carregado pela metade, lacunas em uma série, um saldo acumulado que nunca deve ser somado.

  • Ordem dos eventos

    Uma data de término antes do início, uma remessa nunca entregue, uma oportunidade fechada antes de a conta existir.

  • Contra o seu dicionário de dados

    Códigos nos dados que o seu dicionário não lista, e colunas documentadas como números mas salvas como texto.

Prioridade

Ordenado pelo efeito nas suas respostas

Cada nota é marcada como Relevante, Observar ou Info, e ordenada pelo quanto o seu negócio depende daquela coluna. Um problema em uma coluna que alimenta um KPI ou uma pergunta salva vem antes de um problema estético em uma tabela que ninguém usa, e a nota diz quais perguntas ele afeta.

Cada nota diz quais perguntas e etapas leem a coluna.

Você decide

Uma constatação é algo que você pode tratar

Reconheça o que você já sabe. Descarte o que não é problema aqui, e o motivo fica registrado. Crie um fato com ela, e os agentes vão lê-lo sempre que usarem esses dados. Selecione um intervalo para tratar várias notas de uma vez, e pesquise a auditoria inteira enquanto digita.

Uma gravação sem som que percorre o cartão de uma tabela na auditoria de dados: um número de série do Excel se passando por data, CEPs sem o zero inicial e chaves duplicadas, cada nota com a parcela de linhas afetadas, exemplos e um pequeno gráfico feito a partir da medição.

A evidência, não uma pontuação: a parcela de linhas e uma imagem da medição.

Dados bagunçados, flagrados

Exemplos do que ele detecta

Problemas como estes ficam anos nos dados, até alguém dizer que o número está errado.

  • Um cliente contado como dois

    Um espaço invisível, de largura zero ou no final, transforma "Acme" e "Acme " em dois clientes. Nada parece errado na tela, e o total se divide em dois.

  • Mês primeiro e dia primeiro na mesma coluna

    01/08/2024 é 8 de janeiro ou 1º de agosto? A verificação comprova a ordem a partir de valores acima de 12 e sinaliza uma coluna que mistura os dois. Quando os dados não resolvem, o Janitor pergunta a você.

  • Uma linha de total geral no meio dos dados

    Uma linha de totais esquecida em uma exportação de planilha é contada de novo em cada soma construída sobre ela.

  • Símbolos de moeda em uma coluna de números

    $1,014.08, USD 1023.11 e ($286.05) na mesma coluna. Uma conversão simples deixa alguns valores em branco e lê o negativo entre parênteses como positivo.

  • Decimais europeus, mil vezes menores

    1.234,56 pode virar 1.23456 sem erro nenhum. Separadores misturados são sinalizados, para que a coluna não passe por limpa.

  • O mesmo id de pedido, dois totais diferentes

    Duas linhas para o pedido 5521 que discordam. Nada nos dados diz qual está certa, então isso vira uma decisão sua, não um palpite silencioso.

  • Uma lacuna em uma série diária

    Nenhuma linha de 3 a 17 de março, ou um último mês com 15 linhas contra as 61 de costume, de modo que toda tendência termina em uma queda que nunca aconteceu.

  • Códigos que se afastaram do dicionário de dados

    A coluna region tem 9 onde o seu dicionário de dados lista de 1 a 4. A auditoria confere as colunas codificadas com o seu próprio dicionário.

  • Datas de preenchimento

    34.000 datas de nascimento em 1900-01-01 fazem o cliente médio ter 120 anos.

Telas capturadas no Querri com dados de uma empresa de demonstração.

Nada é reescrito em silêncio

Cada correção é uma visão que você pode abrir

Seus dados brutos continuam exatamente como chegaram. O trabalho do Janitor vira uma visão limpa: SQL que você pode abrir, com a fonte ainda lá para conferir.

A prova de que a limpeza funcionou

O Querri mede a visão limpa de novo com as mesmas verificações. Uma nota só é marcada como resolvida quando o problema dela não aparece mais. A que ainda aparece continua aberta, e o Janitor avisa.

Limpo uma vez, usado em todo lugar

A fonte passa a mostrar Limpa como com o nome da visão, e cada resposta, dashboard e agente de IA lê a visão limpa a partir daí.

Decisões que ficam

Descarte uma nota com um motivo e ela fica resolvida. O próximo agente que mexer na tabela lê a sua decisão em vez de levantar o problema de novo.

O cartão de marketplace_formats.csv na auditoria de dados com 0 notas abertas e um selo verde dizendo Limpa como Marketplace orders cleaned, acima de uma nota de formato numérico misto marcada como resolvida
Todas as notas desta tabela resolvidas, e o cartão nomeia a visão limpa.

Como se encaixa

Desde o momento em que seus dados chegam

  1. Envie ou conecte

    Uma exportação de planilha, um CSV, ou tabelas de um sistema conectado ou banco de dados. A Biblioteca reúne todas.

  2. A auditoria roda assim que os dados chegam

    As verificações rodam dentro da varredura que o Querri já faz quando uma tabela chega, e de novo em cada visão enquanto ela é criada. Ninguém precisa pedir.

  3. Limpe com o Janitor

    Percorra a auditoria de dados do mais urgente para o menos urgente, ou clique em Limpar esta tabela e responda às decisões que cabem a você.

  4. Toda resposta já sabe

    As notas abertas acompanham a coluna nas instruções de cada agente. Quando os dados forçaram uma escolha, a resposta diz qual escolha foi feita.

Perguntas frequentes

Perguntas sobre limpeza automática de dados

O que é limpeza automática de dados?

Limpeza automática de dados significa que os problemas dos seus dados são encontrados e corrigidos sem que ninguém precise escrever regras ou scripts antes. No Querri, a auditoria de dados aplica mais de 180 verificações de qualidade de dados a cada tabela assim que ela chega, e o Janitor, um agente de IA, limpa com você o que encontrou. O resultado é uma visão limpa que respostas, dashboards e agentes usam a partir daí.

O que é uma auditoria de dados?

Uma auditoria de dados é uma verificação sistemática de um conjunto de dados em busca dos problemas que deixam seus números errados: valores ausentes disfarçados, números salvos como texto, duplicados, formatos misturados, lacunas. No Querri, a auditoria de dados é uma página que aplica mais de 180 verificações a cada tabela assim que ela chega e lista o que encontrou, com o mais urgente primeiro e o motivo pelo qual cada problema importa.

O que é qualidade de dados automática?

Verificações de qualidade de dados que rodam sem ninguém escrever uma regra ou pedir por elas. O Querri verifica cada tabela quando ela é enviada ou conectada e cada visão quando é criada, e registra cada problema que encontra como uma nota de qualidade de dados que você pode reconhecer, descartar ou limpar.

O que significa limpeza de dados agêntica?

Um agente de IA faz o trabalho de limpeza com você em vez de entregar uma lista. O Janitor lê as evidências da auditoria de dados, testa correções nas suas linhas, pergunta o que só você pode decidir, mostra o plano e cria uma visão limpa quando você aprova. Depois, o Querri mede essa visão de novo para provar quais problemas sumiram.

Quais fontes de dados o Querri consegue limpar?

Qualquer tabela que chegue ao Querri, de um arquivo ou de um conector. Isso inclui Shopify, Stripe, Salesforce, HubSpot, Pipedrive, QuickBooks, NetSuite, Klaviyo, Mailchimp, Intercom, Zendesk, Google Ads, Meta Ads, Amazon Seller, Google Analytics, Mixpanel, Amplitude, data warehouses e bancos de dados como Snowflake, BigQuery, Redshift, Postgres, MySQL, SQL Server e Oracle, arquivos no Google Drive, e planilhas e CSVs enviados. A limpeza de dados de pedidos do Shopify ou de oportunidades do Salesforce funciona do mesmo jeito que a de um CSV exportado.

Posso limpar dados de várias fontes antes de juntá-los?

Sim. Cada tabela tem sua própria auditoria e sua própria visão limpa, então você limpa cada fonte primeiro e depois junta as visões limpas. As datas ficam em um só formato, as moedas são tratadas do jeito que você escolheu, as grafias são unificadas e os IDs são corrigidos dentro de cada fonte, e é isso que faz a junção bater. A auditoria também verifica as chaves de junção detectadas entre tabelas, como linhas filhas cuja chave não tem correspondência na tabela principal.

Ele limpa exportações do Excel e do Google Sheets?

Sim. Exportações de planilha têm verificações próprias: linhas de total e subtotal no meio dos dados, cabeçalhos repetidos no meio do arquivo, meses dispostos como colunas, números de série do Excel se passando por datas, IDs transformados em 1.23E+11, CEPs que perderam o zero inicial e um arquivo que parou na última linha do Excel. Envie a exportação do jeito que está e a auditoria de dados lista o que encontrou.

Ele consegue padronizar datas e moedas entre sistemas?

Dentro de cada tabela, sim, e é isso que faz tabelas de sistemas diferentes concordarem. A auditoria identifica vários formatos de data em uma coluna, comprova a partir dos valores, quando possível, se o dia ou o mês vem primeiro, e sinaliza moedas misturadas ou valores cuja moeda discorda da coluna de moeda. O Janitor pergunta o que só você pode decidir, como converter as moedas ou mantê-las separadas, e a visão limpa escreve cada data e cada valor de um só jeito.

Como ele lida com duplicados?

Ele separa três casos: linhas repetidas exatamente, chaves que se repetem com os mesmos valores e chaves que se repetem mas discordam, como um id de pedido com dois totais. Os dois primeiros podem simplesmente ser agrupados. Quando as repetições discordam, nada nos dados diz qual está certa, então o Janitor pergunta qual linha manter, com a recomendação dele primeiro.

Ele altera meus dados originais ou faz uma cópia?

Seus dados brutos continuam exatamente como chegaram. A correção é uma visão limpa, definida em SQL que você pode abrir e construída a partir da fonte em vez de escrever por cima. A fonte continua ao lado para você comparar uma com a outra.

O que é uma visão limpa, e ela continua funcionando quando chegam dados novos?

Uma visão limpa é uma visão salva que aplica as correções do Janitor à tabela de origem, e a fonte passa a mostrar Limpa como com o nome da visão. Como é uma definição salva e não uma edição pontual, ela funciona do mesmo jeito com os dados do mês seguinte. Quando a visão é reconstruída, o Querri a mede de novo, e um problema que volta reabre a nota dele.

Qual a diferença para uma ferramenta de qualidade de dados ou um script de limpeza?

Muitas ferramentas de qualidade de dados monitoram pipelines para engenheiros, ou mostram estatísticas de colunas e esperam alguém construir a correção, e um script de limpeza só verifica aquilo para o que foi escrito. O Querri aplica suas verificações a cada tabela antes de alguém perguntar, ordena o que encontrou pelas perguntas e KPIs que leem cada coluna, pergunta as decisões que mudam um número e constrói a correção como uma visão que depois mede de novo.

Quem vê as notas de qualidade de dados, e quem aprova uma correção?

As notas seguem as mesmas regras de acesso das tabelas que descrevem, e quando alguém só pode ver parte das linhas, os valores de exemplo ficam de fora. Nenhuma correção é aplicada sozinha: o Janitor mostra o plano em um cartão de revisão e só cria a visão limpa quando a pessoa que está trabalhando com ele aprova.

Posso dizer uma regra uma vez só?

Sim. Descarte uma nota com um motivo e ela fica resolvida, então o próximo agente lê a sua decisão em vez de levantar o problema de novo. Use Criar um fato para salvar o que você sabe sobre os dados, e os agentes vão ler esse fato sempre que os usarem.

Chega de segunda de manhã consertando a exportação.

Veja a auditoria de dados nas suas próprias tabelas e depois limpe uma com o Janitor.