Zum Inhalt springen

Das Daten-Audit und der Janitor

Automatische Datenbereinigung

Es findet, was mit Ihren Daten nicht stimmt. Dann bereinigt es sie gemeinsam mit Ihnen.

Mehr als 180 Prüfungen für jede Tabelle, sobald sie ankommt. Das Daten-Audit ordnet seine Funde danach, welche Antworten sie betreffen, und der Janitor fragt Sie nur nach den Entscheidungen, die nur Sie treffen können. Dann erstellt er eine bereinigte Ansicht, die jede Antwort verwendet.

Agentische Datenbereinigung

Lernen Sie Ihren Janitor kennen

Klicken Sie auf Diese Tabelle bereinigen, und der Janitor macht sich an die Arbeit. Er liest, was das Daten-Audit gefunden hat, testet jede Korrektur an Ihren eigenen Zeilen und hält nur für die Entscheidungen an, die er nicht allein treffen kann. Das ist agentische Datenbereinigung: Der Agent erledigt die Arbeit, und Sie treffen die Entscheidungen, die eine Zahl verändern.

  1. Starten Sie ihn an einer Tabelle oder einer Notiz

    Klicken Sie bei einer Tabelle auf Diese Tabelle bereinigen oder bei einer einzelnen Notiz auf Janitor fragen. Die Belege, die das Audit gemessen hat, liegen ihm bereits vor.

  2. Er fragt nur, was nur Sie entscheiden können

    Monat oder Tag zuerst? Welche Währungsspalte gilt? Welche doppelte Zeile bleibt? Jede Frage kommt als Auswahlkarte, mit seiner Empfehlung an erster Stelle.

  3. Er zeigt Ihnen den Plan

    Eine Prüfkarte listet jede Korrektur auf und was unverändert bleibt. Nichts wird erstellt, bevor Sie auf Bereinigte Ansicht erstellen klicken.

  4. Sie erhalten eine bereinigte Ansicht

    Das Ergebnis ist eine neue Ansicht, die Sie öffnen können, und die Karte der Tabelle zeigt Bereinigt als mit ihrem Namen. Das Original bleibt genau so, wie es angekommen ist.

Eine Aufnahme ohne Ton. Der Janitor soll eine Datei mit Marktplatz-Bestellungen bereinigen. Er stellt drei Fragen als Auswahlkarten, jeweils mit seiner Empfehlung zuerst: Datumsangaben mit Monat oder Tag zuerst, welche Währungsspalte gilt und welche doppelte Zeile behalten wird. Er zeigt eine Prüfkarte mit jeder Korrektur, die Ansicht wird erstellt, und die Tabelle zeigt danach Bereinigt als Marketplace orders, cleaned.

Ein echter Lauf: drei Fragen, eine Prüfkarte, dann eine bereinigte Ansicht.

Automatische Datenqualität

Das Daten-Audit: mehr als 180 Prüfungen für jede Tabelle, sobald sie ankommt

Jede Tabelle, die Sie hochladen oder verbinden, wird beim Eintreffen geprüft, bevor jemand eine Frage stellt, und jede Ansicht, während sie erstellt wird. Gesucht wird nach den Problemen, die man kennt, und nach denen, an die niemand denken würde. Was gefunden wird, steht auf einer Seite, dem Daten-Audit, das Dringendste zuerst und jeweils mit dem Grund, warum es zählt.

Die Seite Daten-Audit: der Janitor im Chat-Dock, Zähler mit 172 offenen, 53 wesentlichen, 90 zu beobachtenden, 29 Info- und 10 gelösten Notizen, ein Suchfeld mit Filtern für Status, Schweregrad, Connector und Tabelle sowie eine Tabellenkarte mit einer Notiz zu doppelten Schlüsseln, ihren Chips zur Relevanz und den Schaltflächen Bestätigen, Verwerfen, Als Fakt speichern und Janitor fragen
Eine Seite für jedes Problem, das das Audit gefunden hat, das Dringendste zuerst.

Wonach die Prüfungen suchen

  • Getarnte fehlende Werte

    N/A, ein Strich oder ein Leerwert als Text gespeichert, 1900-01-01 als Platzhalter für ein unbekanntes Datum, 999 für ein unbekanntes Alter.

  • Zahlen und Datumsangaben als Text

    Beträge mit $, € oder Kommas, negative Werte in Klammern, zwei Zahlenformate oder mehrere Datumsformate in einer Spalte, Excel-Seriennummern, die sich als Datum ausgeben.

  • Schreibweisen und Namen

    Retail, retail und RETAIL als drei Kanäle gezählt, Ja/Nein auf sechs Arten geschrieben, eine ID mit mehreren Namen.

  • Duplikate und Schlüssel

    Exakt wiederholte Zeilen, sich wiederholende Schlüssel und Schlüssel, die sich wiederholen und bei den Zahlen widersprechen.

  • Werte, die nicht stimmen können

    Negative Mengen, Prozentwerte über 100, Datumsangaben in der Zukunft, eine Summe, die nicht die Summe ihrer Teile ist.

  • Tabellenstruktur

    Summenzeilen mitten in den Daten, Kopfzeilen, die sich in der Datei wiederholen, Monate als Spalten, eine Datei, die bei der letzten Excel-Zeile abbricht.

  • IDs und Kodierung

    Postleitzahlen ohne führende Null, IDs als 1.23E+11 exportiert, verstümmelte Umlaute und Akzente, unsichtbare Zeichen in Werten.

  • Zeit und Aktualität

    Eine Tabelle, die nicht mehr aktualisiert wird, ein nur halb geladener letzter Monat, Lücken in einer Reihe, ein laufender Saldo, der nie summiert werden darf.

  • Reihenfolge von Ereignissen

    Ein Enddatum vor dem Startdatum, eine nie zugestellte Sendung, eine Opportunity, die abgeschlossen wurde, bevor ihr Account existierte.

  • Abgleich mit Ihrem Datenwörterbuch

    Codes in den Daten, die Ihr Datenwörterbuch nicht kennt, und Spalten, die als Zahl dokumentiert, aber als Text gespeichert sind.

Priorität

Geordnet nach der Wirkung auf Ihre Antworten

Jede Notiz ist als Wesentlich, Beobachten oder Info markiert und danach geordnet, wie stark sich Ihr Unternehmen auf diese Spalte stützt. Ein Problem in einer Spalte, die einen KPI oder eine gespeicherte Frage speist, kommt vor einem kosmetischen in einer Tabelle, die niemand nutzt, und die Notiz sagt, welche Fragen betroffen sind.

Jede Notiz sagt, welche Fragen und Schritte die Spalte lesen.

Ihre Entscheidung

Ein Fund ist etwas, das Sie bearbeiten können

Bestätigen Sie, was Sie schon kennen. Verwerfen Sie, was hier kein Problem ist, und die Begründung bleibt erhalten. Speichern Sie es als Fakt, und Agenten lesen ihn jedes Mal, wenn sie diese Daten verwenden. Markieren Sie einen Bereich, um mehrere Notizen auf einmal zu bearbeiten, und durchsuchen Sie das ganze Audit schon beim Tippen.

Eine Aufnahme ohne Ton, die durch die Karte einer Tabelle im Daten-Audit scrollt: eine Excel-Seriennummer, die sich als Datum ausgibt, Postleitzahlen ohne führende Null und doppelte Schlüssel, jede Notiz mit dem Anteil betroffener Zeilen, Beispielen und einem kleinen Diagramm aus der Messung.

Belege statt einer Punktzahl: der Anteil der Zeilen und ein Bild der Messung.

Unordentliche Daten, entdeckt

Beispiele für das, was es findet

Probleme wie diese stecken jahrelang in den Daten, bis jemand sagt, dass die Zahl falsch ist.

  • Ein Kunde, zweimal gezählt

    Ein unsichtbares Leerzeichen, ob ohne Breite oder am Ende, macht aus "Acme" und "Acme " zwei Kunden. Auf dem Bildschirm sieht alles richtig aus, und die Summe teilt sich in zwei.

  • Monat zuerst und Tag zuerst in einer Spalte

    Ist 01/08/2024 der 8. Januar oder der 1. August? Die Prüfung beweist die Reihenfolge anhand von Werten über 12 und markiert eine Spalte, die beides mischt. Wenn die Daten es nicht klären, fragt Sie der Janitor.

  • Eine Gesamtsummenzeile mitten in den Daten

    Eine in einem Tabellenexport vergessene Summenzeile wird in jeder Summe, die darauf aufbaut, noch einmal gezählt.

  • Währungssymbole in einer Zahlenspalte

    $1,014.08, USD 1023.11 und ($286.05) in einer Spalte. Eine einfache Umwandlung macht manche Werte leer und liest den negativen Wert in Klammern als positiv.

  • Europäische Dezimalzahlen, tausendmal zu klein

    1.234,56 kann ganz ohne Fehlermeldung als 1.23456 herauskommen. Gemischte Trennzeichen werden markiert, damit die Spalte nicht als sauber durchgeht.

  • Dieselbe Bestell-ID, zwei verschiedene Summen

    Zwei Zeilen für Bestellung 5521, die sich widersprechen. Nichts in den Daten sagt, welche stimmt, also wird daraus eine Entscheidung für Sie statt einer stillen Vermutung.

  • Eine Lücke in einer täglichen Reihe

    Keine Zeilen vom 3. bis 17. März, oder ein letzter Monat mit 15 Zeilen statt der üblichen 61, sodass jeder Trend mit einem Einbruch endet, den es nie gab.

  • Codes, die vom Datenwörterbuch abweichen

    Die Spalte region enthält 9, wo Ihr Datenwörterbuch 1 bis 4 vorsieht. Das Audit gleicht kodierte Spalten mit Ihrem eigenen Wörterbuch ab.

  • Platzhalter-Datumsangaben

    34.000 Geburtsdaten mit 1900-01-01 machen den durchschnittlichen Kunden 120 Jahre alt.

Bildschirme aus Querri mit Daten eines Demo-Unternehmens.

Nichts wird stillschweigend überschrieben

Jede Korrektur ist eine Ansicht, die Sie öffnen können

Ihre Rohdaten bleiben genau so, wie sie angekommen sind. Die Arbeit des Janitors wird zu einer bereinigten Ansicht: SQL, das Sie öffnen können, und die Quelle bleibt zum Abgleich erhalten.

Der Beweis, dass die Bereinigung gewirkt hat

Querri misst die bereinigte Ansicht mit denselben Prüfungen erneut. Eine Notiz gilt erst als gelöst, wenn ihr Problem nicht mehr auftritt. Eine Notiz, deren Problem bleibt, bleibt offen, und der Janitor sagt es Ihnen.

Einmal bereinigt, überall verwendet

Die Quelle zeigt dann Bereinigt als mit dem Namen der Ansicht, und jede Antwort, jedes Dashboard und jeder KI-Agent liest von da an die bereinigte Ansicht.

Entscheidungen, die bleiben

Verwerfen Sie eine Notiz mit Begründung, und sie bleibt erledigt. Der nächste Agent, der die Tabelle anfasst, liest Ihre Entscheidung, statt das Problem erneut aufzuwerfen.

Die Karte von marketplace_formats.csv im Daten-Audit mit 0 offenen Notizen und einem grünen Abzeichen Bereinigt als Marketplace orders cleaned, darunter eine als gelöst markierte Notiz zu gemischten Zahlenformaten
Jede Notiz zu dieser Tabelle ist gelöst, und die Karte nennt die bereinigte Ansicht.

So passt es zusammen

Ab dem Moment, in dem Ihre Daten ankommen

  1. Hochladen oder verbinden

    Ein Tabellenexport, eine CSV-Datei oder Tabellen aus einem verbundenen System oder einer Datenbank. Die Bibliothek nimmt sie alle auf.

  2. Das Audit läuft, sobald Daten ankommen

    Die Prüfungen laufen in dem Scan mit, den Querri ohnehin beim Eintreffen einer Tabelle durchführt, und erneut bei jeder Ansicht, während sie erstellt wird. Niemand muss danach fragen.

  3. Mit dem Janitor bereinigen

    Arbeiten Sie das Daten-Audit nach Dringlichkeit ab, oder klicken Sie auf Diese Tabelle bereinigen und treffen Sie die Entscheidungen, die bei Ihnen liegen.

  4. Jede Antwort weiß es schon

    Offene Notizen reisen mit der Spalte in das Briefing jedes Agenten. Wenn die Daten eine Entscheidung erzwungen haben, sagt Ihnen die Antwort, welche sie getroffen hat.

FAQ

Fragen zur automatischen Datenbereinigung

Was ist automatische Datenbereinigung?

Automatische Datenbereinigung heißt, dass die Probleme in Ihren Daten gefunden und behoben werden, ohne dass zuerst jemand Regeln oder Skripte schreibt. In Querri führt das Daten-Audit für jede Tabelle beim Eintreffen mehr als 180 Datenqualitäts-Prüfungen aus, und der Janitor, ein KI-Agent, bereinigt die Funde gemeinsam mit Ihnen. Das Ergebnis ist eine bereinigte Ansicht, die Antworten, Dashboards und Agenten von da an verwenden.

Was ist ein Daten-Audit?

Ein Daten-Audit ist eine systematische Prüfung eines Datensatzes auf die Probleme, die seine Zahlen falsch machen: getarnte fehlende Werte, Zahlen als Text, Duplikate, gemischte Formate, Lücken. In Querri ist das Daten-Audit eine Seite, die für jede Tabelle beim Eintreffen mehr als 180 Prüfungen ausführt und ihre Funde auflistet, das Dringendste zuerst und jeweils mit dem Grund, warum es zählt.

Was ist automatische Datenqualität?

Datenqualitäts-Prüfungen, die laufen, ohne dass jemand eine Regel schreibt oder sie anstößt. Querri prüft jede Tabelle beim Hochladen oder Verbinden und jede Ansicht beim Erstellen und hält jedes gefundene Problem als Datenqualitäts-Notiz fest, die Sie bestätigen, verwerfen oder bereinigen können.

Was bedeutet agentische Datenbereinigung?

Ein KI-Agent erledigt die Bereinigung gemeinsam mit Ihnen, statt Ihnen eine Liste zu übergeben. Der Janitor liest die Belege des Daten-Audits, testet Korrekturen an Ihren Zeilen, fragt Sie nach den Entscheidungen, die nur Sie treffen können, zeigt seinen Plan und erstellt eine bereinigte Ansicht, wenn Sie zustimmen. Querri misst diese Ansicht danach erneut, um zu belegen, welche Probleme behoben sind.

Welche Datenquellen kann Querri bereinigen?

Jede Tabelle, die in Querri ankommt, ob aus einer Datei oder über einen Connector. Dazu gehören Shopify, Stripe, Salesforce, HubSpot, Pipedrive, QuickBooks, NetSuite, Klaviyo, Mailchimp, Intercom, Zendesk, Google Ads, Meta Ads, Amazon Seller, Google Analytics, Mixpanel, Amplitude, Data Warehouses und Datenbanken wie Snowflake, BigQuery, Redshift, Postgres, MySQL, SQL Server und Oracle, Dateien in Google Drive sowie hochgeladene Tabellen und CSV-Dateien. Datenbereinigung für Shopify-Bestellungen oder Salesforce-Opportunities funktioniert genauso wie für einen CSV-Export.

Kann ich Daten aus mehreren Quellen bereinigen, bevor ich sie verknüpfe?

Ja. Jede Tabelle bekommt ihr eigenes Audit und ihre eigene bereinigte Ansicht, Sie bereinigen also zuerst jede Quelle und verknüpfen dann die bereinigten Ansichten. Datumsangaben landen in einem Format, Währungen werden so behandelt, wie Sie es entschieden haben, Schreibweisen werden vereinheitlicht und IDs in jeder Quelle repariert, damit die Verknüpfung passt. Das Audit prüft außerdem erkannte Verknüpfungsschlüssel über Tabellen hinweg, etwa Zeilen, deren Schlüssel in der übergeordneten Tabelle keine Entsprechung hat.

Bereinigt es Excel- und Google-Sheets-Exporte?

Ja. Tabellenexporte bekommen eigene Prüfungen: Summen- und Zwischensummenzeilen mitten in den Daten, Kopfzeilen, die sich in der Datei wiederholen, Monate als Spalten, Excel-Seriennummern, die sich als Datum ausgeben, IDs als 1.23E+11, Postleitzahlen ohne führende Null und eine Datei, die bei der letzten Excel-Zeile endet. Laden Sie den Export so hoch, wie er ist, und das Daten-Audit listet auf, was es gefunden hat.

Kann es Datumsangaben und Währungen systemübergreifend vereinheitlichen?

Innerhalb jeder Tabelle ja, und genau das bringt Tabellen aus verschiedenen Systemen in Einklang. Das Audit erkennt mehrere Datumsformate in einer Spalte, beweist anhand der Werte, wo möglich, ob der Tag oder der Monat zuerst steht, und markiert gemischte Währungen oder Beträge, deren Währung nicht zur Währungsspalte passt. Der Janitor fragt nach den Entscheidungen, die nur Sie treffen können, etwa ob Währungen umgerechnet oder getrennt gehalten werden, und die bereinigte Ansicht schreibt jedes Datum und jeden Betrag einheitlich.

Wie geht es mit Duplikaten um?

Es unterscheidet drei Fälle: exakt wiederholte Zeilen, Schlüssel, die sich mit denselben Werten wiederholen, und Schlüssel, die sich wiederholen und widersprechen, etwa eine Bestell-ID mit zwei Summen. Die ersten beiden lassen sich einfach zusammenführen. Wenn sich Wiederholungen widersprechen, sagt nichts in den Daten, welche stimmt, also fragt Sie der Janitor, welche Zeile bleiben soll, mit seiner Empfehlung zuerst.

Verändert es meine Originaldaten oder erstellt es eine Kopie?

Ihre Rohdaten bleiben genau so, wie sie angekommen sind. Die Korrektur ist eine bereinigte Ansicht, in SQL definiert, das Sie öffnen können, und aus der Quelle erstellt statt darübergeschrieben. Die Quelle bleibt daneben bestehen, damit Sie beide vergleichen können.

Was ist eine bereinigte Ansicht, und funktioniert sie weiter, wenn neue Daten kommen?

Eine bereinigte Ansicht ist eine gespeicherte Ansicht, die die Korrekturen des Janitors auf die Quelltabelle anwendet, und die Quelle zeigt danach Bereinigt als mit dem Namen der Ansicht. Weil sie eine gespeicherte Definition ist und keine einmalige Bearbeitung, läuft sie auf den Daten des nächsten Monats genauso. Wenn die Ansicht neu erstellt wird, misst Querri sie erneut, und ein Problem, das zurückkehrt, öffnet seine Notiz wieder.

Was unterscheidet das von einem Datenqualitäts-Tool oder einem Bereinigungsskript?

Viele Datenqualitäts-Tools überwachen Pipelines für Engineers oder zeigen Spaltenstatistiken und warten, bis jemand die Korrektur baut, und ein Bereinigungsskript prüft nur, wofür es geschrieben wurde. Querri führt seine Prüfungen für jede Tabelle aus, bevor jemand fragt, ordnet die Funde nach den Fragen und KPIs, die jede Spalte lesen, fragt Sie nach den Entscheidungen, die eine Zahl verändern, und baut die Korrektur als Ansicht, die es danach erneut misst.

Wer sieht die Datenqualitäts-Notizen, und wer gibt eine Korrektur frei?

Notizen folgen denselben Zugriffsregeln wie die Tabellen, die sie beschreiben, und wo jemand nur einen Teil der Zeilen sehen darf, werden die Beispielwerte weggelassen. Eine Korrektur wird nie von selbst angewendet: Der Janitor zeigt seinen Plan auf einer Prüfkarte und erstellt die bereinigte Ansicht erst, wenn die Person, die mit ihm arbeitet, zustimmt.

Kann ich ihm eine Regel einmal sagen?

Ja. Verwerfen Sie eine Notiz mit Begründung, und sie bleibt erledigt, sodass der nächste Agent Ihre Entscheidung liest, statt das Problem erneut aufzuwerfen. Mit Als Fakt speichern halten Sie fest, was Sie über die Daten wissen, und Agenten lesen diesen Fakt jedes Mal, wenn sie die Daten verwenden.

Nie wieder den Montagmorgen damit verbringen, den Export zu reparieren.

Sehen Sie das Daten-Audit an Ihren eigenen Tabellen, und bereinigen Sie dann eine mit dem Janitor.