Setzen Sie sich mit einem flachen RAG-System hin, das seit einem Jahr in Produktion ist, und versuchen Sie, ihm vier Fragen zu stellen. âWarum hast du das gesagt?â Das Modell lieferte eine selbstbewusste Antwort ĂŒber das VertragsverlĂ€ngerungsdatum des Kunden, aber die Spur zurĂŒck zur Quellklausel existiert nicht. âĂberprĂŒfe diese Behauptung erneut â die Quelle hat sich geĂ€ndert.â Der Vertrag wurde letzte Woche geĂ€ndert. Jede daraus abgeleitete Tatsache ist fragwĂŒrdig. Sie können sie nicht finden, weil Sie nicht wissen, aus welchem Dokument sie stammen. âEntscheide zwischen diesen zwei widersprĂŒchlichen Tatsachen.â Eine besagt, Alex arbeitet bei Google, eine andere bei Stripe. Keine trĂ€gt einen Konfidenzwert oder einen Quellenzeitstempel. Die AktualitĂ€t des Schreibens hat nichts mit der AktualitĂ€t des Beweises zu tun. âSchreibe diese Halluzination zu.â Das Modell sagte, das Meeting sei am Donnerstag gewesen. Es gab kein Meeting am Donnerstag. Sie können nicht sagen, ob die LLM das Datum erfunden hat oder ob schlechte Daten im Speicher sie in die Irre gefĂŒhrt haben.
Diese vier Fehler haben eine gemeinsame Ursache. Ihnen fehlt jeweils eine Spalte. Eine Quellenkennung, ein Erfassungszeitstempel, ein Konfidenzwert, ein Antwort-Zitierprotokoll. Jedes kostet ein paar Bytes beim Schreiben. Die Kosten, sie nicht zu haben, sind unbegrenzt: Jede Behauptung ist nicht prĂŒfbar, jeder Widerspruch ist nicht auflösbar, jede Halluzination ist nicht zurĂŒckverfolgbar.
Ăber 19 Systeme hinweg ist das Muster konsistent. Die stĂ€rksten Implementierungen behandeln Provenienz so, wie ein Gericht Beweise behandelt â jede Behauptung kommt mit einer ununterbrochenen Kette der Verwahrung oder sie kommt gar nicht. Die schwĂ€chsten tragen keine und bezahlen dafĂŒr jedes Mal, wenn etwas in der Produktion schiefgeht. Dieser Artikel beleuchtet die sechs Ebenen der Provenienz, die das Korpus hervorgebracht hat, die drei Reifegrade der Implementierung, die sie voneinander trennen, und die ehrlichen Kosten, dies von Anfang an richtig zu bauen.
Sechs Ebenen, eine Disziplin
Wenn man 19 Systeme nacheinander liest, sondern sich sechs verschiedene Ebenen der Provenienz heraus. Sie sind keine Hierarchie; sie sind orthogonal. Ein System kann Quellenprovenienz ohne Kausalprovenienz haben. Es kann Versionierung ohne Konfidenzbewertung haben. Die stÀrksten Implementierungen decken alle sechs ab. Keine der schwÀchsten deckt auch nur eine ab.
IdentitĂ€t beantwortet âwelche Tatsache genau?â OpenContext erstellt UUIDs fĂŒr jeden Kontext bei der Aufnahme und stellt sie als Zitierschema zur VerfĂŒgung, das der Agent direkt in Antworten verwenden kann. Die Kennung ĂŒberlebt Umbenennungen, Verschiebungen und Umstrukturierungen, weil sie an den Inhalt gebunden ist, nicht an den Pfad. mem9 trĂ€gt eine stabile Speicher-ID auf jeder Zeile plus einen expliziten VersionszĂ€hler mit If-Match-Konkurrenzschutz. Ohne IdentitĂ€tsprovenienz können Sie nicht einmal benennen, worĂŒber Sie sprechen, wenn etwas schiefgeht.
Quelle beantwortet âwoher kam es?â Hindsight zeichnet Quelltyp und -kennung fĂŒr jede Beobachtung auf, sodass das System beantworten kann, welche Konversation oder welches Dokument eine bestimmte Tatsache hervorgebracht hat. mem9 trĂ€gt Quelle, Agenten-ID und Sitzungs-ID auf jeder Zeile. Supermemory speichert Dokumenten-IDs zusammen mit Erinnerungen. Ohne Quellenprovenienz können Sie keine Aktualisierungen kaskadieren, wenn sich eine Quelle Ă€ndert, weil Sie nicht wissen, welche Tatsachen davon abhĂ€ngen.
Kausal beantwortet âwelcher Agentenschritt hat dies verwendet?â Hindsight erfasst jede abgerufene und verwendete Tatsache in einer Beobachtungsebene mit vollstĂ€ndigem Abrufkontext â welcher Abrufer sie hervorgebracht hat, welchen Rang sie erreicht hat und ob der Agent sie tatsĂ€chlich konsumiert hat. Moraine behandelt jeden Trace-Schritt als eigenen Provenienzdatensatz, wodurch die gesamte AusfĂŒhrung des Agenten als eine Folge von quellenadressierbaren Ereignissen wiederherstellbar wird. Ohne Kausalprovenienz können Sie nicht unterscheiden zwischen âdas System hat diese Tatsache abgerufenâ und âder Agent hat diese Tatsache verwendet, um diese Antwort zu erzeugen.â
Erfassungskonfidenz beantwortet âwie sicher waren wir, als wir es aufgeschrieben haben?â Graphify markiert jede Kante in seinem Wissensgraphen mit dreistufiger Erfassungskonfidenz: CONFIRMED fĂŒr deterministische Extraktionen, LIKELY fĂŒr hochvertrauenswĂŒrdige LLM-Schlussfolgerungen und AMBIGUOUS fĂŒr unsichere Behauptungen. Die AMBIGUOUS-Kanten tauchen als âWissenslĂŒckenâ fĂŒr die menschliche ĂberprĂŒfung auf, anstatt stillschweigend als Tatsache behandelt zu werden. Hindsight trĂ€gt einen Konfidenzwert auf jeder Beobachtung, der im Laufe der Zeit durch seinen Frische-Lebenszyklus abnimmt â frische Beobachtungen werden vertraut, Ă€ltere werden herabgestuft oder ausgemustert. mem9 fĂŒhrt zuerst die Erkennung von nahezu Duplikaten im Schattenmodus durch, zeichnet Werte auf, ohne auf sie zu reagieren, bis der Ingenieur den Schwellenwert anhand echter Daten kalibriert hat. Ohne Erfassungskonfidenz werden unsichere und sichere Tatsachen mit gleichem Gewicht abgerufen, und der Agent kann nicht zwischen einer soliden Behauptung und einer fundierten Vermutung unterscheiden.
Versioniert beantwortet âwas haben wir vorher geglaubt?â Supermemory behandelt Erinnerungen als versionierten DAG mit typisierten Kanten â updates, extends, derives â und gibt jedem Glauben eine Commit-Historie. mem9 teilt den Schreibpfad: In-Place-Mutation fĂŒr menschliche Bearbeitungen, AnhĂ€ngen-und-Archivieren fĂŒr LLM-gesteuerte Umschreibungen, bei denen der neue Inhalt den alten semantisch ersetzt. Tolaria lĂ€sst Git die gesamte Versionshistorie tragen und behandelt Einzeilen-Diffs als erstklassiges benutzersichtbares Artefakt. Ohne versionierte Provenienz können Sie nicht zurĂŒckgehen zu dem, was das System am Dienstag geglaubt hat, weil alte Ăberzeugungen gelöscht statt archiviert werden.
Reziprok beantwortet âwelche anderen Tatsachen teilen diesen Ursprung?â llm-wiki gewichtet QuellenĂŒberlappung ĂŒber direkte Verlinkung in seinem Vier-Signal-Relevanzgraphen â zwei Seiten, die aus demselben Rohdokument stammen, werden als stĂ€rker verwandt angenommen als zwei Seiten mit einem direkten Wikilink, weil die LLM bei Querverlinkungen unzuverlĂ€ssig ist, aber die Quellen-Frontmatter mechanisch gepflegt wird. EdgeQuake akkumuliert Quellen-IDs auf EntitĂ€ten und Beziehungen im gesamten Korpus, sodass wiederholte ErwĂ€hnungen derselben EntitĂ€t aus verschiedenen Quellen ihr Provenienzgewicht verstĂ€rken. second-brain trĂ€gt Quelle als Teil seines lexikalischen Index-VerbundschlĂŒssels, sodass ein einzelnes Dokument aus mehreren Pipelines unabhĂ€ngig indiziert werden kann. Ohne reziproke Provenienz können Sie nicht beantworten âzeige mir alles in diesem System, das aus derselben Konversation stammtâ oder âwas haben wir sonst aus diesem Dokument gelernt?â
Die sechs sind orthogonal, aber sie verstĂ€rken sich gegenseitig. Quellenprovenienz ist nutzlos ohne IdentitĂ€t (Sie mĂŒssen die Tatsache benennen, bevor Sie sie verfolgen können). Versionierung ist schwĂ€cher ohne Konfidenz (Sie kennen die Abstammung der Bearbeitungen, aber nicht, wie sicher das System bei jeder einzelnen war). Reziproke Abfragen hĂ€ngen davon ab, dass die Quelle zuerst vorhanden ist. Die Systeme, die alle sechs tragen, sind diejenigen, deren Speicher nicht stillschweigend verrottet.
Drei Reifegrade der Implementierung
Das Korpus unterteilt sich in drei Stufen basierend darauf, wo Provenienz lebt und was sie zur Lesezeit tun kann.
Stufe 1 ist RAG ohne Provenienz, der Ausgangspunkt fĂŒr die meisten Teams. Flache Vektorspeicher mit Inhalt und Einbettung. Keine Quellspalte, kein Konfidenzwert, keine Versionshistorie. Wenn eine Tatsache abgerufen wird, erhalten Sie Text und einen Ăhnlichkeitswert. Sie können nicht zurĂŒckverfolgen, woher sie kam, wie sicher das System darĂŒber war oder ob sie ersetzt wurde. Jedes System, das hier begonnen hat, hat sich im Laufe der Zeit in Richtung Stufe 2 bewegt.
Stufe 2 trĂ€gt Provenienz auf der Zeile. Quellen-ID, Konfidenz, Version â alle als Spalten neben der Tatsache vorhanden. mem9 sitzt hier mit Quelle, Agenten-ID, Sitzungs-ID und Version auf jeder Zeile. Supermemorys versionierter DAG ist Stufe-2-Struktur. Graphifys dreistufige Kantenkonfidenz ist Stufe-2-Disziplin. Die Provenienz ist fĂŒr Abfragen verfĂŒgbar, aber sie dekoriert Abrufergebnisse nicht automatisch. Sie mĂŒssen die Abfrage schreiben, die sie verwendet.
Stufe 3 dekoriert Lesezeitergebnisse mit Provenienzkontext, ohne dass der Aufrufer danach fragen muss. Hindsight ist hier die Referenz â jede abgerufene Tatsache kommt mit ihrem Quelltyp, Konfidenzwert, Frischezustand und dem Ranking pro Abrufer bereits angehĂ€ngt. Der Agent, der das Ergebnis konsumiert, sieht Provenienz als Teil der Tatsache, nicht als separate Suche. mem9s Quellzug-Dekoration sitzt auf halbem Weg zwischen Stufe 2 und Stufe 3, indem sie Lesezeitkontext auf ein Stufe-2-Schema aufpfropft.
Die Migration ist einseitig. Kein System beginnt bei Stufe 3 und entscheidet sich, Provenienzdisziplin zu entfernen. Die Spalten beweisen ihren Wert, sobald sie vorhanden sind. Wenn Sie heute ein Speichersystem entwerfen, lautet die Frage nicht âbrauche ich Provenienz?â, sondern âwelche Stufe möchte ich beginnen, in dem Wissen, dass jede Stufe ĂŒber der, die ich wĂ€hle, spĂ€ter schwerer zu erreichen ist als jetzt einzubauen?â
Der warnende Fall: berechnet und verworfen
Understand-Anything veranschaulicht, was passiert, wenn das Substrat fĂŒr Konfidenz existiert, aber die Spalte, um es aufzuzeichnen, nicht. Das System unterscheidet deterministische Kanten (durch einen Projektscanner aus Quelldateien aufgelöst) von inferierten Kanten (durch eine LLM wĂ€hrend der semantischen Analyse erraten). Diese Information ist real und bedeutungsvoll â eine strukturelle Importkante verdient höheres Vertrauen als eine Nicht-Code-Inferenz. Aber beide werden mit Gewicht 0,7 gespeichert, identisch im Graphen. Das Konfidenzsignal wird zur Schreibzeit berechnet und vor der Persistenz verworfen.
Das HinzufĂŒgen eines Konfidenzfeldes wĂ€re eine kleine Ănderung mit einem groĂen InformationsqualitĂ€tsgewinn. Das System weiĂ bereits, welche Kanten solide und welche SchĂ€tzungen sind. Es zeichnet nur die Unterscheidung nicht dort auf, wo sie wichtig ist â auf der Zeile, die spĂ€ter abgerufen wird, wenn der Agent zwischen ihnen unterscheiden muss. Dieses Muster tritt in mehreren Systemen im Korpus auf: Informationen sind zur Schreibzeit verfĂŒgbar, billig zu erfassen, und dann verloren, weil niemand die Spalte hinzugefĂŒgt hat.
Die ehrlichen Kosten, dies richtig zu bauen
Provenienz kostet Bytes. Eine Quellen-ID, ein Konfidenzwert, ein VersionszĂ€hler â jedes fĂŒgt ein paar Felder pro Zeile hinzu. Im MaĂstab ist das relevant, aber es ist weit weniger wichtig als die Kosten, sie nicht zu haben, wenn etwas in der Produktion schiefgeht und Sie nicht zurĂŒckverfolgen können, warum das System eine falsche Antwort produziert hat.
Die Rechenkosten sind niedriger als erwartet. Konfidenzbewertung erfordert typischerweise einen zusĂ€tzlichen LLM-Aufruf zur Schreibzeit (oder eine deterministische Heuristik fĂŒr strukturelle Fakten), der ĂŒber jede nachfolgende Leseoperation amortisiert wird. Quellenverfolgung kostet nichts auĂer der Aufzeichnung einer Kennung, die bereits existiert. Versionierung kostet eine zusĂ€tzliche Spalte oder ein AnhĂ€ngen pro Schreibvorgang, keinen vollstĂ€ndigen Snapshot. Hindsights Beobachtungsebene fĂŒgt Speicher proportional zur Anzahl der abgerufenen und verwendeten Fakten hinzu, zeichnet aber nur auf, was der Agent tatsĂ€chlich konsumiert hat, nicht alles, was er gesehen hat.
Die betrieblichen Kosten sind die eigentliche Frage. Stufe-3-Dekoration bedeutet mehr Daten, die bei jedem Abruf flieĂen, was die Kontextfensternutzung und die Antwortlatenz leicht erhöht. Die Systeme, die dies ausliefern, handhaben es, indem sie Dekorationen prĂ€gnant halten â einen Quelltyp-Enum, einen Konfidenz-Float, einen Frischezustand â anstatt vollstĂ€ndige ProvenienzbĂ€ume inline. Der Agent bekommt genug, um zu unterscheiden, ohne in Metadaten zu ertrinken.
Was die stÀrksten Implementierungen gemeinsam haben
Die Beispiele aus dem gesamten Korpus verdienen eine Wiederholung, weil keine zwei denselben Ausschnitt des Problems lösen:
OpenContext erstellt UUIDs, die jede Dateisystemumstrukturierung ĂŒberleben, und stellt sie als ein Zitierschema zur VerfĂŒgung, das der Agent direkt verwenden kann. mem9 trĂ€gt Quelle, Agenten-ID, Sitzungs-ID auf jeder Zeile, Version bei jeder Aktualisierung und dekoriert Suchergebnisse mit Quellzug-Kontext, der durch ein explizites Budget gesteuert wird. Supermemory behandelt Erinnerungen als versionierten DAG mit typisierten Kanten, was jedem Glauben eine Commit-Historie gibt. Hindsight erfasst jede abgerufene und verwendete Tatsache in einer Beobachtungsebene mit vollstĂ€ndiger Quellenprovenienz, Evolutionshistorie und Ranking pro Abrufer. Graphify markiert jede Kante mit dreistufiger Erfassungskonfidenz und zeigt unsichere Kanten zur menschlichen ĂberprĂŒfung an, anstatt sie als Tatsache zu behandeln.
Die einheitliche Beobachtung ist klar: Provenienz ist keine Metadaten, sie ist Teil der Tatsache. Die Systeme, die dies so behandeln, sind diejenigen, deren Speicher nicht stillschweigend verrottet, deren WidersprĂŒche geschlichtet werden können, deren Halluzinationen zurĂŒckverfolgt werden können und deren Glaubenshistorie zu jedem beliebigen Zeitpunkt in der Vergangenheit zurĂŒckgespult werden kann, ohne dass die Notwendigkeit vorhergesehen werden musste.
Die Systeme, die dies nicht tun, sind diejenigen, deren Benutzer irgendwann lernen, dass der Speicher, dem sie vertrauten, die ganze Zeit eine Insel war.
Provenienz ist die billigste Versicherung, die Sie zur Schreibzeit kaufen können. Die Disziplin besteht darin, sie zu kaufen, bevor Sie herausfinden, dass Sie sie brauchten.
Fanden Sie diesen Artikel nĂŒtzlich? Bitte teilen Sie ihn, damit auch andere davon profitieren können :)
Das nĂ€chste StĂŒck behandelt hybrides Retrieval und RRF, das Muster, das es Ihnen ermöglicht, Vektor- und SchlĂŒsselwortsignale zu kombinieren, ohne dass eines das andere ĂŒbertönt â was am wichtigsten ist, wenn Provenienz Ihnen sagt, dass eine Tatsache solide ist, aber Relevanz allein sie begraben wĂŒrde. Dieses StĂŒck kommt bald.





