Stell dir vor: Dein KI-Agent kennt dein gesamtes Firmenwissen. Mit einem n8n RAG-System bringst du tausende Dokumente ins Gehirn der KI – und plötzlich kennt sie Antworten, die du vorher nur mit großer Mühe manuell oder gar nicht finden konntest. Genau darum geht in diesem spannenden n8n KI-Projekt.
Die Ausgangs-Situation: Ungeordnetes Firmenwissen
Über Jahre wurde interessante Beiträge über UpNote, einer Notiz-App gesammelt, zu 95% zum Thema Programmieren in JavaScript, C#, Python etc., insgesamt ca. 2.000 Dokumente.
UpNote hat zwar eine Volltext-Suchfunktion, diese versagt aber z.B. bei der folgenden Problemstellung:
“Finde die besten C# Libs, um Inhalte von PDFs zu extrahieren.”
Du kannst dann nach “CSharp” oder “PDF” oder “extrahieren” suchen. Das Ergebnis sind hunderte Dokumente, die Du dann manuell sichten musst. Eine zeitraubende Arbeit.
Die Lösung: KI-Agent & RAG
Die Lösung für dieses Problem sieht wie folgt aus:
- Die Dokumenten-Sammlung wird einmalig aus UpNote als MarkDown-Files exportiert.
- Ein Python Script sendet alle Dateien an einen n8n Workflow.
- Im Workflow werden die Daten in ein RAG-System eingelesen.
- Das RAG stellt dem KI-Agenten das so gesammelte Wissen zur Verfügung.
Ab sofort kannst du dich dann mit dem KI-Agenten über dein gesammeltes Wissen unterhalten.
Er findet nicht nur das was Du suchst, sonder hilft Dir mit weiteren Infos die Suche zu verfeinern und sogar andere Lösungsmöglichkeiten in Betracht zu ziehen.
Die Unterhaltung mit dem KI-Agenten sieht dann zum Beispiel wie folgt aus:
Was ist ein RAG-System?
RAG steht für “Retrieval-Augmented Generation”, kurz: eine KI mit implantierter Gedächtnis-Erweiterung.
Das Prinzip:
- Retrieval: Der KI-Agent durchsucht deine Dokumente und findet relevante Inhalte.
- Augmented: Diese Dokumente werden der KI als Kontext (Embeddings) mitgegeben.
- Generation: Der KI-Agent generiert seine Antwort basierend auf deinen Dokumenten, nicht auf allgemeinem Wissen.
Ein Beispiel:
Frage: “Wie ist unsere Rückgabepolitik?”
Ohne RAG:
Du bekommst eine generische Antwort. Im schlimmsten Fall “halluziniert” die KI, d.h. sie erfindet eine Antwort.
Mit RAG:
Die KI findet deine internen Rückgaberichtlinien und antwortet präzise
Dein KI-Agent wird so zum Firmen-Experte. Sie kennt dein Wissen, kann deine Dokumente verarbeiten und bleibt dabei faktisch korrekt, keine Halluzinationen mehr.
Die Technik dahinter:
Dokumente werden in kleine Text-Häppchen (Chunks) zerlegt, in numerische Vektoren umgewandelt und in einer Datenbank gespeichert (Embeddings). Die KI-Anfrage wird ebenfalls vektorisiert und mit den Embeddings abgeglichen. So findet das System die passenden Dokumente.
Das RAG im Detail
Der n8n Workflow besteht aus 2 Teilen. Der erste Teil behandelt den Import von Daten, während der 2. Teil Die Schnittstelle zum Durchsuchen des so gesammelten Wissens bildet:
1. Datenimport & Embedding
Ein Script sendet die zuvor exportieren Dateien an diesen Teil es n8n Workflows. Der Data Loader liest die Dokumente und wandelt sie in sogenannte Embeddings um, die in einer Vector-Datenbank gespeichert werden. Der Data Loader liest folgende Formate: Text, MarkDown, HTML, PDF, DOCX.
Die Embeddings bilden die Grundlage für den 2. Teil. Hier kannst Du mehr über Embeddings nachlesen.
2. RAG per KI-Agent durchsuchen
Per Telegram Chat stellt der Benutzer eine Frage, worauf der KI-Agent zuerst über das Knowledge-base Tool die interne Wissensdatenbank durchsucht, bevor er eigenes Wissen heranzieht.
Zudem besitzt der KI-Agent noch eigene Chat Memory, damit er sich an vorherige Unterhaltungen zurück erinnern kann. So kann der KI-Agent auch Bezüge zu vorherigen Fragen wieder herstellen.
Fazit
Ein sehr spannendes KI-Agent Projekt, das den Einsatz von RAG-Technologie in der Praxis zeigt.
Das Konstrukt bleibt immer gleich, egal ob der KI-Agent am Ende ein Experte für Programmier-Aufgaben, Ernährungsfragen, Medizin, Rechtswissenschaften oder was auch immer wird. Das “eingehängte” Wissen entscheidet.
Mehr spannende KI-Projekte mit n8n findest Du hier.
