RAG-System entwickeln lassen in Oldenburg.
Eine KI, die nicht irgendetwas erzählt, sondern auf euren eigenen Dokumenten antwortet — mit Quellenangabe, damit jede Aussage überprüfbar bleibt. Handbücher, Richtlinien, Angebote, Protokolle: Statt zu suchen, fragt euer Team einfach. Ich baue die Anbindung selbst und sage vorher ehrlich, ob sich der Aufwand für euch lohnt.
Was ist ein RAG-System?
RAG steht für Retrieval-Augmented Generation, auf Deutsch etwa „Generierung mit vorgeschalteter Suche". Statt eine KI aus ihrem allgemeinen Trainingswissen antworten zu lassen, wird zuerst in euren eigenen Dokumenten nach den passenden Stellen gesucht. Nur diese gefundenen Ausschnitte bekommt das Sprachmodell als Grundlage — und formuliert daraus die Antwort.
Der praktische Nutzen: Die KI kennt Inhalte, die sie nie gelernt hat, sie kann ihre Quelle nennen, und sie erfindet deutlich seltener etwas, weil sie sich auf vorgelegte Textstellen stützt statt auf Erinnerung.
Das Problem, das RAG löst, kennt jeder, der schon einmal ein Sprachmodell nach internen Dingen gefragt hat: Es antwortet flüssig, selbstbewusst — und falsch. Nicht aus bösem Willen, sondern weil es eure Preisliste, eure Montageanleitung und euren Tarifvertrag schlicht nie gesehen hat. Es rät auf Basis von allem, was es sonst gelernt hat.
RAG dreht die Reihenfolge um. Erst suchen, dann antworten. Damit wird aus einem allgemein gebildeten Modell ein Assistent, der euren Wissensstand hat — und der auf Nachfrage sagen kann, in welchem Dokument auf welcher Seite die Information steht.
Wie ein RAG-System funktioniert.
Fünf Schritte, ohne Fachjargon:
Dokumente einsammeln
Alles, was euer Wissen ausmacht: PDFs, Handbücher, Richtlinien, Protokolle, Intranet-Seiten, Tabellen. Ihr entscheidet, was hineinkommt und was nicht.
In Abschnitte zerlegen
Lange Dokumente werden in sinnvolle Häppchen geteilt. Klingt banal, ist aber der Schritt, an dem die Qualität am häufigsten scheitert: Zerschneidet man an der falschen Stelle, geht der Zusammenhang verloren.
Durchsuchbar machen
Jeder Abschnitt bekommt eine Art inhaltlichen Fingerabdruck und landet in einer Datenbank. Dadurch wird nicht nach Stichworten gesucht, sondern nach Bedeutung — „Wie lange habe ich Gewährleistung?" findet auch einen Abschnitt, in dem nur „Mängelhaftung" steht.
Passende Stellen finden
Kommt eine Frage, werden zuerst die relevantesten Abschnitte herausgesucht — nicht das ganze Archiv, sondern die Handvoll Stellen, die wirklich zur Frage passen.
Antwort mit Quelle
Diese Ausschnitte gehen zusammen mit der Frage an das Sprachmodell, das daraus eine verständliche Antwort formuliert — inklusive Verweis, woher die Information stammt. Findet sich nichts Passendes, sagt das System das, statt sich etwas auszudenken.
Wofür Unternehmen RAG einsetzen.
Internes Wissen zugänglich machen
Neue Mitarbeiter fragen den Assistenten statt Kollegen. Das Wissen aus Handbüchern und Ablagen wird endlich nutzbar, statt in Ordnern zu verstauben.
Technischer Support
Der Service findet in Sekunden die richtige Stelle in Montageanleitungen, Fehlerlisten und Gerätedokumentation — statt sich durch hunderte PDF-Seiten zu blättern.
Kundenanfragen beantworten
Ein Assistent auf der Website, der wirklich eure Leistungen, Preise und Abläufe kennt — und bei Unsicherheit an einen Menschen übergibt.
Angebote & Verträge durchsuchen
„In welchen Verträgen steht diese Klausel?" — Fragen an einen Bestand, den kein Mensch mehr vollständig im Kopf hat.
Richtlinien & Vorschriften
Normen, Verordnungen und interne Regelwerke abfragbar machen — mit Quellenangabe, damit die Antwort belegbar bleibt.
Fachwissen im Vertrieb
Der Außendienst hat unterwegs Zugriff auf technische Details, Referenzen und Argumente — ohne im Büro anrufen zu müssen.
RAG oder etwas anderes?
Nicht jedes KI-Vorhaben braucht ein RAG-System. Die ehrliche Gegenüberstellung:
| Ansatz | Wann sinnvoll | Aufwand |
|---|---|---|
| ChatGPT direkt nutzen | Gelegentliche Aufgaben, kein Zugriff auf interne Daten nötig | keiner |
| Dokument einfach anhängen | Wenige, kurze Dokumente, die immer dieselben sind | gering |
| RAG-System | Viele oder sich ändernde Dokumente, Quellenangabe wichtig | mittel bis hoch |
| Eigenes Modell trainieren | Sehr selten sinnvoll — nur bei speziellen Anforderungen und großem Budget | sehr hoch |
Wenn eure Frage mit „wir haben fünf PDFs" beginnt, braucht ihr kein RAG-System — dann reicht es, die Dateien direkt an ein Sprachmodell zu geben. Interessant wird RAG erst bei vielen Dokumenten, bei Inhalten, die sich regelmäßig ändern, oder wenn jede Antwort belegbar sein muss.
Deshalb steht bei mir am Anfang immer ein kleiner Prototyp mit euren echten Dokumenten. Daran seht ihr, ob die Antwortqualität für euren Fall reicht — bevor größer investiert wird.
Was mit euren Daten passiert.
Die berechtigte erste Frage bei internen Dokumenten. Drei Punkte, die vorab geklärt werden:
- Was kommt überhaupt hinein? Ihr gebt frei, welche Dokumente aufgenommen werden — personenbezogene Daten bleiben im Zweifel draußen.
- Wo wird verarbeitet? Es lassen sich Anbieter und Einstellungen wählen, die eine Verarbeitung in der EU ermöglichen und die Nutzung eurer Inhalte zum Training des Modells vertraglich ausschließen.
- Wer darf was sehen? Zugriffsrechte lassen sich abbilden, sodass nicht jeder Mitarbeiter jedes Dokument abfragen kann.
Die technische Umsetzung und die Dokumentation dazu liefere ich sauber. Die rechtliche Bewertung — Verzeichnis von Verarbeitungstätigkeiten, Auftragsverarbeitung, Datenschutzerklärung — gehört zu eurem Datenschutzbeauftragten oder Anwalt. Ich liefere die Grundlage, nicht die Rechtsberatung.
KI und Logik im echten Einsatz.
Hier stehen keine erfundenen Großprojekte. Ein RAG-System besteht am Ende aus drei Dingen, die ich nachweislich beherrsche: eine KI-Schnittstelle sauber anbinden, Daten strukturiert aufbereiten und Regeln zuverlässig in Software abbilden.
Fachlicher Hintergrund: meine Bachelorarbeit „Chancen & Risiken von KI in der Webentwicklung". Seit 2022 arbeite ich täglich mit Sprachmodellen und setze KI-Automatisierungen im eigenen Betrieb ein.
Was kostet ein RAG-System?
Der Preis hängt vor allem an der Menge und dem Zustand eurer Dokumente sowie daran, wie tief die Anbindung an bestehende Systeme gehen soll. Die Zahlen sind Orientierung, keine Fixpreise.
Prototyp. Ein abgegrenzter Dokumentenbestand, einfache Oberfläche — um die Antwortqualität an euren echten Inhalten zu prüfen.
Produktives System. Größerer Bestand, Zugriffsrechte, saubere Oberfläche, Aktualisierung der Dokumente, Protokollierung.
Tiefe Integration. Anbindung an bestehende Systeme, komplexe Rechte, mehrere Quellen und laufende Datenübernahme.
Dazu kommen laufende Kosten: die Nutzung der KI-Schnittstelle (abhängig davon, wie oft gefragt wird) sowie Hosting und Pflege. Bei üblichem internen Aufkommen bewegt sich das meist im zwei- bis niedrigen dreistelligen Bereich pro Monat. Was das für euch bedeutet, rechnen wir vorher konkret durch — nicht erst auf der Rechnung.
FAQ — RAG-Systeme.
Was bedeutet RAG?
RAG steht für Retrieval-Augmented Generation, also sinngemäß Generierung mit vorgeschalteter Suche. Statt die KI aus ihrem allgemeinen Trainingswissen antworten zu lassen, wird zuerst in euren eigenen Dokumenten nach passenden Stellen gesucht. Nur diese Ausschnitte bekommt das Sprachmodell als Grundlage und formuliert daraus die Antwort. Dadurch kennt die KI Inhalte, die sie nie gelernt hat, und kann ihre Quelle nennen.
Erfindet die KI dann keine Antworten mehr?
Deutlich seltener, aber eine Garantie gibt es nicht. Weil das Modell konkrete Textstellen vorgelegt bekommt, muss es weniger raten, und durch die Quellenangabe ist jede Antwort nachprüfbar. Zusätzlich lässt sich einstellen, dass das System ausdrücklich sagt, wenn es nichts Passendes gefunden hat, statt etwas zu konstruieren. Wer verspricht, dass Halluzinationen vollständig ausgeschlossen sind, sagt nicht die Wahrheit.
Bleiben unsere Dokumente vertraulich?
Ihr entscheidet, welche Dokumente überhaupt aufgenommen werden. Es lassen sich Anbieter und Einstellungen wählen, die eine Verarbeitung in der EU ermöglichen und die Nutzung eurer Inhalte zum Training des Modells vertraglich ausschließen. Zugriffsrechte lassen sich so abbilden, dass nicht jeder Mitarbeiter jedes Dokument abfragen kann. Die rechtliche Bewertung gehört zu eurem Datenschutzbeauftragten, die technische Grundlage liefere ich dokumentiert.
Können wir nicht einfach die Dateien an ChatGPT anhängen?
Bei wenigen, kurzen und immer gleichen Dokumenten ist das tatsächlich die bessere und günstigere Lösung, und dann sage ich das auch. Ein RAG-System lohnt sich erst, wenn der Bestand groß ist, sich regelmäßig ändert, mehrere Personen darauf zugreifen sollen oder jede Antwort mit Quelle belegbar sein muss.
Welche Dokumentformate funktionieren?
Übliche Formate wie PDF, Word, Textdateien, Tabellen und Webseiten lassen sich verarbeiten. Kritisch sind eingescannte Dokumente ohne Texterkennung, weil dort zunächst der Text extrahiert werden muss, und stark verschachtelte Tabellen, deren Struktur beim Zerlegen leicht verloren geht. Was in eurem Bestand problematisch ist, sehen wir im Prototyp sehr schnell.
Was kostet ein RAG-System?
Ein Prototyp mit einem abgegrenzten Dokumentenbestand startet bei etwa 2.500 Euro, ein produktives System liegt meist zwischen 6.000 und 15.000 Euro, tiefe Integrationen in bestehende Systeme darüber. Dazu kommen laufende Kosten für KI-Nutzung, Hosting und Pflege, bei üblichem internen Aufkommen meist im zwei- bis niedrigen dreistelligen Bereich pro Monat. Diese Zahlen sind Orientierung und keine Fixpreise.
Wie lange dauert die Umsetzung?
Ein Prototyp an euren echten Dokumenten ist in wenigen Wochen machbar. Wie lange ein produktives System braucht, hängt weniger an der Programmierung als am Zustand der Daten: Ein gepflegter, digital vorliegender Bestand geht schnell, ein gewachsenes Archiv aus Scans und Dateiablagen kostet Vorbereitungszeit.
Arbeitest du auch für Kunden in Oldenburg, obwohl du nicht dort sitzt?
Ja. Ich komme aus dem Raum Osnabrück und Bramsche und betreue Oldenburg und den gesamten Nordwesten digital: Erstgespräch per Telefon oder Video, Abstimmung über kurze Erklärvideos, Übergabe online. Für ein persönliches Treffen bin ich schnell vor Ort, der Rest läuft bequem übers Netz.
Passt dazu.
KI Entwickler
Alle Wege, KI sinnvoll einzusetzen — Integration, Automatisierung, Schnittstellen. Mit ehrlicher Einordnung, wo sie sich lohnt.
AnwendungsfallKI-Chatbot entwickeln lassen
Der häufigste Weg, ein RAG-System sichtbar zu machen: ein Assistent, der eure Inhalte kennt.
FundamentPHP Entwickler
Die Backend-Arbeit hinter jeder KI-Anbindung: Schnittstellen, Datenverarbeitung, individuelle Web-Tools.
Das bin ich – rechts im Bild
Welche Frage stellt euer Team immer wieder?
Erzähl mir, wo bei euch Wissen steckt, an das niemand rankommt — und wie viele Dokumente es ungefähr sind. Daraus sehe ich schnell, ob sich ein RAG-System lohnt oder ob es einfacher geht. Wenn es einfacher geht, sage ich dir das. Schreib mir am besten direkt per WhatsApp.
Antwort meist innerhalb von 24 Stunden · 0152 5523 9708