RAG oder Fine-Tuning: Fehlen der KI Wissen oder passende Beispiele?
„Die KI soll unser Unternehmen kennen“ klingt zunächst klar. Bei genauerem Hinsehen können dahinter ganz verschiedene Probleme stecken: fehlende Dokumente, ein unbrauchbares Antwortformat oder falsche Zugriffsrechte. Bevor ich eine Lösung auswähle, möchte ich wissen, an welcher Stelle es tatsächlich hakt.
Recherchestand: 2026-09-09 · Titelbild: KI-generierte Illustration
Wenn die passende Information fehlt
Retrieval sucht Informationen zur Anfrage und stellt sie dem Modell als Kontext bereit. OpenAI beschreibt dafür unter anderem semantische Suche: Sie kann ähnliche Bedeutung auch ohne dieselben Wörter erkennen. Das ist eine Grundlage von Retrieval-Augmented Generation, kurz RAG.
Bei einem internen Assistenten fange ich deshalb bei der Quelle an. Wer pflegt die Dokumente? Welche Fassung gilt? Wer darf sie lesen? Gute Suche macht veraltete Unterlagen nicht aktuell, und ein ähnlicher Text ist noch keine Zugriffsberechtigung.
Wenn die Antwort anders ausfallen soll
Supervised Fine-Tuning nutzt Beispiele erwünschter Antworten, um das Modellverhalten anzupassen. Das ist eine andere Aufgabe als der tägliche Abruf geänderter Dokumente. Eine gepflegte Wissensbasis wird dadurch nicht überflüssig.
Zur Anbieterwahl gehört der aktuelle Produktstand. Am 9. September 2026 wies OpenAI auf den Rückbau seiner Fine-Tuning-Plattform hin; neue Nutzer erhielten keinen Zugang mehr. Verfügbarkeit und Migrationsweg müssen deshalb geprüft werden. Der technische Ansatz existiert unabhängig von diesem Anbieterangebot.
Den Fehler an der richtigen Stelle suchen
Findet der Assistent die richtige Passage gar nicht, sind Suchanfrage, Dokumentaufteilung und Trefferreihenfolge interessant. Findet er sie und antwortet trotzdem falsch, geht es um die Verwendung des Kontexts. Stimmen Aussage und Beleg, aber nicht das Format, helfen passende Vorgaben und Beispiele.
Diese Unterscheidung spart Umwege. Ein größeres Modell löst kein Berechtigungsproblem. Eine größere Dokumentensammlung verbessert keine ungepflegten Quellen. Auch eine weitere Trainingsrunde weiß nicht automatisch, welche Rechnung heute bezahlt wurde.
Der Ablauf auf einen Blick
- WissenslückeQuellen und Suche prüfen
- VerhaltenslückeBeispiele und Ausgabe prüfen
- ZugriffslückeRechte im Backend prüfen
Mit einem kleinen Bestand anfangen
Für eine Wissensfunktion in einer Content-Plattform eignen sich zunächst einige freigegebene Briefings. Die Testfragen sollten klare Antworten, widersprüchliche Versionen und Fragen ohne Antwort im Bestand enthalten. Die verwendete Quelle muss erreichbar sein.
Auch eine verständlich benannte Wissenslücke ist ein brauchbares Ergebnis. Wenn wir wissen, wo die Fehler entstehen, lässt sich die nächste Investition begründen: bessere Daten, eine bessere Suche oder eine Anpassung des Antwortverhaltens.
