Eigene Unterlagen nutzbar machen

Was es heißt, ein Modell auf die eigenen Unterlagen zu stellen

Ein Sprachmodell kennt Ihre Preisliste nicht, Ihre Wartungsverträge nicht und Ihre internen Abläufe nicht. Es hat sie nie gelesen. Will man Auskunft aus diesen Unterlagen, muss man sie dem Modell zur Frage mitgeben.

Bei einem einzelnen Dokument macht man das von Hand: Vertrag in die Anfrage kopieren, Frage stellen, Antwort erhalten. Das funktioniert gut und ist für viele Betriebe der sinnvolle erste Schritt. Es hört auf zu funktionieren, wenn die Unterlagen zu umfangreich für das Kontextfenster sind oder wenn niemand vorher weiß, in welchem der zwölftausend Dokumente die Antwort steht.

Für diesen Fall gibt es den Abruf aus eigenen Quellen, im Fachjargon Retrieval Augmented Generation, kurz RAG. Der Ablauf ist unspektakulär: Die Frage geht zunächst nicht an das Modell, sondern an eine Suche über Ihre Ablage. Die Suche liefert einige passende Textabschnitte. Diese Abschnitte werden zusammen mit der Frage an das Modell gegeben, und das Modell formuliert die Antwort aus dem mitgelieferten Material – üblicherweise mit Angabe, aus welchem Dokument es stammt.

Diese Fundstelle ist der eigentliche Gewinn. Sie macht die Antwort prüfbar. Ein Versicherungsmakler, der die Bedingungsklausel sieht, auf die sich eine Aussage stützt, kann in zwanzig Sekunden entscheiden, ob sie trägt. Ohne Fundstelle müsste er alles nachschlagen, und dann hätte er auch gleich selbst suchen können.

Zu beachten bleibt: Das Modell ist damit nicht fehlerfrei. Es kann aus richtigem Material eine schiefe Schlussfolgerung ziehen, und es kann die Frage beantworten, obwohl die Suche nichts Passendes gefunden hat. Warum das so ist, steht in Wie ein Sprachmodell arbeitet. Die Fundstelle ändert nichts an der Bauart, sie macht den Fehler nur sichtbar.

Abruf und Feintuning sind zwei verschiedene Dinge

Die beiden werden regelmäßig verwechselt, auch von Anbietern.

Beim Feintuning wird das Modell selbst weitertrainiert, mit Beispielen aus Ihrem Haus. Das verändert, wie es antwortet: Tonfall, Aufbau, Fachsprache, Format. Ein Betrieb, dessen Prüfberichte einer sehr eigenen Gliederung folgen, kann damit erreichen, dass diese Gliederung zuverlässig eingehalten wird.

Was Feintuning nicht gut kann, ist Wissen verlässlich einspeichern. Fakten, die beim Training mitgelernt werden, sind hinterher nicht abrufbar wie aus einer Datenbank, sondern vermischen sich mit allem anderen. Das Modell kann sie ungenau wiedergeben, ohne dass man es merkt, und eine Fundstelle gibt es nicht. Dazu kommt: Ändert sich Ihre Preisliste, müssten Sie neu trainieren. Beim Abruf tauschen Sie eine Datei aus.

Die Faustregel lautet deshalb: Für Wissen nimmt man den Abruf aus eigenen Quellen, für Verhalten das Feintuning – und Verhalten lässt sich oft schon durch gute Anweisungen und Beispiele erreichen, wie Anweisungen, die im Betrieb funktionieren zeigt. Die meisten Mittelständler, die glauben, sie bräuchten ein eigenes Modell, brauchen eine aufgeräumte Ablage.

Warum „durchsuchbar" mehr heißt als „digital"

Digital ist ein Dokument, sobald es als Datei vorliegt. Durchsuchbar ist es erst, wenn die Datei echten Text enthält.

Der praktische Test dauert zehn Sekunden: Öffnen Sie ein PDF und suchen Sie mit der Tastenkombination für Suchen nach einem Wort, das Sie auf dem Bildschirm sehen. Findet die Suche es nicht, ist das Dokument ein Bild. Ein eingescannter Wartungsvertrag, ein abfotografierter Lieferschein, ein per Fax eingegangener Auftrag – für den Rechner sind das Pixelflächen ohne Inhalt.

Solche Dokumente müssen durch eine Texterkennung, oft OCR genannt. Bei sauber gescannten Schreibmaschinen- und Drucktexten funktioniert das gut. Bei Tabellen wird es heikel, weil die Spaltenzuordnung verloren gehen kann – aus einer Preistabelle wird dann eine Zahlenreihe ohne Bezug. Bei handschriftlichen Einträgen, etwa auf Monteurberichten oder Pflegedokumentation, ist die Fehlerquote hoch genug, dass man das Ergebnis nicht ungeprüft weiterverwenden sollte.

Dasselbe gilt für Wissen, das gar nicht in Dokumenten steht. In vielen Betrieben liegen die entscheidenden Auskünfte in E-Mail-Postfächern, in den Köpfen zweier langjähriger Mitarbeiter und in einem Ordner auf einem Laufwerk, das „alt_final_v3" heißt. Was nicht aufgeschrieben ist, kann kein System abrufen. Das ist keine KI-Frage, aber sie wird durch KI sichtbar.

Die Ordnung der Ablage entscheidet über die Qualität

Die unangenehme Wahrheit: Der Abruf ist nur so gut wie das, worauf er zugreift. Vier Muster verderben das Ergebnis besonders zuverlässig.

• Mehrfache Fassungen ohne erkennbare Gültigkeit. Liegen drei Versionen der Montageanweisung im Bestand, zieht die Suche möglicherweise die älteste heran. Das System hat keinen Begriff von „überholt".
• Fehlende Angaben zum Dokument. Ohne Stand, verantwortliche Stelle und Geltungsbereich kann weder das System noch der Leser einordnen, wie belastbar eine Fundstelle ist.
• Sehr große, unstrukturierte Dateien. Ein Handbuch mit 400 Seiten ohne Überschriftenstruktur wird in Stücke zerlegt, die mitten im Satz beginnen. Was das Modell dann bekommt, ist Bruchstückwerk.
• Zugriffsrechte, die beim Abruf verloren gehen. Wenn Personalakten oder Kalkulationen im durchsuchten Bestand liegen, sind sie für jeden abrufbar, der Fragen stellen darf. Die Rechte müssen mitgeführt werden, sonst entsteht ein Datenschutzproblem, das vorher nicht bestand.

Der letzte Punkt ist auch rechtlich der heikelste. Personenbezogene Daten unterliegen der DSGVO; Zweckbindung und Erforderlichkeit (Art. 5 DSGVO) gelten für einen KI-gestützten Abruf genauso wie für jede andere Verarbeitung. Je nach Einsatz können zusätzlich Transparenzpflichten aus der KI-Verordnung der EU (EU AI Act) greifen, deren Bestimmungen gestaffelt in Kraft treten. Was davon in Ihrem Fall einschlägig ist, hängt vom konkreten Einsatz ab – das ist eine Rechtsfrage und ersetzt keine Rechtsberatung. Praktisch heißt es: Ziehen Sie Ihren Datenschutzbeauftragten hinzu, bevor Sie Bestände anbinden, in denen Beschäftigten- oder Gesundheitsdaten liegen.

Die Vorarbeit, die niemand gern hört

In den Angeboten der Anbieter klingt die Anbindung nach einem Nachmittag. Der Aufwand liegt woanders: im Sichten.

Ein realistischer Zuschnitt beginnt klein. Man wählt einen Bereich mit hoher Nachfragefrequenz und überschaubarem Bestand – etwa die Produktdatenblätter eines technischen Großhandels oder die Verfahrensanweisungen einer Lebensmittelproduktion. Für diesen Bereich klärt man, welche Quelle gültig ist, entfernt Überholtes, führt Texterkennung durch, wo nötig, und versieht die Dokumente mit Stand und Verantwortlichkeit.

Dann, und das wird am häufigsten übersprungen, sammelt man dreißig bis fünfzig echte Fragen, wie sie tatsächlich gestellt werden, samt der richtigen Antwort. Diese Liste ist die Prüfung. Ohne sie beurteilen Sie ein System danach, ob es sich gut anfühlt, und das tut es fast immer.

Ein Rechenbeispiel zur Einordnung, mit offengelegten Annahmen: Nehmen wir an, in einem Großhandel mit acht Innendienstmitarbeitern fallen täglich 40 Produktauskünfte an, für die im Schnitt fünf Minuten Suchzeit anfallen. Das sind rund 200 Minuten am Tag. Halbiert ein gut angebundener Abruf diese Suchzeit, entstehen etwa 100 Minuten Spielraum täglich. Ob dieser Spielraum tatsächlich Nutzen bringt, hängt davon ab, ob er in Arbeit fließt, die Umsatz bringt, oder ob er sich unbemerkt verteilt. Die Zahlen sind angenommen, nicht gemessen – aber die Struktur der Rechnung ist die, die Sie für Ihr Haus aufstellen sollten.

Was das im Mentoring bedeutet

Die Frage, welche Unterlagen anbindungsfähig sind, gehört in die Phase POTENZIALE und wird im Use-Case-Katalog mit der Priorisierungsmatrix bewertet – ein Einsatz mit großem Nutzen und ungeordneter Datenlage rutscht dort nach hinten, weil die Vorarbeit zum Projekt gehört. Der KI-Readiness-Check aus der Phase START erfasst genau diesen Punkt bereits zu Beginn: wo Text vorliegt, wo Scans liegen und wer für welche Ablage zuständig ist.