Wenn KI ein Handbuch durchsucht: Prüfe Gerät, Fundstelle und Zusammenhang

Eine KI kann technische Handbücher in Alltagssprache zusammenfassen. Eine genannte Seite hilft beim Nachprüfen – sie beweist aber weder, dass die Antwort stimmt, noch dass das Dokument zum eigenen Gerät gehört. Drei Schritte helfen, eine solche Antwort zurück zum Original zu verfolgen.

Ein möglicher Aufbau dafür heißt „Retrieval-Augmented Generation“ (RAG): Das System sucht Textstellen und gibt sie einem Sprachmodell als Kontext. Die Qualität hängt damit auch davon ab, welches Dokument durchsucht und wie dessen Inhalt als Fundstelle aufbereitet wird. Das US-amerikanische NIST nennt erfundene Quellenangaben als mögliches Problem generativer KI und empfiehlt Systemverantwortlichen, Quellen und Zitate in KI-Ausgaben bei der Vorab-Risikomessung und laufenden Überwachung zu prüfen. Die folgenden Leserprüfungen sind eine daraus redaktionell abgeleitete Alltagshilfe, keine von NIST vorgeschriebene Verbraucherprozedur. Das NIST-Profil ist Risikomanagement-Empfehlung, keine deutsche Rechtsvorschrift und kein Test eines konkreten Programms.

Was die Handbuchstudie tatsächlich verglich

Eine 2025 auf der Fachkonferenz der Prognostics and Health Management Society veröffentlichte Studie untersuchte einen Prototyp zur Fahrzeugfehlerdiagnose. Die Forschenden lasen ein 1998er Bedienhandbuch für leichte und mittlere taktische Fahrzeuge aus. Es enthielt 224 Fehlercodes in 22 Systemgruppen. Das Handbuch war öffentlich erreichbar, aber laut Autoren veraltet und nicht autorisiert. Statt echter Werkstattprotokolle verwendete die Studie 300 mit einem Sprachmodell erzeugte, unstrukturierte Beobachtungen; das Ziel war jeweils ein vorab ausgewählter Fehlercode. Die Autoren verwendeten GPT‑4.1 zum Erzeugen der Beobachtungen und GPT‑3.5‑Turbo‑0125 in Empfehlungs- und Bewertungsrollen.

Die Forschenden prüften zwei verschiedene Aufgaben. Im Chat sollte ein System aus einer freien Symptombeschreibung mögliche Fehler nennen. Hier lagen die RAG-Varianten bei Textähnlichkeitsmaßen über dem LLM-only-Vergleich. Das belegt nicht automatisch eine bessere Diagnose: Die Kennzahlen verglichen Formulierungen, und die Studie berichtet, dass der automatische Bewerter oft zu großzügig urteilte.

In der zweiten Aufgabe musste das System aus einer festen Liste von Fehlercodes auswählen. Dort erreichte die einfache Retrieval-only-Variante eine Trefferquote von 86,3 Prozent gegenüber dem vorab bestimmten Code; LLM-only kam auf 69,6 Prozent, die drei RAG-Varianten auf 57,3 bis 64,3 Prozent. Eine qualitative Stichprobe von 20 Beobachtungen zeigte außerdem, dass die Systeme meist mögliche Ursachen nannten statt der im Handbuch gesuchten, vom Bediener beobachtbaren Fehlercodes.

Die Autoren nennen für den offenen Chat eine Kennzahl „Hallucination Rate“: Sie ordnen Vorschläge mit einem Fuzzy-Matching-Schwellenwert von 0,6 den Fehlercode-Beschreibungen zu. Die Methodenerläuterung beschreibt dies als Prüfung möglicher Übereinstimmungen, nennt aber zugleich den hohen LLM-only-Wert von 94,4 Prozent als erwartbar; die Richtung der Kennzahl ist damit aus dem Text allein nicht selbsterklärend. Die ausgewiesenen 94,4 Prozent (LLM-only) und 77,3 bis 78,6 Prozent (RAG) sind daher nur als studieneigene, unklare Zuordnungskennzahl wiedergegeben, nicht als Alltagsrate sachlicher Fehler. Doch bei umschriebenen oder sinngemäßen Beobachtungen konnte ein Sprachmodell manchmal besser verallgemeinern als die reine Textsuche. Die Studie zeigt deshalb keine allgemeine Rangfolge von „Suche“ und „KI“. Sie zeigt, dass das Ergebnis von Aufgabe, Daten und Auswertung abhängt.

Ein anderes Forschungsteam untersuchte 2025 einen eigens für Zug-Inbetriebnahmen entwickelten, mehrsprachigen RAG-Assistenten. 15 Fachkräfte bearbeiteten mit Chatbot 143 Aufgaben, vier ohne ihn 30 Aufgaben; die Szenarien umfassten 22 typische Störungen. Antworten wurden anhand standardisierter Musterlösungen bewertet; pro Person standen 45 Minuten zur Verfügung.

Die Chatbot-Gruppe erzielte höhere Werte bei Gesamt- und durchschnittlicher Aufgabenbewertung (p = 0,035 bzw. p = 0,005), aber nicht bei der Zahl erledigter Aufgaben (p = 0,339).

Die kleine und ungleich aufgeteilte Gruppe begrenzt die Aussage. Das System verwies auf Dokumente und konkrete Absätze; auch diese Verweise machen die Antworten nicht automatisch richtig. Die Autoren halten selbst fest, dass das kontrollierte Szenario kein Live-Produktionsumfeld abbildet und weder Langzeitwirkung noch Lernen und Kompetenzbeibehaltung prüft. Die Studien widersprechen sich nicht direkt: Sie verwendeten andere Handbücher, Daten, Systeme und Aufgaben. Zusammen zeigen sie, dass Ergebnisse vom konkreten Einsatz und der Art der Auswertung abhängen.

Die Grenzen der Fehlercode-Studie bleiben erheblich: synthetische statt realer Beobachtungen, ein einzelnes altes Handbuch, eine vorgegebene Fehlerliste und ein Prototyp. Die Autoren weisen selbst darauf hin, dass das Handbuch möglicherweise im Trainingsmaterial eines Modells vorkam und dass echte Betriebsdaten andere Ergebnisse liefern könnten. Ihre Zahlen sind weder eine Fehlerquote für heutige Verbraucher-KI noch ein Nachweis für Elektrogeräte, deutsche Produkte oder lokale Modelle. Auch die Zug-Studie belegt keine allgemeine Wirkung; sie prüfte in einem kontrollierten Szenario die Antwortqualität bei einer kleinen, spezifischen Gruppe, nicht den dauerhaften Einsatz im laufenden Zugbetrieb.

Beispiel: dieselbe Zahl, anderer Tabellenkontext

Ein öffentliches Herstellerdokument zeigt, warum der Kontext rund um einen Treffer zählt. Der Analog-Devices-Leitfaden UG‑555 für das Evaluierungsboard EVAL‑ADM1073MEBZ nennt in seiner Revision 0 von 2013 in Tabelle 1 nominale Lastkapazitätsgrenzen. Bei 48 V stehen dort 250 µF für einen Versuch und 1.800 µF für sieben Versuche. Eine Fußnote schränkt die Werte zusätzlich ein: Toleranzen sind ausgeschlossen und beim Einschalten wird kein Gleichstrom-Laststrom angenommen.

Nachvollziehbare Leserprobe – keine KI-Abfrage und kein Gerätetest: Angenommen, ein Assistent behauptet: „Bei 48 V nennt das Handbuch höchstens 1.800 µF, auch bei einem Versuch.“ Im Original stehen die 1.800 µF in der Zeile für sieben Versuche; die Zeile für einen Versuch nennt 250 µF. Wer nur die Zahl aus dem Fundstellen-Snippet übernimmt, verpasst die Zuordnung in der Tabellenspalte. Außerdem gilt die Tabelle für das konkret bezeichnete Evaluierungsboard und die dort beschriebenen Annahmen. Das alte Dokument ist kein allgemeiner Grenzwert und keine Anleitung, ein Gerät zu verändern oder zu betreiben.

Drei Prüfungen vor dem Vertrauen

1. Stimmt die Geräte- und Dokumentkennung? Vergleiche Hersteller, vollständige Modellbezeichnung sowie – wenn ausgewiesen – Revision, Variante und Dokumentstand. Ein ähnlich klingendes Modell oder eine neuere Anleitung ist nicht automatisch die richtige. Fehlt die Zuordnung, bleibt sie offen.

2. Trägt der ganze Fundstellenkontext die Antwort? Öffne die Originalseite. Lies die Überschrift und den Abschnitt; bei Tabellen auch Zeilen- und Spaltenkopf, Einheit, Legende und Fußnote. Bei einem Ablauf gehören Voraussetzungen, Warnungen und Folgeschritte dazu. Suche gezielt nach Bedingungen wie „nur wenn“, Ausnahmen, Negationen und unterschiedlichen Betriebsfällen.

3. Was ist nicht belegt? Zerlege eine Sammelfrage. Bitte um Seite oder Abschnitt und darum, Lücken offenzulassen. Öffne jede Fundstelle selbst. Findest du die Aussage nicht oder widersprechen sich Dokumente, behandle die Frage als ungeklärt. Eine zweite KI-Antwort löst den Widerspruch nicht.

Bei einer sicherheitsrelevanten Entscheidung bleibt die passende Herstellerunterlage maßgeblich; nötigenfalls ist fachliche Beurteilung erforderlich. Dieser Text bewertet keine konkrete Anleitung und gibt keine Reparatur- oder Installationsanweisung.

Quellen: Lukens et al., vollständiger Fachartikel und Datentabellen, PHM Society 2025, Löwhagen et al., Can a troubleshooting AI assistant improve task performance in industrial contexts? (2025), Analog Devices, UG‑555 EVAL‑ADM1073MEBZ User Guide, Revision 0, Tabellen 1–2 und Warnhinweise, NIST, Generative AI Profile, §2.2 und Maßnahme MS‑2.5‑003, NIST CSRC, Definition von RAG.