Warum klassisches RAG bei Preislisten und Tabellen an seine Grenzen stößt

Das Problem: Tabellenfragen sind Datenbankabfragen, keine Bedeutungssuche

„Zeig mir alle Artikel der Kategorie X unter 50 € Einkaufspreis“ ist keine Frage, die semantisch beantwortet werden sollte — es ist eine exakte Filterbedingung mit einer eindeutig richtigen oder falschen Antwort. Trotzdem behandeln die meisten KI-Wissenssysteme Tabellen genauso wie Fließtext: als Bedeutungs-Nachbarschaften, die per Ähnlichkeitssuche wiedergefunden werden.

Wie klassisches RAG funktioniert — und wo es bei Zahlen scheitert

Klassisches Retrieval-Augmented Generation zerlegt Dokumente in Textabschnitte (Chunks), wandelt sie in Vektoren um und findet bei einer Frage die semantisch ähnlichsten Abschnitte. Das funktioniert hervorragend für Handbücher oder Prozessbeschreibungen — schlecht dagegen für Tabellen: Eine Preisliste mit tausend Zeilen wird in willkürliche Textblöcke zerhackt, und die KI sieht bei einer Filterfrage nur die paar Zeilen, die zufällig ähnlich klingen, nicht die tatsächlich passenden.

Das Ergebnis ist eine Antwort, die plausibel klingt, aber nicht auf einer vollständigen, korrekten Auswertung der Tabelle beruht — im schlimmsten Fall eine geratene statt einer berechneten Zahl.

Der Unterschied: geratene vs. berechnete Antworten

Bei einer Preisauskunft, einer Verfügbarkeitsabfrage oder einer Ausschreibungsantwort ist der Unterschied zwischen „ungefähr richtig“ und „exakt richtig“ geschäftskritisch. Ein falscher Preis in einem Kundengespräch oder eine falsch beantwortete Ausschreibungszeile hat reale Konsequenzen — anders als eine leicht ungenaue Zusammenfassung eines Fließtexts.

Was stattdessen funktioniert: pro Dokumenttyp die passende Technik

Der robustere Ansatz behandelt Tabellen anders als Fließtext, statt beides über einen Kamm zu scheren: Fließtext läuft weiter über klassische Vektorsuche. Eine kleine bis mittlere Tabelle bekommt die KI komplett in den Kontext, damit sie selbst filtern und rechnen kann. Eine sehr große Tabelle, die nicht mehr komplett in den Kontext passt, wird stattdessen per echter Abfrage (Tool-Use) gegen die Originaldaten ausgewertet — die KI schreibt dafür eine SQL-artige Abfrage, statt zu raten. Nur die tatsächlichen Trefferzeilen landen dann im Antworttext.

Eine Fallback-Kette sorgt dafür, dass ein System, das eine Tabellenstruktur nicht sauber erkennt (z.B. wegen verbundener Zellen), nie schlechter wird als der klassische Chunk-RAG-Standardfall — es fällt einfach darauf zurück.

Was das für euren Alltag bedeutet

Wer regelmäßig Fragen an Preislisten, Stücklisten oder Produktkataloge stellt, sollte beim Anbieterauswahl gezielt danach fragen, wie Tabellen technisch behandelt werden — nicht nur, ob „Excel-Support“ grundsätzlich vorhanden ist. Der Unterschied zwischen einer geratenen und einer tatsächlich berechneten Antwort entscheidet darüber, ob so ein System im Alltag wirklich vertrauenswürdig ist.