Wie Vektor-Embeddings Bedeutung in Mathematik übersetzen
Semantische Suche beruht auf einem zentralen Kniff: einen Textabschnitt so in eine Liste von Zahlen – einen Vektor – zu verwandeln, dass die Bedeutung erhalten bleibt. Zwei Texte mit ähnlicher Bedeutung landen als Vektoren nah beieinander in diesem Raum, selbst wenn sie kein einziges Wort teilen.
Was ein Vektor tatsächlich darstellt
Ein Embedding-Modell (meist ein neuronales Netz, trainiert auf großen Textmengen) liest einen Satz und gibt einen Vektor fester Länge aus, oft mit einigen Hundert bis einigen Tausend Dimensionen. Keine einzelne Dimension steht für sich genommen für etwas Menschenlesbares – es gibt keine "Dimension 42 bedeutet Essen" – aber das Modell hat gelernt, Texte mit verwandter Bedeutung in benachbarten Bereichen dieses Raums zu platzieren.
Deshalb können "Tee mit Milch" und "Milchtee" nah beieinander landen, obwohl sie nur ein Wort teilen, während "Tee mit Milch" und "Teeblätter zu verkaufen" trotz zweier gemeinsamer Wörter weiter auseinanderliegen können.
"Nähe" messen
Nähe wird meist über Kosinus-Ähnlichkeit (den Winkel zwischen zwei Vektoren) oder das Skalarprodukt gemessen. Beide liefern einen einzelnen Wert: höher bedeutet ähnlicher. Eine Suchanfrage wird auf dieselbe Weise eingebettet wie die Dokumente, und der Index liefert die Dokumentvektoren, die der Anfrage am nächsten liegen.
Warum das einen Index braucht, keine Schleife
Eine Anfrage einzeln mit jedem Dokumentvektor zu vergleichen, funktioniert bei ein paar Tausend Einträgen, skaliert aber nicht. Vektor-Indizes (HNSW und IVF sind die beiden verbreitetsten Familien) organisieren Vektoren so, dass "die nächsten finden" nicht bedeutet, jeden Vektor der Sammlung anzufassen – genau das macht semantische Suche in unter einer Sekunde über Millionen von Dokumenten möglich.
Der Kompromiss, den man kennen sollte
Embeddings erfassen Bedeutung, verlieren aber Präzision bei exakten Zeichenketten. Eine reine Vektorsuche kann eine exakte Artikelnummer oder Teilenummer im Rauschen übersehen, denn "bedeutungsnah" ist nicht dasselbe wie "identisch". Das ist der eigentliche Grund, warum es hybride Suche gibt – die Kombination aus Embeddings und Keyword-Matching ist kein bloßes Zusatzfeature, sondern eine direkte Antwort auf das, was reine Vektorähnlichkeit nicht garantieren kann.