Vektordatenbank

Die Abfrage wird langsamer. Eine Vektordatenbank mit HNSW- oder IVF-Index durchsucht die Daten nicht vollständig, sondern nähert sich der Antwort an – nur die exakte, unindexierte Suche liefert garantiert den nächsten Nachbarn. Bei pgvector heißt der Regler dafür ef_search und liegt standardmäßig bei 40; die Dokumentation hält fest: „A higher value provides better recall at the cost of speed.“ Wer die Trefferquote anhebt, lässt pro Anfrage mehr Kandidaten prüfen und wartet entsprechend länger auf die Antwort.

Der gesamte Bestand muss neu berechnet werden. Jedes Einbettungsmodell bildet Bedeutung in einem eigenen Zahlenraum ab; Vektoren aus altem und neuem Modell liegen in dieser Vektordatenbank nicht vergleichbar nebeneinander, ein Abstand zwischen ihnen sagt nichts aus. Die pgvector-Dokumentation empfiehlt deshalb, Einträge unterschiedlicher Modelle über eine eigene Spalte wie model_id zu trennen, statt sie in einem gemeinsamen Index zu mischen. Bis die Neuberechnung abgeschlossen ist, liefert die Suche entweder veraltete oder unvollständige Treffer – ein Zwischenzustand ohne Abkürzung.

Nichts von allein. Eine Ähnlichkeitssuche in einer Vektordatenbank vergleicht Zahlen, keine Berechtigungen – wer Zugriffsrechte durchsetzen will, muss sie als Bedingung in dieselbe Abfrage einbauen, etwa über eine Filterspalte oder eine eigene Partition je Mandant. Bei pgvector wirkt ein solcher Filter erst nach dem Indexdurchlauf: Trifft die Bedingung nur zehn Prozent der Zeilen, liefert die Standardeinstellung im Schnitt nur rund vier Treffer statt der erwarteten Menge. Ohne diese Vorkehrung tauchen fremde Dokumente in den Ergebnissen auf.

Daran, dass der Suchindex fehlt oder ausfällt. pgvector begrenzt HNSW- und IVFFlat-Indizes auf 2.000 Dimensionen je Vektor, obwohl die Spalte selbst bis zu 16.000 Zahlen fassen darf. Stammen die Einbettungen aus einem neueren Modell mit mehr Dimensionen, lässt sich für diese Vektordatenbank kein Näherungsindex mehr anlegen – jede Anfrage durchläuft dann eine vollständige, langsamere Suche ohne Indexbeschleunigung. Wer solche Modelle einsetzt, muss die Dimensionen vorher auf das Limit kürzen oder eine geringere Modellstufe wählen.