Effective semantic retrieval combina vector similarity con metadata filtering, distance thresholds y query patterns.
Combine vector search con metadata filters
Raramente deberiamos ejecutar búsquedas sobre el corpus de documentos completo. Por lo general queremos resultados filtrados por categoria, fechas, autor, etc.
El resto es combinar vector similarity con filtros, manteniendo una query performance aceptable
Podemos añadir un WHERE para filtrar documentos. Primero se filtra y luego se calcula la distancia solo para los docs filtrados.
SELECT id, title, embedding <=> $1 AS distance
FROM documents
WHERE category = 'contracts'
AND practice_area = 'corporate'
AND created_at > '2024-01-01'
ORDER BY embedding <=> $1
LIMIT 10;
“To maintain performance with filtered queries, create B-tree indexes on columns you frequently filter”
Para queries que siempre combinan columnas específicas se recomienda usar composite indexes, ya que pueden ser más eficientes que multiple single-column indexes.
Implement distance thresholds
Usar LIMIT devuelve los top N most similar docs independientemente de su similitud real. Usar distance thresholds asegura un minimum quality filtrando resultados que caigan por debajo del límite.
Podemos filtrar por distancia con un WHERE . Esta query devuelve como máximo N docs, pero solo si cumplen con el límite. Si no hay docs cercanos, devuelve vacío.
SELECT id, title, embedding <=> $1 AS distance
FROM documents
WHERE embedding <=> $1 < 0.4
ORDER BY embedding <=> $1
LIMIT 10;
El distance thresholds necesita entender los datos. Primero deberiamos analizar los datos y calcular distancias y queries para ver resultados relevantes.
Por ejemplo para cosine distance los thresholds caen entre 0.3 (estricto; alta precisión) y 0.6 (lenient; high recall)
Retrieve documents with content for context
Si necesitamos sacar datos y metadatos de varias tablas, es mejor hacerlo todo de una operación en un single round trip
SELECT
d.id,
d.title,
d.content,
d.embedding <=> $1 AS distance,
a.name AS author_name
FROM documents d
JOIN authors a ON d.author_id = a.id
WHERE d.embedding <=> $1 < 0.5
ORDER BY d.embedding <=> $1
LIMIT 5;
Handle multi-vector queries
Algunos escenarios requieren encontrar documentos similares en varias columnas de vectores. En esos casos podemos hacer un average de los vectores para producir un embedding combinado que representa “el centro” de esos embeddings.
busca documentos similares en ambos aspectos y los rankea por su proximidad combinada en ambas queries
WITH
merger_results AS (
SELECT id, embedding <=> $1 AS distance FROM documents ORDER BY embedding <=> $1 LIMIT 20
),
environmental_results AS (
SELECT id, embedding <=> $2 AS distance FROM documents ORDER BY embedding <=> $2 LIMIT 20
)
SELECT d.id, d.title,
(COALESCE(mr.distance, 1) + COALESCE(er.distance, 1)) / 2 AS combined_score
FROM documents d
LEFT JOIN merger_results mr ON d.id = mr.id
LEFT JOIN environmental_results er ON d.id = er.id
WHERE mr.id IS NOT NULL OR er.id IS NOT NULL
ORDER BY combined_score
LIMIT 10;
Implement hybrid search
La busqueda hibrida combina vector similarity con keyword-based full-text search para capturar ambos contenido semántico y relevancia léxica.
PostgreSQL tiene ts_rank for scoring keyword matches. Podemos combinar esto con vector distance (convertida a similarity score) para hybrid ranking. El weight determina cuanto de cada señal contribuye al resultado final
SELECT
id,
title,
(1 - (embedding <=> $1)) * 0.7 +
ts_rank(to_tsvector('english', content), plainto_tsquery('english', $2)) * 0.3 AS hybrid_score
FROM documents
WHERE to_tsvector('english', content) @@ plainto_tsquery('english', $2)
OR embedding <=> $1 < 0.5
ORDER BY hybrid_score DESC
LIMIT 10;
“To speed up keyword matching, create a GIN index on the full-text search vector. For frequently searched columns, storing the tsvector in a generated column avoids recomputing it for every query”