Scale for high-volume workloads (PostgreSQL)

Vertical scaling on Azure

Azure Database for PostgreSQL ofrece 3 compute tiers cada uno con diferentes recursos

Tier vCores Memoria por vCore Ideal para
Burstable 1-20 2 GB DEV; low-traffic
General purpose 2-96 4 GB Balanced PROD
Memory optimized 2-96 8 GB Large working sets; vector workloads

Escalar verticalmente hasta que encuentres hard limits o el coste sea prohibitivo. Entonces escalar horizontalmente.

Read replicas for query distribution

Read replicas mantiene copias de tu BBDD primaria que pueden encargarse de read queries de manera independiente.

El server primario se encarga de read y write, mientras que las réplicas se encargan solo de read. Puedes tener hasta 5 replicas por primaria y las réplicas se pueden localizar en diferentes Azure regions. Cada replica tiene su propio connection endpoint, por lo que la App debe gestionar las queries correctamente.

No todas las vector search se benefician por igual del cacheo. Los mejores candidatos tienen alta frecuencia, low change rates y espacios vectoriales similares.

Ejemplos de poor caching candidates:

  • arbitrary vector similarity queries
  • rapidly changing data
  • queries with many filter combinations

se recomienda cachear embedding lookups y recomendaciones pre-computadas

import redis
import json

redis_client = redis.Redis(host='your-cache.redis.cache.windows.net',
                          port=6380, ssl=True, password='your-key')

def get_product_embedding(product_id):
    cache_key = f"embedding:{product_id}"
    cached = redis_client.get(cache_key)

    if cached:
        return json.loads(cached)

    # Fetch from database
    embedding = fetch_embedding_from_db(product_id)

    # Cache for 1 hour
    redis_client.setex(cache_key, 3600, json.dumps(embedding))
    return embedding

Monitor capacity

Se puede hacer track de database-level metrics con Azure Monitor

  • CPU percentage
  • memory percentage
  • storage IO percentage
  • active connections
  • query metrics incluing P95/P99 latency
  • etc