Connection Optimization (PostgreSQL)

(de momento lo dejo aqui; continuar)

Cada conexión consume server memory, requiere auth overhead y cuenta contra el server limit.

Connection overhead

El crear una nueva conexión a PostgreSQL conlleva 50-200 ~ ms. Para una app que maneje miles de requests / s, esto puede ser muy costoso.

Azure PostgreSQL limita las conexiones según el tier (burstable permite 50 conexiones, la más cara 5.000)

Connection pooling with PgBouncer

PgBouncer es un connection pooler en el puerto 6432 que está entre tu app y PostgreSQL. Mantiene una pool de DDBB connections a la que se conectan los clientes para las peticiones, lo que reduce el número de conexiones requeridas.

La connection string usa el formato postgresql://user:password@myserver.postgres.database.azure.com:6432/mydb

IMPORTANTE

Burstable tier NO soporta PgBounder

/IMPORTANTE

az postgres flexible-server parameter set \
	--resource-group myResourceGroup \
	--server-name myserver \
	--name pgbouncer.enabled \ 
	--value true

PgBounder soporta varios modos de pooling

  • Sesion mode - un cliente mantiene la server connection para toda la sesión. Esto provee una minimal connection reduction
  • Transaction mode - el cliente mantiene la conexión solo durante la transacción. Entre transacciones (commit o rollback) la connection vuelve a la pool. Este modo funciona bien para la mayoría de aplicaicones y reduce los requerimientos de conexiones
  • Statement mode - un cliente obtiene una conexion solo para statements individuales. Es el mejor para vector search workloads.

PgBounder ofrece varios params

  • pgbouncer.default_pool_size 20-50 dependiendo de concurrency needs
  • pgbouncer.max_client_conn +5000 para high-traffic apps
  • pgbouncer.pool_mode (transaction)
  • pgbouncer.query_wait_timeout (30-120s)

Application-level connection pooling

Aparte de PgBouncer tu app puede hacer manage de la connection pool directamente con psycopg_pool. Esto da más finer control y se integra mejor, aparte te permite revisar connection lifecycle, idle timeout y health checks.

Combinado con PgBouncer app pools gestionan local connection management mientras que PgBouncer se encarga del server-side.

from psycopg_pool import ConnectionPool

# Create a connection pool
pool = ConnectionPool(
    conninfo="postgresql://user:password@myserver.postgres.database.azure.com:6432/mydb",
    min_size=5,      # Minimum connections to maintain
    max_size=20,     # Maximum connections allowed
    max_idle=300,    # Close idle connections after 5 minutes
    max_lifetime=3600  # Recycle connections after 1 hour
)

# Use connections from the pool
def search_similar_products(query_embedding, limit=10):
    with pool.connection() as conn:
        with conn.cursor() as cur:
            cur.execute("""
                SELECT id, name, embedding <=> %s AS distance
                FROM products
                ORDER BY embedding <=> %s
                LIMIT %s
            """, (query_embedding, query_embedding, limit))
            return cur.fetchall()

Session management for AI workloads

Efficient SDK usage patterns

Connection resilience