Un service provee un endpoint estable para acceder a la aplicación. Sin los services, los pods usan internal IPs que cambian cuando se reinician. Los services abstraen de estas IPs y proporcionan IPs persistentes que los clientes externos pueden usar y redirigen tráfico a los Pods
El propio servicio se encarga de gestionar la carga entre los Pods y hace que si uno se crashea, el tráfico pase a otra réplica.
Elegir el tipo de servicio correcto
Elegir según la App sea interna o externa
ClusterIP (default)
Para cuando solo se necesita IPs internas dentro del cluster. Los Pods acceden al servicio usando el servicio de nombre de DNS.
Ejemplos de uso:
- La app sirve a otros pods dentro del cluster
- No necesitas acceso externo
Ejemplo: Tu Vector DDBB se ejecuta en dos Pods y ambos tienen que estar disponibles para otro pod que lo consume
NodePort
Expone el servicio en un puerto a lo largo de los cluster nodes. Los clientes externos acceden usando node-ip:nodeport
Ejemplos de uso:
- Estas testeando o desarrollando y quieres acceso externo simple
- No quieres hacer management de un load balancer
- Integras con load balancer externos
Ejemplo: durante el desarrollo accedes a tu API a través de 192.168.1.10:30080 (la IP y puerto de un nodo)
LoadBalancer
Crea un Azure Load Balancer externo con una IP pública. El tráfico entrante se dirige a la IP pública y se enruta al servicio y luego al Pod
Ejemplos de uso:
- La app necesita ser accesible desde internet
- Quieres un managed load balancer integrado en Azure
- Necesitas responder a clientes externos
Ejemplo: Que tu API de IA sea accesible desde 40.89.123.45 y responda a usuarios externos
ExternalName
Mapea el servicio a un DNS externo (no load balancing)
Ejemplos de uso:
- Tus pods necesitan llamar servicios externos fuera del cluster
- Quieres representar un servicio externo como un Kubernetes Service
Service Manifest Structure
# Code fragment - focus on LoadBalancer Service manifest
apiVersion: v1
kind: Service
metadata:
name: inference-api-service
spec:
type: LoadBalancer # External load balancer with public IP
selector:
app: inference-api # Route to Pods with this label
ports:
- protocol: TCP
port: 80 # External port (what clients connect to)
targetPort: 8080 # Container port (what your app listens on)
El selector hace match de Pod labels de tu deployment. Este selector conecta tus servicios con tus pods de manera automática para enrutas el tráfico entrante del servicio, directo al Pod
Port config
El servicio expone un puerto y redirige el tráfico
- port: puerto externo donde se conecta el cliente
- targetPort: puerto interno de la app dentro del container
# Code fragment - focus on port mapping
ports:
- protocol: TCP
port: 80 # Clients connect on port 80
targetPort: 8080 # Your app listens on port 8080
En este ejemplo el cliente se conecta al puerto 80 y el servicio redirige internamente al 8080.
Acceder al servicio
Cómo accedes al servicio depende del tipo de servicio
- ClusterIP: Usar el DNS name
servicename.namespace.svc.cluster.localdesde otros pods. Ejemplohttp://inference-api-service.default.svc.cluster.local:8080 - NodePort: Usar
node-ip:nodeportdesde fuera del cluster. El nodeport se obtiene mediantekubectl get svc. Ejemplohttp://192.168.1.10:30080 - LoadBalancer: Usar la IP pública asignada por Azure. Ejemplo
http://40.89.123.45
Service-to-pod connection
El selector es lo que conecta servicios-con-pods. Si creas un service con selector: app: inference-api, K8s hace match con todos los pods con el label app: inference-api y les redirige el tráfico automáticamente.
Additional resources
Service
Concepts - Networking in Azure Kubernetes Service (AKS) - Azure Kubernetes Service
What is Azure Load Balancer? - Azure Load Balancer