Microsoft Foundry for AI

Microsoft Foundry es un PaaS unificado para construir, administrar y hacer deployment de AI apps y agentes. Consolida modelos, orquestación de agentes, monitoring y governanza en una plataforma.

Foundry ofrece muchas capacidades, incluyendo el elegir uno de muchos modelos, usar estos modelos para construir agentes, conectar esos agentes a herramientas e integrar knowledge usando Foundry IQ (punto de acceso centralizado para data sources)

microsoft foundry

Foundry resources and projects

Para empezar con Foundry hay que crear un Foundry resource, el cual provee de acceso a:

  • modelos
  • agent service
  • deployment governance
  • monitoring and observability
  • security boundaries
  • quotas and operational controls

Un Foundry project es un workspace dentro de ese resource donde construyes AI apps, agentes y evaluaciones:

  • agentes
  • evaluaciones
  • files and datasets
  • vector indexes
  • flows (AI logic)
  • connections
  • project-specific settings

De normal tenemos un Foundry resource para un equipo o departamento, y muchos Foundry projects dentro, cada uno enfocado a un caso de uso de IA distinto

Al usar Microsoft Foundry todo lo relativo a la aplicación que usa estos modelos es responsabilidad del cliente:

  • Presentar una GUI
  • Recolectar user input (texto, voz, imagenes)
  • Formatear el input en un prompt
  • Enviar la request al server
  • Hacer output de la respuesta.

Responsabilidades del server:

  • Recibir el prompt
  • Run inferencia en el modelo
  • Aplicar system instructions, seguridad y contexto
  • Devolver el output generado

Acceso programático

A través de APIs

Foundry tiene dos tipos de endpoints:

  • Project-level endpoints: para trabajar con un projecto de Foundry y sus recursos
  • Model endpoints: para enviar prompts a los modelos deployeados

ejemplo de respuesta

{
    "metadata": {},
    "temperature": 1,
    "model": "gpt-4.1-mini",
    "object": "response",
    "status": "completed",
    "output": [
        {
            "type": "message",
            "status": "completed",
            "role": "assistant",
            "content": [
                {
                    "type": "output_text",
                    "text": "An AI application is a software program or system that utilizes artificial intelligence technologies to perform tasks that typically require human intelligence. These tasks can include recognizing speech, understanding natural language, making decisions, learning from data, recognizing images, and solving complex problems. AI applications are used in various fields such as healthcare, finance, customer service, autonomous vehicles, and more to enhance efficiency, accuracy, and user experience."
                }
            ]
        }
    ]
}

SDKs

También existen SDKs para acceder programáticamente.