Contacta con nosotros

Temario del curso

Infraestructura como Código de EXO

  • Descripción general de patrones de implementación de EXO: nodos únicos, multi-nodo y clústeres RDMA
  • Automatización de la instalación de dependencias (Xcode, uv, Node.js, Rust) con gestión de configuraciones
  • Uso de flakes de Nix para builds reproducibles de EXO y entornos de desarrollo
  • Escritura de playbooks de Ansible o scripts de shell para aprovisionamiento no supervisado de clústeres

Builds Reproducibles e Integración de CI

  • Fijación de dependencias y construcción del dashboard en pipelines de CI
  • Ejecución de pruebas de humo de EXO en ejecutores de GitHub Actions o GitLab CI
  • Creación de imágenes doradas y flujos de trabajo de reversión basados en capturas de estado (snapshots) para máquinas virtuales macOS y Linux
  • Versionado de tarjetas de modelos personalizados junto con el código de la aplicación

Descubrimiento de Clústeres y Automatización de Redes

  • Configuración de mDNS y DNS estático para un descubrimiento confiable de nodos libp2p
  • Automatización de la creación de perfiles de red y gestión de puentes Thunderbolt en macOS
  • Uso de espacios de nombres personalizados (EXO_LIBP2P_NAMESPACE) para separar clústeres de desarrollo, staging y producción
  • Reglas de firewall y segmentación de red para entornos multitenant

Gestión del Ciclo de Vida de Modelos y Almacenamiento

  • Diseño de estrategias para EXO_MODELS_DIRS y EXO_MODELS_READ_ONLY_DIRS
  • Montaje de comparticiones NFS o SAN como repositorios de modelos de solo lectura para un aprovisionamiento rápido
  • Colección de basura de cachés obsoletas y políticas de retención de pesos versionados
  • Automatización de descargas previas de modelos y comprobaciones de salud antes de actualizaciones en cascada

Monitoreo y Alertas

  • Envío de logs de EXO a registros centralizados (ELK, Loki o Splunk)
  • Construcción de dashboards de Grafana a partir de la salida de EXO_TRACING_ENABLED
  • Alertas sobre cambios en la membresía del clúster, eventos OOM y picos de latencia de inferencia
  • Correlación de telemetría de hardware macmon con regresiones en el rendimiento del modelo

Actualización, Reversión y Recuperación ante Desastres

  • Aseguramiento de actualizaciones de binarios EXO en un nodo canario antes de una implementación generalizada
  • Reversión a nivel de modelo: cambio entre versiones cuantizadas sin volver a descargar
  • Copias de seguridad y restauración del estado del clúster, espacios de nombres personalizados y pesos en caché
  • Documentación de manuales de recuperación para escenarios de reconstrucción total del clúster

endurecimiento de Seguridad y Cumplimiento

  • Aplicación de TLS en la capa de proxy inverso (nginx, traefik) para el dashboard y API
  • Implementación de limitación de tasa de API y listas blancas de IP para puntos finales de EXO
  • Aislamiento de clústeres con VLANs y políticas de red de confianza cero
  • Auditoría de accesos y mantenimiento de un inventario de modelos y versiones desplegados

Requerimientos

  • Experiencia con prácticas de DevOps (CI/CD, IaC, orquestación de contenedores)
  • Familiaridad con administración de sistemas y gestión de paquetes en macOS o Linux
  • Comprensión de conceptos de redes, DNS y almacenamiento

Audiencia Objetivo

  • Ingenieros de DevOps
  • Arquitectos de infraestructura
  • SREs responsables de cargas de trabajo de IA on-premise
 21 Horas

Número de participantes


Precio por participante

Reseñas (2)

Próximos cursos

Categorías Relacionadas