Contacta con nosotros

Temario del curso

Introducción a Ollama para el despliegue de LLM

  • Resumen de las capacidades de Ollama.
  • Ventajas del despliegue de modelos de IA local.
  • Comparación con soluciones de alojamiento de IA basadas en la nube.

Configuración del entorno de despliegue

  • Instalación de Ollama y dependencias necesarias.
  • Configuración de hardware y aceleración por GPU.
  • Dockerización de Ollama para despliegues escalables.

Despliegue de LLM con Ollama

  • Carga y gestión de modelos de IA.
  • Despliegue de Llama 3, DeepSeek, Mistral y otros modelos.
  • Creación de APIs y puntos finales para el acceso a los modelos de IA.

Optimización del rendimiento de LLM

  • Ajuste fino de modelos para mayor eficiencia.
  • Reducción de latencia y mejora de tiempos de respuesta.
  • Gestión de la memoria y asignación de recursos.

Integración de Ollama en flujos de trabajo de IA

  • Conexión de Ollama a aplicaciones y servicios.
  • Automatización de procesos impulsados por IA.
  • Uso de Ollama en entornos de computación edge.

Monitoreo y mantenimiento

  • Seguimiento del rendimiento y depuración de problemas.
  • Actualización y gestión de modelos de IA.
  • Aseguramiento de seguridad y cumplimiento en los despliegues de IA.

Escalamiento de despliegues de modelos de IA

  • Mejores prácticas para manejar cargas de trabajo elevadas.
  • Escalado de Ollama para casos de uso empresariales.
  • Avances futuros en el despliegue de modelos de IA local.

Resumen y próximos pasos

Requerimientos

  • Experiencia básica con modelos de aprendizaje automático e IA.
  • Familiaridad con interfaces de línea de comandos y scripting.
  • Conocimiento sobre entornos de despliegue (local, edge, nube).

Público objetivo

  • Ingenieros de IA optimizando despliegues de IA locales y en la nube.
  • Practicantes de aprendizaje automático desplegando y ajustando LLM.
  • Especialistas DevOps gestionando la integración de modelos de IA.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas