Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Duración 14 horas
Temario del curso
Introducción a Ollama para el despliegue de LLM
- Resumen de las capacidades de Ollama.
- Ventajas del despliegue de modelos de IA local.
- Comparación con soluciones de alojamiento de IA basadas en la nube.
Configuración del entorno de despliegue
- Instalación de Ollama y dependencias necesarias.
- Configuración de hardware y aceleración por GPU.
- Dockerización de Ollama para despliegues escalables.
Despliegue de LLM con Ollama
- Carga y gestión de modelos de IA.
- Despliegue de Llama 3, DeepSeek, Mistral y otros modelos.
- Creación de APIs y puntos finales para el acceso a los modelos de IA.
Optimización del rendimiento de LLM
- Ajuste fino de modelos para mayor eficiencia.
- Reducción de latencia y mejora de tiempos de respuesta.
- Gestión de la memoria y asignación de recursos.
Integración de Ollama en flujos de trabajo de IA
- Conexión de Ollama a aplicaciones y servicios.
- Automatización de procesos impulsados por IA.
- Uso de Ollama en entornos de computación edge.
Monitoreo y mantenimiento
- Seguimiento del rendimiento y depuración de problemas.
- Actualización y gestión de modelos de IA.
- Aseguramiento de seguridad y cumplimiento en los despliegues de IA.
Escalamiento de despliegues de modelos de IA
- Mejores prácticas para manejar cargas de trabajo elevadas.
- Escalado de Ollama para casos de uso empresariales.
- Avances futuros en el despliegue de modelos de IA local.
Resumen y próximos pasos
Requerimientos
- Experiencia básica con modelos de aprendizaje automático e IA.
- Familiaridad con interfaces de línea de comandos y scripting.
- Conocimiento sobre entornos de despliegue (local, edge, nube).
Público objetivo
- Ingenieros de IA optimizando despliegues de IA locales y en la nube.
- Practicantes de aprendizaje automático desplegando y ajustando LLM.
- Especialistas DevOps gestionando la integración de modelos de IA.