Contacta con nosotros

Temario del curso

Introducción

  • ¿Qué son los Modelos de Lenguaje Grande (LLM)?
  • LLM frente a modelos tradicionales de procesamiento del lenguaje natural (NLP)
  • Ventajas y arquitectura general de los LLM.
  • Desafíos y limitaciones de los LLM.

Comprensión de los LLM

  • Ciclo de vida de un LLM.
  • Cómo funcionan los LLM.
  • Componentes principales de un LLM: codificador, decodificador, atención, incrustaciones (embeddings), entre otros.

Inicio

  • Configuración del entorno de desarrollo.
  • Instalación de un LLM como herramienta de desarrollo; por ejemplo, Google Colab o Hugging Face.

Trabajo con LLM

  • Exploración de las opciones de LLM disponibles.
  • Creación y uso de un LLM.
  • Ajuste fino (fine-tuning) de un LLM sobre un conjunto de datos personalizado.

Síntesis de texto

  • Comprensión de la tarea de síntesis de texto y sus aplicaciones.
  • Uso de un LLM para la síntesis de texto extractiva y abstracta.
  • Evaluación de la calidad de los resúmenes generados mediante métricas como ROUGE, BLEU, entre otras.

Respuesta a preguntas

  • Comprensión de la tarea de respuesta a preguntas y sus aplicaciones.
  • Uso de un LLM para la respuesta a preguntas en dominios abiertos y cerrados.
  • Evaluación de la precisión de las respuestas generadas mediante métricas como F1, Exact Match (EM), entre otras.

Generación de texto

  • Comprensión de la tarea de generación de texto y sus aplicaciones.
  • Uso de un LLM para la generación de texto condicional y no condicional.
  • Control del estilo, el tono y el contenido de los textos generados mediante parámetros como temperatura, top-k, top-p, entre otros.

Integración de LLM con otros frameworks y plataformas

  • Uso de LLM con PyTorch o TensorFlow.
  • Uso de LLM con Flask o Streamlit.
  • Uso de LLM con Google Cloud o AWS.

Solución de problemas

  • Comprensión de los errores y fallos más comunes en LLM.
  • Uso de TensorBoard para supervisar y visualizar el proceso de entrenamiento.
  • Uso de PyTorch Lightning para simplificar el código de entrenamiento y mejorar el rendimiento.
  • Uso de Hugging Face Datasets para cargar y preprocesar los datos.

Resumen y próximos pasos

Requerimientos

  • Comprensión básica del procesamiento del lenguaje natural y el aprendizaje profundo.
  • Experiencia con Python y PyTorch o TensorFlow.
  • Experiencia básica en programación.

Audiencia

  • Desarrolladores.
  • Entusiastas del procesamiento del lenguaje natural.
  • Científicos de datos.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas