Contacta con nosotros

Temario del curso

Introducción a los Modelos de Lenguaje Grande (LLM)

  • Visión general de los LLM.
  • Definición e importancia.
  • Aplicaciones en la IA actual.

Arquitectura del Transformador

  • ¿Qué es un transformador y cómo funciona?
  • Componentes principales y características.
  • Alineamiento (Embedding) y codificación posicional.
  • Atención multidifocal (Multi-head attention).
  • Red neuronal de alimentación hacia adelante (Feed-forward neural network).
  • Normalización y conexiones residuales.

Modelos de Transformador

  • Mecanismo de autoatención (Self-attention).
  • Arquitectura codificador-decodificador.
  • Alineamientos posicionales (Positional embeddings).
  • BERT (Representaciones Codificadoras Bidireccionales desde Transformadores).
  • GPT (Transformador Generativo Preentrenado).

Optimización del Rendimiento y Trampas

  • Longitud del contexto.
  • Mamba y modelos de espacio de estados.
  • Flash attention.
  • Transformadores dispersos.
  • Transformadores visuales.
  • Importancia de la cuantización.

Mejora de los Transformadores

  • Generación de texto aumentada por recuperación.
  • Mezcla de modelos (Mixture of models).
  • Árbol de pensamientos (Tree of thoughts).

Ajuste Fino (Fine-Tuning)

  • Teoría de la adaptación de bajo rango.
  • Ajuste fino con QLora.

Leyes de Escalamiento y Optimización en los LLM

  • Importancia de las leyes de escalamiento para los LLM.
  • Escalamiento del tamaño de datos y del modelo.
  • Escalamión computacional.
  • Escalación de la eficiencia de parámetros.

Optimización

  • Relación entre el tamaño del modelo, el tamaño de los datos, el presupuesto de cómputo y los requisitos de inferencia.
  • Optimización del rendimiento y la eficiencia de los LLM.
  • Mejores prácticas y herramientas para entrenar y ajustar finamente los LLM.

Entrenamiento y Ajuste Fino de los LLM

  • Etapas y desafíos del entrenamiento de LLM desde cero.
  • Adquisición y mantenimiento de datos.
  • Requisitos de datos a gran escala, CPU y memoria.
  • Desafíos de optimización.
  • Panorama de los LLM de código abierto.

Fundamentos del Aprendizaje por Refuerzo (RL)

  • Introducción al Aprendizaje por Refuerzo.
  • Aprendizaje mediante refuerzo positivo.
  • Definición y conceptos clave.
  • Proceso de Decisión de Markov (MDP).
  • Programación dinámica.
  • Métodos de Monte Carlo.
  • Aprendizaje por Diferencia Temporal.

Aprendizaje Profundo por Refuerzo

  • Redes Q Profundas (DQN).
  • Optimización de Política Próxima (PPO).
  • Elementos del Aprendizaje por Refuerzo.

Integración de los LLM y el Aprendizaje por Refuerzo

  • Combinación de los LLM con el Aprendizaje por Refuerzo.
  • Cómo se utiliza el RL en los LLM.
  • Aprendizaje por Refuerzo con Retroalimentación Humana (RLHF).
  • Alternativas al RLHF.

Casos de Estudio y Aplicaciones

  • Aplicaciones en el mundo real.
  • Historias de éxito y desafíos.

Tópicos Avanzados

  • Técnicas avanzadas.
  • Métodos avanzados de optimización.
  • Investigación de vanguardia y desarrollos recientes.

Resumen y Próximos Pasos

Requerimientos

  • Conocimiento básico de Aprendizaje Automático.

Público Objetivo

  • Científicos de datos.
  • Ingenieros de software.
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas