Transmisión de Datos y Procesamiento de Datos en Tiempo Real
Descripción General del Curso
Este curso ofrece una introducción práctica y estructurada al desarrollo de sistemas de transmisión de datos en tiempo real. Aborda conceptos fundamentales, patrones de arquitectura y herramientas industriales utilizadas para procesar datos continuos a gran escala. Los participantes aprenderán cómo diseñar, implementar y optimizar canalizaciones de transmisión utilizando marcos de trabajo modernos. El curso avanza desde ideas fundamentales hasta aplicaciones prácticas, permitiendo a los estudiantes construir con confianza soluciones en tiempo real listas para producción.
Formato de la Capacitación
• Sesiones dirigidas por un instructor con explicaciones guiadas
• Recorridos conceptuales con ejemplos del mundo real
• Demostraciones prácticas y ejercicios de programación
• Laboratorios progresivos alineados con los temas diarios
• Discusiones interactivas y sesiones de preguntas y respuestas
Objetivos del Curso
• Comprender los conceptos de transmisión de datos en tiempo real y la arquitectura del sistema
• Diferenciar entre modelos de procesamiento de datos por lotes y streaming
• Diseñar canalizaciones de transmisión escalables y tolerantes a fallos
• Trabajar con herramientas y marcos de trabajo de transmisión distribuida
• Aplicar procesamiento basado en tiempo del evento, ventanas y operaciones con estado
Construir y optimizar soluciones de datos en tiempo real para casos de uso empresarial
Temario del curso
Programa del Curso Día 1
• Introducción a los conceptos de transmisión de datos
• Fundamentos del procesamiento por lotes versus en tiempo real
• Conceptos básicos de arquitectura impulsada por eventos
• Casos de uso comunes en la industria
• Panorama del ecosistema de transmisión
Día 2
• Patrones de diseño de arquitectura de streaming
• Fundamentos de los sistemas de mensajería distribuida
• Productores y consumidores
• Temas, particiones y flujo de datos
• Estrategias de ingesta de datos
Día 3
• Conceptos y marcos de trabajo de procesamiento de transmisiones
• Tiempo del evento versus tiempo de procesamiento
• Técnicas de ventanas y sus casos de uso
• Procesamiento de transmisiones con estado
• Conceptos básicos de tolerancia a fallos y puntos de control
Día 4
• Transformación de datos en canalizaciones de transmisión
• ETL y ELT en sistemas en tiempo real
• Gestión y evolución de esquemas
• Uniones y enriquecimiento de transmisiones
• Introducción a los servicios de transmisión basados en la nube
Día 5
• Monitoreo y observabilidad en sistemas de transmisión
• Conceptos básicos de seguridad y control de acceso
• Ajuste de rendimiento y optimización
• Revisión del diseño de canalizaciones de extremo a extremo
• Casos de uso reales como detección de fraude y procesamiento de IoT
Los cursos públicos requieren más de 5 participantes.
Transmisión de Datos y Procesamiento de Datos en Tiempo Real - Reserva
Transmisión de Datos y Procesamiento de Datos en Tiempo Real - Consulta
Transmisión de Datos y Procesamiento de Datos en Tiempo Real - Solicitud de consultoría
Reseñas (2)
Un viaje por el mundo de Spark: un curso muy intenso. DSL, Spark SQL, particionamiento versus agrupación para mí.
Georgiana Elisabeta
Curso - Apache Spark Fundamentals
Traducción Automática
Ejercicios prácticos. La clase debería haber durado 5 días, pero los 3 días fueron útiles para aclarar muchas de las preguntas que tenía al trabajar con NiFi.
James - BHG Financial
Curso - Apache NiFi for Administrators
Traducción Automática
Próximos cursos
Cursos Relacionados
Apache Iceberg Avanzado
21 HorasEsta formación presencial en vivo impartida por un instructor en <ubic> (en línea o en las instalaciones) está dirigida a profesionales de datos de nivel avanzado que deseen optimizar los flujos de trabajo de procesamiento de datos, garantizar la integridad de los datos e implementar soluciones robustas de lakehouse que puedan manejar las complejidades de las aplicaciones modernas de grandes volúmenes de datos.
Al finalizar esta formación, los participantes serán capaces de:
- Obtener una comprensión profunda de la arquitectura de Iceberg, incluida la gestión de metadatos y la distribución de archivos.
- Configurar Iceberg para un rendimiento óptimo en diversos entornos e integrarlo con múltiples motores de procesamiento de datos.
- Gestionar tablas Iceberg a gran escala, realizar cambios complejos en el esquema y manejar la evolución de las particiones.
- Dominar técnicas para optimizar el rendimiento de las consultas y la eficiencia del escaneo de datos en grandes conjuntos de datos.
- Implementar mecanismos para garantizar la consistencia de los datos, gestionar garantías transaccionales y manejar fallos en entornos distribuidos.
Fundamentos de Apache Iceberg
14 HorasEsta formación impartida en vivo por un instructor en <ubicación> (en línea o presencial) está dirigida a profesionales de los datos de nivel principiante que desean adquirir los conocimientos y habilidades necesarios para utilizar eficazmente Apache Iceberg en la gestión de conjuntos de datos a gran escala, garantizar la integridad de los datos y optimizar los flujos de trabajo de procesamiento de datos.
Al finalizar esta formación, los participantes serán capaces de:
- Comprender a fondo la arquitectura, las características y los beneficios de Apache Iceberg.
- Conocer los formatos de tablas, la partición, la evolución del esquema y las capacidades de viaje en el tiempo (time travel).
- Instalar y configurar Apache Iceberg en diferentes entornos.
- Crear, gestionar y manipular tablas Iceberg.
- Comprender el proceso de migración de datos desde otros formatos de tabla hacia Iceberg.
Análisis de Big Data con Google Colab y Apache Spark
14 HorasEsta capacitación en vivo impartida por un instructor en <ubicación> (en línea o presencial) está dirigida a científicos de datos e ingenieros de nivel intermedio que desean utilizar Google Colab y Apache Spark para el procesamiento y análisis de big data.
Al finalizar esta capacitación, los participantes podrán:
- Configurar un entorno de big data utilizando Google Colab y Spark.
- Procesar y analizar conjuntos grandes de datos de manera eficiente con Apache Spark.
- Visualizar big data en un entorno colaborativo.
- Integrar Apache Spark con herramientas basadas en la nube.
Inteligencia de Negocios de Big Data para Agencias del Gobierno
35 HorasLos avances tecnológicos y el creciente volumen de información están transformando la manera en que se llevan a cabo los negocios en muchas industrias, incluido el gobierno. Las tasas de generación de datos gubernamentales y el archivo digital están en aumento debido al rápido crecimiento de dispositivos móviles y aplicaciones, sensores y dispositivos inteligentes, soluciones de computación en la nube y portales orientados al ciudadano. A medida que la información digital se expande y se vuelve más compleja, también lo hacen la gestión, el procesamiento, el almacenamiento, la seguridad y la disposición de esta información. Nuevas herramientas de captura, búsqueda, descubrimiento y análisis están ayudando a las organizaciones a obtener conocimientos valiosos a partir de sus datos no estructurados. El mercado gubernamental se encuentra en un punto de inflexión, comprendiendo que la información es un activo estratégico, y que el gobierno debe proteger, aprovechar y analizar tanto la información estructurada como la no estructurada para servir mejor y cumplir con los requisitos de su misión. A medida que los líderes gubernamentales se esfuerzan por evolucionar hacia organizaciones basadas en datos para lograr exitosamente su misión, están sentando las bases para correlacionar dependencias entre eventos, personas, procesos e información.
Las soluciones gubernamentales de alto valor se crearán a partir de una combinación de las tecnologías más disruptivas:
- Dispositivos móviles y aplicaciones
- Servicios en la nube
- Tecnologías de redes sociales empresariales y networking
- Big Data y análisis (analytics)
El Big Data es una de las soluciones inteligentes de la industria y permite al gobierno tomar mejores decisiones actuando sobre patrones revelados mediante el análisis de grandes volúmenes de datos — relacionados y no relacionados, estructurados y no estructurados.
Pero lograr estos hazañas requiere mucho más que simplemente acumular cantidades masivas de datos. "Hacer sentido de estos volumenes de Big Data requiere herramientas y tecnologías de vanguardia que puedan analizar y extraer conocimiento útil de flujos vastos y diversos de información", escribieron Tom Kalil y Fen Zhao de la Oficina de Política de Ciencia y Tecnología de la Casa Blanca en un artículo del blog de OSTP.
La Casa Blanca dio un paso hacia ayudar a las agencias a encontrar estas tecnologías cuando estableció la Iniciativa Nacional de Investigación y Desarrollo de Big Data en 2012. Esta iniciativa incluyó más de $200 millones para aprovechar al máximo la explosión de Big Data y las herramientas necesarias para analizarla.
Los desafíos que plantea el Big Data son casi tan desalentadores como su promesa es alentadora. Almacenar datos de manera eficiente es uno de estos desafíos. Como siempre, los presupuestos son ajustados, por lo que las agencias deben minimizar el precio por megabyte del almacenamiento y mantener los datos accesibles para que los usuarios puedan obtenerlos cuando lo deseen y como lo necesiten. Respalda r cantidades masivas de datos aumenta este desafío.
Analizar los datos eficazmente es otro gran desafío. Muchas agencias utilizan herramientas comerciales que les permiten cribar montañas de datos, identificando tendencias que pueden ayudarles a operar con mayor eficiencia. (Un reciente estudio de MeriTalk encontró que los ejecutivos de TI federales creen que el Big Data podría ayudar a las agencias a ahorrar más de $500 mil millones mientras también cumplen con los objetivos de su misión.).
Las herramientas de Big Data desarrolladas a medida también están permitiendo a las agencias atender la necesidad de analizar sus datos. Por ejemplo, el Grupo de Análisis de Datos Computacionales del Laboratorio Nacional Oak Ridge ha puesto su sistema de análisis de datos Piranha a disposición de otras agencias. El sistema ha ayudado a investigadores médicos a encontrar una conexión que puede alertar a los médicos sobre aneurismas aórticos antes de que ocurran. También se utiliza para tareas más rutinarias, como cribar currículums para conectar candidatos con gerentes de contratación.
Una introducción práctica al análisis de datos y los grandes datos - 3 días
21 HorasLos participantes que completen este entrenamiento en vivo y guiado por un instructor en Bolivia adquirirán una comprensión práctica y del mundo real sobre los grandes datos (Big Data) y sus tecnologías, metodologías y herramientas relacionadas.
Los participantes tendrán la oportunidad de aplicar estos conocimientos mediante ejercicios prácticos. La interacción grupal y los comentarios del instructor son componentes importantes del curso.
El curso comienza con una introducción a los conceptos elementales de los grandes datos, luego avanza hacia los lenguajes de programación y las metodologías utilizadas para realizar el análisis de datos. Finalmente, discutimos las herramientas e infraestructura que permiten el almacenamiento de grandes datos, el procesamiento distribuido y la escalabilidad.
Big Data y Analítica Avanzada
42 HorasBig Data y Analítica Avanzada es la aplicación de técnicas y herramientas sofisticadas para analizar conjuntos de datos grandes y complejos con el fin de obtener información accionable y tomar decisiones estratégicas.
Esta formación en vivo, impartida por un instructor (en línea o en las instalaciones), está dirigida a profesionales de datos de nivel avanzado que deseen aprovechar métodos analíticos de vanguardia y tecnologías big data para la analítica predictiva, prescriptiva y en tiempo real.
Al finalizar esta formación, los participantes serán capaces de:
- Diseñar e implementar canales de procesamiento de datos a gran escala para datos estructurados y no estructurados.
- Aplicar técnicas avanzadas de aprendizaje automático (machine learning) y aprendizaje profundo (deep learning) a conjuntos masivos de datos.
- Aprovechar marcos de computación distribuida para analítica en tiempo real y streaming de datos.
- Integrar la analítica big data en sistemas de inteligencia empresarial y toma de decisiones.
Formato del curso
- Clase interactiva y discusión.
- Numerosos ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar los detalles.
Apache NiFi para administradores
21 HorasApache NiFi es una plataforma de integración de datos basada en flujos y procesamiento de eventos, de código abierto. Permite el enrutamiento automático y en tiempo real de datos, su transformación y la mediación entre sistemas diversos, cuenta con una interfaz de usuario web y un control detallado.
Esta formación presencial o remota impartida por un instructor está dirigida a administradores e ingenieros de nivel intermedio que deseen implementar, gestionar, asegurar y optimizar los flujos de datos de NiFi en entornos de producción.
Al finalizar esta formación, los participantes podrán:
- Instalar, configurar y mantener clústeres de Apache NiFi.
- Diseñar y gestionar flujos de datos desde diversas fuentes y sumideros.
- Implementar lógica de automatización, enrutamiento y transformación de flujos.
- Optimizar el rendimiento, monitorear las operaciones y resolver problemas.
Formato del curso
- Conferencia interactiva con discusión de arquitectura del mundo real.
- Prácticas: construcción, despliegue y gestión de flujos.
- Ejercicios basados en escenarios en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para organizarlo.
PySpark y Aprendizaje Automático
21 HorasEsta capacitación ofrece una introducción práctica para construir flujos de trabajo escalables de procesamiento de datos y aprendizaje automático utilizando PySpark. Los participantes aprenden cómo opera Apache Spark dentro de ecosistemas modernos de Big Data y cómo procesar eficientemente grandes conjuntos de datos aplicando principios de computación distribuida.
Fundamentos de Apache Spark
21 HorasEsta formación en vivo impartida por un instructor en Bolivia (en línea o presencial) está dirigida a ingenieros que deseen configurar e implementar un sistema Apache Spark para procesar cantidades muy grandes de datos.
Al finalizar esta formación, los participantes serán capaces de:
- Instalar y configurar Apache Spark.
- Procesar y analizar conjuntos de datos muy grandes rápidamente.
- Comprender la diferencia entre Apache Spark y Hadoop MapReduce, así como cuándo utilizar cada uno.
- Integrar Apache Spark con otras herramientas de aprendizaje automático.
Administración de Apache Spark
35 HorasEsta formación en vivo impartida por un instructor en <ubic> (en línea o presencial) está dirigida a administradores de sistemas de nivel principiante e intermedio que deseen implementar, mantener y optimizar clústeres de Spark.
Al finalizar esta formación, los participantes serán capaces de:
- Instalar y configurar Apache Spark en diversos entornos.
- Gestionar los recursos del clúster y monitorizar las aplicaciones de Spark.
- Optimizar el rendimiento de los clústeres de Spark.
- Implementar medidas de seguridad y garantizar la alta disponibilidad.
- Depurar y solucionar problemas comunes de Spark.
Apache Spark en la nube
21 HorasLa curva de aprendizaje de Apache Spark es empinada al principio y requiere mucho esfuerzo para obtener resultados iniciales. Este curso tiene como objetivo superar esa etapa inicial difícil. Al finalizarlo, los participantes comprenderán los fundamentos de Apache Spark, sabrán diferenciar claramente entre RDD y DataFrame, aprenderán a utilizar las APIs de Python y Scala, y entenderán conceptos como ejecutores y tareas. Asimismo, siguiendo las mejores prácticas, el curso hace un fuerte énfasis en la implementación en la nube, Databricks y AWS. Los estudiantes también comprenderán las diferencias entre AWS EMR y AWS Glue, uno de los servicios más recientes de Spark ofrecidos por AWS.
DIRIGIDO A:
Ingenieros de Datos, DevOps, Científicos de Datos
Python y Spark para Big Data (PySpark)
21 HorasEn este entrenamiento en vivo dirigido por un instructor en Bolivia, los participantes aprenderán cómo utilizar Python y Spark juntos para analizar grandes datos mientras realizan ejercicios prácticos.
Al finalizar esta formación, los participantes podrán:
- Aprender a usar Spark con Python para analizar Big Data.
- Realizar ejercicios que imitan casos reales.
- Utilizar diferentes herramientas y técnicas para el análisis de grandes datos mediante PySpark.
Python, Spark y Hadoop para Big Data
21 HorasEsta formación en vivo impartida por un instructor en Bolivia (en línea o presencial) está dirigida a desarrolladores que desean utilizar e integrar Spark, Hadoop y Python para procesar, analizar y transformar conjuntos de datos grandes y complejos.
Al finalizar esta capacitación, los participantes podrán:
- Configurar el entorno necesario para comenzar a procesar big data con Spark, Hadoop y Python.
- Comprender las características, componentes principales y arquitectura de Spark y Hadoop.
- Aprender cómo integrar Spark, Hadoop y Python para el procesamiento de datos masivos.
- Explorar las herramientas del ecosistema de Spark (Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka y Flume).
- Construir sistemas de recomendación basados en filtrado colaborativo similares a los de Netflix, YouTube, Amazon, Spotify y Google.
- Utilizar Apache Mahout para escalar algoritmos de aprendizaje automático.
Stratio: Módulos Rocket e Intelligence con PySpark
14 HorasStratio es una plataforma centrada en los datos que integra big data, inteligencia artificial y gobernanza en una única solución. Sus módulos Rocket e Intelligence permiten la exploración rápida de datos, su transformación y el análisis avanzado en entornos empresariales.
Esta formación en vivo impartida por un instructor (online o presencial) está dirigida a profesionales de datos de nivel intermedio que deseen utilizar eficazmente los módulos Rocket e Intelligence de Stratio con PySpark, centrándose en estructuras iterativas, funciones definidas por el usuario y lógica avanzada de datos.
Al final de esta formación, los participantes serán capaces de:
- Navegar y trabajar dentro de la plataforma Stratio utilizando los módulos Rocket e Intelligence.
- Aplicar PySpark en el contexto de ingesta, transformación y análisis de datos.
- Utilizar bucles y lógica condicional para controlar flujos de trabajo y tareas de ingeniería de características.
- Crear y gestionar funciones definidas por el usuario (UDFs) para operaciones de datos reutilizables en PySpark.
Formato del curso
- Lección interactiva y discusión.
- Numerosos ejercicios y prácticas.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para organizarlo.