Curso de Big Data - Data Science

Apache Beam es un modelo de programación unificado de código abierto para definir y ejecutar tuberías de procesamiento de datos paralelas. Su poder radica en su capacidad para ejecutar canalizaciones por lotes y de transmisión, y la ejecución la lleva a cabo uno de los back-ends de procesamiento distribuido compatibles con Beam: Apache Apex, Apache Flink, Apache Spark y Google Cloud Dataflow. Apache Beam es útil para tareas ETL (Extracción, Transformación y Carga), como mover datos entre diferentes medios de almacenamiento y fuentes de datos, transformar datos a un formato más deseable y cargar datos en un nuevo sistema.

En esta capacitación en vivo dirigida por un instructor (presencial o remota), los participantes aprenderán a implementar los SDK Apache Beam en una aplicación Java o Python que define una canalización de procesamiento de datos para descomponer un conjunto de datos grandes en fragmentos más pequeños para un procesamiento paralelo e independiente.

Al final de esta formación, los participantes serán capaces de:

• Instalar y configurar Apache Beam.
• Utilice un único modelo de programación para llevar a cabo el procesamiento por lotes y por secuencias desde su aplicación Java o Python.
• Ejecute canalizaciones en múltiples entornos.

Formato del curso

• En parte conferencia, en parte discusión, ejercicios y práctica práctica pesada

Nota

• Este curso estará disponible Scala en el futuro. Póngase en contacto con nosotros para organizarlo.

En esta capacitación en vivo dirigida por un instructor en Colombia, los participantes aprenderán cómo construir un Data Vault.

Al final de esta formación, los participantes serán capaces de:

• Comprender los conceptos de arquitectura y diseño detrás de Data Vault 2.0 y su interacción con Big Data, NoSQL e IA.
• Utilice técnicas de almacenamiento de datos para permitir la auditoría, el seguimiento y la inspección de datos históricos en un almacén de datos.
• Desarrolle un proceso ETL (Extracción, Transformación, Carga) coherente y repetible.
• Construya e implemente almacenes altamente escalables y repetibles.

Esta capacitación en vivo dirigida por un instructor en Colombia (en línea o presencial) presenta los principios y enfoques detrás del procesamiento de datos de flujo distribuido y por lotes, y guía a los participantes a través de la creación de una aplicación de transmisión de datos en tiempo real en Apache Flink.

Al final de esta formación, los participantes serán capaces de:

• Configure un entorno para desarrollar aplicaciones de análisis de datos.
• Comprender cómo funciona la biblioteca de procesamiento de gráficos (Gelly) de Apache Flink.
• Empaquete, ejecute y supervise aplicaciones de transmisión de datos tolerantes a errores y basadas en Flink.
• Administre diversas cargas de trabajo.
• Realizar analíticas avanzadas.
• Configure un clúster de Flink de varios nodos.
• Mida y optimice el rendimiento.
• Integre Flink con diferentes Big Data sistemas.
• Compare las capacidades de Flink con las de otros marcos de procesamiento de big data.

En esta capacitación en vivo dirigida por un instructor en Colombia, los participantes aprenderán sobre las ofertas tecnológicas y los enfoques de implementación para el procesamiento de datos de gráficos. El objetivo es identificar objetos del mundo real, sus características y relaciones, luego modelar estas relaciones y procesarlas como datos utilizando un enfoque Graph Computing (también conocido como análisis de grafos). Comenzamos con una visión general amplia y nos limitamos a herramientas específicas a medida que avanzamos a través de una serie de estudios de casos, ejercicios prácticos e implementaciones en vivo.

Al final de esta formación, los participantes serán capaces de:

• Comprenda cómo se conservan y atraviesan los datos de los gráficos.
• Seleccione el mejor marco para una tarea determinada (desde bases de datos de grafos hasta marcos de procesamiento por lotes).
• Implemente Hadoop, Spark, GraphX y Pregel para llevar a cabo el cálculo de grafos en muchas máquinas en paralelo.
• Vea problemas de big data del mundo real en términos de gráficos, procesos y recorridos.

Esta capacitación en vivo dirigida por un instructor en Colombia (en línea o presencial) está dirigida a desarrolladores que desean implementar Apache Kafka el procesamiento de flujos sin escribir código.

Al final de esta formación, los participantes serán capaces de:

• Instale y configure Confluent KSQL.
• Configure una canalización de procesamiento de secuencias utilizando solo los comandos SQL (sin codificación Java o Python).
• Lleve a cabo el filtrado de datos, las transformaciones, las agregaciones, las uniones, las ventanas y la sessionización íntegramente en SQL.
• Diseñe e implemente consultas interactivas y continuas para la transmisión de ETL y análisis en tiempo real.

En esta capacitación en vivo dirigida por un instructor en Colombia (presencial o remoto), los participantes aprenderán cómo implementar y administrar Apache NiFi en un entorno de laboratorio en vivo.

Al final de esta formación, los participantes serán capaces de:

• Instala y configura Apachi NiFi.
• Obtenga, transforme y administre datos de fuentes de datos dispares y distribuidas, incluidas bases de datos y lagos de big data.
• Automatice los flujos de datos.
• Habilite el análisis de transmisión.
• Aplique varios enfoques para la ingesta de datos.
• Transforme Big Data y conviértase en información empresarial.

En esta capacitación en vivo dirigida por un instructor en Colombia, los participantes aprenderán los fundamentos de la programación basada en flujo a medida que desarrollan una serie de extensiones, componentes y procesadores de demostración utilizando Apache NiFi.

Al final de esta formación, los participantes serán capaces de:

• Comprenda la arquitectura de NiFi y los conceptos de flujo de datos.
• Desarrolle extensiones utilizando NiFi y API de terceros.
• Desarrollar a medida su propio procesador Apache Nifi.
• Ingiera y procese datos en tiempo real de formatos de archivo y fuentes de datos dispares y poco comunes.

En esta capacitación en vivo dirigida por un instructor en Colombia, los participantes aprenderán a usar Python y Spark juntos para analizar big data mientras trabajan en ejercicios prácticos.

Al final de esta formación, los participantes serán capaces de:

• Aprenda a usar Spark con Python para analizar Big Data.
• Trabaja en ejercicios que imiten casos del mundo real.
• Utilice diferentes herramientas y técnicas para el análisis de big data utilizando PySpark.

Esta capacitación en vivo dirigida por un instructor en Colombia (en línea o en el sitio) está dirigida a ingenieros de datos, científicos de datos y programadores que deseen utilizar Spark Streaming funciones en el procesamiento y análisis de datos en tiempo real.

Al final de esta capacitación, los participantes podrán usar Spark Streaming para procesar flujos de datos en vivo para su uso en bases de datos, sistemas de archivos y paneles de control en vivo.