SlideShare une entreprise Scribd logo
1  sur  28
Télécharger pour lire hors ligne
1° Gira Online de Speakers en Latinoamérica
Comunidad Azure Perú y Comunidad Azure Latinoamérica
presenta:
Speaker: Raúl Saráchaga
Charla : Migrando tus datos a la
nube con Azure Data Factory
SOMOS KAITS / BI & DATA ANALYTICS info@kaitsconsulting.com
PUNTOS DE CONTACTO
Correo: raul.sarachaga@kaitsconsulting.com
LinkedIn: Raúl Saráchaga
Blog: www.aprendebi.wordpress.com
Twitter: @raulsarachaga
E X P E R I E N C I A
C E R T I F I C A C I O N E S
Consultor en Business Intelligence.
DBA
Instructor para Cursos de Certificación Microsoft.
Instructor de Business Intelligence con SQL Server.
Raúl Saráchaga
Díaz
Lim
a
AGENDA DE HOY
3
05 IMPLEMENTAR LO APRENDIO CON AZ. DATA FACTORY
Demos colocándonos en varios escenarios de integración.
04 CARACTERÍSTICAS CLAVES DE AZURE DATA FACTORY
Por donde comenzar con este servicio en la nube
03 UNA LUZ AL FINAL DEL CAMINO CON AZ. DATA FACTORY
Como el servicio de Data Factory nos ayuda para la integración.
02 SOLUCIONES DE DW A LA NUBE , SUPER RETO
Que variantes existen cuando se lleva una solución de DW a la nube.
01 SOLUCIONES DE DW, VAYA RETO
Explorar las características de una solución de DW Tradicional
06 PREGUNTAS & RESPUESTAS
Tú preguntas… Yo respondo
Conocer cómo es que Azure Data Factory puede ayudarnos
en la integración de datos en nuestra organización.
4
LES PASA A MUCHOS, LES PASA A TODOS
ESTE ESCENARIO APOCALÍPTICO DE INTEGRACIÓN NO ES EXCLUSIVO DE TU EMPRESA
Data Warehouse Tradicional
5
Acceso a Datos Visualización de
Datos
On-premises Data
Sources
SQL Database
XLS / XLSX / CSV /
TXT / PBIX / +
Modelo
Semántico
Metadata
Integración Almacenamiento
Data
Warehouse
Staging
6
Capa de Integración
Modern BI & Analytics
Integración
Staging
▪ Esta capa de integración servirá de almacén de
los orígenes de datos.
▪ Almacenará por un determinado periodo de
tiempo los datos de las diferentes cargas.
▪ Me permitirá realizar transformación antes de ser
cargados al Data Warehouse.
7
Capa de Almacenamiento
Modern BI & Analytics
Integración
Staging
▪ Esta capa de almacenamiento contendrá algunos
datos de la capa de integración.
▪ La data es transformada antes de llegar a esta
capa.
▪ Se almacenan de forma normalizada.
▪ Los datos de los distintos orígenes de datos se
encuentran centralizados.
Almacenamiento
Data
Warehouse
8
Capa de Acceso a Datos
Modern BI & Analytics
Integración
Staging
▪ En esta capa de acceso a datos se encontrarán
los repositorios desde donde los usuarios finales
se conectarán para poder analizar los datos.
▪ Esta data se encuentra des normalizada para
lograr un mejor rendimiento en tiempo de
respuesta.
▪ Se encuentra con un lenguaje natural para el
usuario final.
Acceso a Datos
Modelo
Semántico
9
Capa de Metadata
Modern BI & Analytics
▪ En esta capa de metadata almacena información
sobre los procesos ejecutados al llevar datos de una
capa a otra.
▪ Se pueden realizar consultas a esta capa para
verificar si los procesos de Extracción , Carga y
Transformación finalizaron correctamente.
Metadata
10
ES HORA DE LLEVAR
EL DATA WAREHOUSE A LA NUBE
VAMOS , SI SE PUEDE !!!!
Data Warehouse en la Nube
11
Acceso a Datos Visualización de
Datos
On-premises Data
Sources
CSV / TXT
Azure
Analysis Services
Metadata
Integración Almacenamiento
Azure SQL Data
Warehouse
Azure Data
Lake Store
Power BI
Excel
Azure SQL Data
Base
Azure
Storage
Blob
12
On-premises Data
Modern BI & Analytics
▪ Se recomienda que los archivos de orígenes sean
archivos planos como .csv o .txt.
On-premises Data
Sources
13
Acceso a Datos
Integración
Modern BI & Analytics
▪ Azure Data Lake Store:
▪ Almacenamiento optimizado para grandes
cargas de trabajo de análisis de datos
▪ Azure Storage Blob:
▪ Almacén de objetos de propósito general
para una amplia variedad de escenarios de
almacenamiento.
▪ Las tecnologías podría utilizarse como capas de
stage.
Integración
Azure Data
Lake Store
Azure
Storage
Blob
14
Acceso a Datos
Almacenamiento
Modern BI & Analytics
▪ Azure Data Warehouse:
▪ Solución especializada para grandes
volúmenes de datos.
▪ Procesamiento MPP (Massively Parallel
Processing).
▪ Mejor tiempo de respuesta en el
procesamiento de datos.
▪ Puede encenderse o apagar el servicio para
reducción de costos.
Almacenamiento
Azure SQL Data
Warehouse
15
Acceso a Datos
Almacenamiento
Modern BI & Analytics
▪ Azure Analysis Services:
▪ Solución que tiene como base un motor
analítico de eficacia probada de Microsoft
SQL Server Analysis Services.
▪ Permite crear un modelo semántico con un
lenguaje más cercano al usuario final.
▪ Servicio especializado en la creación KPIs.
Acceso a Datos
Azure
Analysis Services
16
Acceso a Datos
Almacenamiento
Modern BI & Analytics
▪ Azure SQL Database:
▪ Base de Datos transaccional de Microsoft.
▪ Permite almacenar información de los distintos
procesos que con ejecutados durante el proceso
de ELT en la solución de Data Warehouse.
Metadata
Azure SQL Data
Base
Integración de Data en la Nube
17
Acceso a Datos Visualización de
Datos
On-premises Data
Sources
CSV / TXT
Azure
Analysis Services
Metadata
Integración Almacenamiento
Azure SQL Data
Warehouse
Azure Data
Lake Store
Power BI
Excel
Azure SQL Data
Base
PolybaseAzure Data
Factory
Azure
Storage
Blob
Azure Data
Factory
Azure Data
Factory
Azure Data Factory
18
SERVICIO
AZURE
Servicio de movimiento
de datos globalmente
implementado en la nube.
Permite conectarse a orígenes
en nube y locales
ANALIZAR &
TRANSFORMAR
Programe y administre el
proceso de transformación
y análisis de datos
PUBLICAR &
CONSUMIR
Utilice canalizaciones de datos
para transformar datos
sin procesar en datos finalizados o
formados preparados para
que las aplicaciones o herramientas
de BI los consuman.
Relación entre Entidades de Azure Data
Factory
19
PIPELINE
Una canalización es
un grupo de actividades
ACTIVITY
Definen las acciones
que se van a realizar en los datos
DATA SET
Cada actividad toma
cero o más conjuntos
de datos como entrada y
genera uno o varios conjuntos
de datos como salida
LINKED
SERVICE
Son muy similares a las cadenas de
conexión que definen
la información de conexión
Linked Service
Categoría Almacén de datos Se admite como origen Se admite como receptor
Las tablas de Azure Almacenamiento de blobs de Azure ✓ ✓
Azure Cosmos DB (API de DocumentDB) ✓ ✓
Almacén de Azure Data Lake ✓ ✓
Azure SQL Database ✓ ✓
Azure SQL Data Warehouse ✓ ✓
Índice de Azure Search ✓
Azure Table Storage ✓ ✓
Bases de datos Amazon Redshift ✓
DB2* ✓
MySQL* ✓
Oracle* ✓ ✓
PostgreSQL* ✓
SAP Business Warehouse* ✓
SAP HANA* ✓
SQL Server* ✓ ✓
Sybase* ✓
20
Activity
Actividad de transformación de datos Entorno de procesos
Hive HDInsight [Hadoop]
Pig HDInsight [Hadoop]
MapReduce HDInsight [Hadoop]
Hadoop Streaming HDInsight [Hadoop]
Spark HDInsight [Hadoop]
Actividades de Machine Learning: ejecución de Batch y recurso de
actualización
MV de Azure
Procedimiento almacenado SQL Azure, Almacenamiento de datos SQL de Azure o SQL Server
U-SQL de análisis con Data Lake Análisis con Azure Data Lake
DotNet HDInsight [Hadoop] o Lote de Azure
21
DEMO
22
Azure Data
Factory
DEMO
23
Azure Data
Factory
CSV / TXT
Azure Data
Management Gateway
DEMO
24
Azure Data
Factory / Activity con
Data Lake Analytics
25
Referencias
• https://docs.microsoft.com/es-es/azure/data-factory/data-factory-
introduction
• https://docs.microsoft.com/es-es/azure/data-factory/data-factory-
use-custom-activities
• https://aprendebi.wordpress.com/category/azure-data-factory/
26
• Me puedes encontrar como :
• Raúl Saráchaga
• Correo : raulsarachaga@kaitsconsulting.com
• Blog: aprendebi.wordpress.com
• Facebook: Aprende BI
27
GRACIAS.
Muchas gracias por su
atención
1° Gira Online de Speakers en Latinoamérica
Comunidad Azure Perú y Comunidad Azure Latinoamérica
presenta:

Contenu connexe

Tendances

Azure data analytics platform - A reference architecture
Azure data analytics platform - A reference architecture Azure data analytics platform - A reference architecture
Azure data analytics platform - A reference architecture
Rajesh Kumar
 
Feature Store as a Data Foundation for Machine Learning
Feature Store as a Data Foundation for Machine LearningFeature Store as a Data Foundation for Machine Learning
Feature Store as a Data Foundation for Machine Learning
Provectus
 

Tendances (20)

SQL Database on Azure
SQL Database on AzureSQL Database on Azure
SQL Database on Azure
 
Azure Governance
Azure GovernanceAzure Governance
Azure Governance
 
Azure data analytics platform - A reference architecture
Azure data analytics platform - A reference architecture Azure data analytics platform - A reference architecture
Azure data analytics platform - A reference architecture
 
Achieving Lakehouse Models with Spark 3.0
Achieving Lakehouse Models with Spark 3.0Achieving Lakehouse Models with Spark 3.0
Achieving Lakehouse Models with Spark 3.0
 
Vertica Analytics Database general overview
Vertica Analytics Database general overviewVertica Analytics Database general overview
Vertica Analytics Database general overview
 
Feature Store as a Data Foundation for Machine Learning
Feature Store as a Data Foundation for Machine LearningFeature Store as a Data Foundation for Machine Learning
Feature Store as a Data Foundation for Machine Learning
 
Emerging Trends in Data Engineering
Emerging Trends in Data EngineeringEmerging Trends in Data Engineering
Emerging Trends in Data Engineering
 
SSIS Tutorial For Beginners | SQL Server Integration Services (SSIS) | MSBI T...
SSIS Tutorial For Beginners | SQL Server Integration Services (SSIS) | MSBI T...SSIS Tutorial For Beginners | SQL Server Integration Services (SSIS) | MSBI T...
SSIS Tutorial For Beginners | SQL Server Integration Services (SSIS) | MSBI T...
 
Pipelines and Data Flows: Introduction to Data Integration in Azure Synapse A...
Pipelines and Data Flows: Introduction to Data Integration in Azure Synapse A...Pipelines and Data Flows: Introduction to Data Integration in Azure Synapse A...
Pipelines and Data Flows: Introduction to Data Integration in Azure Synapse A...
 
Windows Azure Virtual Machines
Windows Azure Virtual MachinesWindows Azure Virtual Machines
Windows Azure Virtual Machines
 
Evolution from EDA to Data Mesh: Data in Motion
Evolution from EDA to Data Mesh: Data in MotionEvolution from EDA to Data Mesh: Data in Motion
Evolution from EDA to Data Mesh: Data in Motion
 
Principles of Monitoring Microservices
Principles of Monitoring MicroservicesPrinciples of Monitoring Microservices
Principles of Monitoring Microservices
 
The Microsoft Well Architected Framework For Data Analytics
The Microsoft Well Architected Framework For Data AnalyticsThe Microsoft Well Architected Framework For Data Analytics
The Microsoft Well Architected Framework For Data Analytics
 
Relational databases vs Non-relational databases
Relational databases vs Non-relational databasesRelational databases vs Non-relational databases
Relational databases vs Non-relational databases
 
Sql server 2019 new features
Sql server 2019 new featuresSql server 2019 new features
Sql server 2019 new features
 
Owning Your Own (Data) Lake House
Owning Your Own (Data) Lake HouseOwning Your Own (Data) Lake House
Owning Your Own (Data) Lake House
 
Databricks Platform.pptx
Databricks Platform.pptxDatabricks Platform.pptx
Databricks Platform.pptx
 
Introducing the Snowflake Computing Cloud Data Warehouse
Introducing the Snowflake Computing Cloud Data WarehouseIntroducing the Snowflake Computing Cloud Data Warehouse
Introducing the Snowflake Computing Cloud Data Warehouse
 
Building a modern data warehouse
Building a modern data warehouseBuilding a modern data warehouse
Building a modern data warehouse
 
The SQL Server 2022 Workshop.pptx
The SQL Server 2022 Workshop.pptxThe SQL Server 2022 Workshop.pptx
The SQL Server 2022 Workshop.pptx
 

Similaire à Migrando mis datos a la nube con Azure Data Factory

PLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxx
PLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxxPLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxx
PLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxx
edwin520324
 
Data warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negociosData warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negocios
Javier Benitez
 
Data warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negociosData warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negocios
Javier Benitez
 

Similaire à Migrando mis datos a la nube con Azure Data Factory (20)

Explorando los Sabores de Azure DW
Explorando los Sabores de Azure DWExplorando los Sabores de Azure DW
Explorando los Sabores de Azure DW
 
Business Intelligence en Azure
Business Intelligence en AzureBusiness Intelligence en Azure
Business Intelligence en Azure
 
Azure SQL Data Warehouse - 24 horas de PASS
Azure SQL Data Warehouse - 24 horas de PASS Azure SQL Data Warehouse - 24 horas de PASS
Azure SQL Data Warehouse - 24 horas de PASS
 
PLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxx
PLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxxPLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxx
PLANTILLA INCEPERÚ Sesión 3.pdf-xxxxxxxx
 
Enterprise Ready Data Warehousing in the Cloud
Enterprise Ready Data Warehousing in the CloudEnterprise Ready Data Warehousing in the Cloud
Enterprise Ready Data Warehousing in the Cloud
 
Qué es Snowflake y cómo funciona.docx
Qué es Snowflake y cómo funciona.docxQué es Snowflake y cómo funciona.docx
Qué es Snowflake y cómo funciona.docx
 
Mejores prácticas de Data Warehouse con SQL Server
Mejores prácticas de Data Warehouse con SQL ServerMejores prácticas de Data Warehouse con SQL Server
Mejores prácticas de Data Warehouse con SQL Server
 
Data ware house, sebastian pozo
Data ware house, sebastian pozoData ware house, sebastian pozo
Data ware house, sebastian pozo
 
Que es azure sql datawarehouse
Que es azure sql datawarehouseQue es azure sql datawarehouse
Que es azure sql datawarehouse
 
Eduardo hiram godínez aguirre inv dbms
Eduardo hiram godínez aguirre   inv dbmsEduardo hiram godínez aguirre   inv dbms
Eduardo hiram godínez aguirre inv dbms
 
Azure Data Lake
Azure Data LakeAzure Data Lake
Azure Data Lake
 
Azure data lake
Azure data lakeAzure data lake
Azure data lake
 
24HOP Espanol - Funcionalidades de Nube Hibrida en SQL Server 2014
24HOP Espanol - Funcionalidades de Nube Hibrida en SQL Server 201424HOP Espanol - Funcionalidades de Nube Hibrida en SQL Server 2014
24HOP Espanol - Funcionalidades de Nube Hibrida en SQL Server 2014
 
Data warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negociosData warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negocios
 
Data warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negociosData warehouseing e inteligencia de negocios
Data warehouseing e inteligencia de negocios
 
24 HOP edición Español - Funcionalidades de nube híbrida en sql server 2014 -...
24 HOP edición Español - Funcionalidades de nube híbrida en sql server 2014 -...24 HOP edición Español - Funcionalidades de nube híbrida en sql server 2014 -...
24 HOP edición Español - Funcionalidades de nube híbrida en sql server 2014 -...
 
ALMACEN DE DATOS.pptx
ALMACEN DE DATOS.pptxALMACEN DE DATOS.pptx
ALMACEN DE DATOS.pptx
 
Sistemas de soporte
Sistemas de soporteSistemas de soporte
Sistemas de soporte
 
Sistemas de soporte
Sistemas de soporteSistemas de soporte
Sistemas de soporte
 
Explorando los Sabores con Azure DW
Explorando los Sabores con Azure DWExplorando los Sabores con Azure DW
Explorando los Sabores con Azure DW
 

Plus de Raul Martin Sarachaga Diaz

Plus de Raul Martin Sarachaga Diaz (20)

Webinar_Data Integration en Alibaba Cloud.pdf
Webinar_Data Integration en Alibaba Cloud.pdfWebinar_Data Integration en Alibaba Cloud.pdf
Webinar_Data Integration en Alibaba Cloud.pdf
 
Data Modeling with Power BI
Data Modeling with Power BIData Modeling with Power BI
Data Modeling with Power BI
 
Dashboards de Alto Impacto con Power BI
Dashboards de Alto Impacto con Power BIDashboards de Alto Impacto con Power BI
Dashboards de Alto Impacto con Power BI
 
Data Model with Power BI
Data Model with Power BIData Model with Power BI
Data Model with Power BI
 
DevOps SQL Server
DevOps SQL ServerDevOps SQL Server
DevOps SQL Server
 
Azure SQL Databases para DBAs
Azure SQL Databases para DBAsAzure SQL Databases para DBAs
Azure SQL Databases para DBAs
 
Creacion de Cubos Tabulares en SSAS 2016
Creacion de Cubos Tabulares en SSAS 2016Creacion de Cubos Tabulares en SSAS 2016
Creacion de Cubos Tabulares en SSAS 2016
 
Data Modeling With Power BI
Data Modeling With Power BIData Modeling With Power BI
Data Modeling With Power BI
 
Explorando los Sabores de Power Query
Explorando los Sabores de Power QueryExplorando los Sabores de Power Query
Explorando los Sabores de Power Query
 
El Despertar de la Fuerza con SSRS 2016
El Despertar de la Fuerza con SSRS 2016El Despertar de la Fuerza con SSRS 2016
El Despertar de la Fuerza con SSRS 2016
 
Azure SQL Database para DBAs
Azure SQL Database para DBAsAzure SQL Database para DBAs
Azure SQL Database para DBAs
 
Tus Datos en la Nube con Azure SQL Database
Tus Datos en la Nube con Azure SQL DatabaseTus Datos en la Nube con Azure SQL Database
Tus Datos en la Nube con Azure SQL Database
 
Analisis de Sentimientos con Power BI
Analisis de Sentimientos con Power BIAnalisis de Sentimientos con Power BI
Analisis de Sentimientos con Power BI
 
Datos Siempre Actualizados con Power BI
Datos Siempre Actualizados con Power BIDatos Siempre Actualizados con Power BI
Datos Siempre Actualizados con Power BI
 
De 0 a 100 con Azure Machine Learning
De 0 a 100 con Azure Machine LearningDe 0 a 100 con Azure Machine Learning
De 0 a 100 con Azure Machine Learning
 
Introduccion Azure Machine Learning
Introduccion Azure Machine LearningIntroduccion Azure Machine Learning
Introduccion Azure Machine Learning
 
Explorando los Sabores de SSIS 2016
Explorando los Sabores de SSIS 2016Explorando los Sabores de SSIS 2016
Explorando los Sabores de SSIS 2016
 
Implementando un Data Mart con SQL Server 2016
Implementando un Data Mart con SQL Server 2016Implementando un Data Mart con SQL Server 2016
Implementando un Data Mart con SQL Server 2016
 
Monitoreo de Base de Datos en Azure
Monitoreo de Base de Datos en AzureMonitoreo de Base de Datos en Azure
Monitoreo de Base de Datos en Azure
 
Gestión de Base de Datos en Azure
Gestión de Base de Datos en AzureGestión de Base de Datos en Azure
Gestión de Base de Datos en Azure
 

Dernier

PLAN ANUAL DE PROYECTO 2020. para mejorar
PLAN ANUAL DE PROYECTO 2020. para mejorarPLAN ANUAL DE PROYECTO 2020. para mejorar
PLAN ANUAL DE PROYECTO 2020. para mejorar
CelesteRolon2
 
Conversacion.pptx en guarani boliviano latino
Conversacion.pptx en guarani boliviano latinoConversacion.pptx en guarani boliviano latino
Conversacion.pptx en guarani boliviano latino
BESTTech1
 
Letra de cambio definición y características.ppt
Letra de cambio definición y características.pptLetra de cambio definición y características.ppt
Letra de cambio definición y características.ppt
ssuserbdc329
 
metodo SOAP utilizado para evaluar el estado de un paciente
metodo SOAP utilizado para evaluar el estado de un pacientemetodo SOAP utilizado para evaluar el estado de un paciente
metodo SOAP utilizado para evaluar el estado de un paciente
MedicinaInternaresid1
 
Los más ricos administradores de fondo de cobertura (1968-2024).pdf
Los más ricos administradores de fondo de cobertura (1968-2024).pdfLos más ricos administradores de fondo de cobertura (1968-2024).pdf
Los más ricos administradores de fondo de cobertura (1968-2024).pdf
JC Díaz Herrera
 

Dernier (20)

La Guerra Biologica - Emiliano Paico Vilchez.pdf
La Guerra Biologica - Emiliano Paico Vilchez.pdfLa Guerra Biologica - Emiliano Paico Vilchez.pdf
La Guerra Biologica - Emiliano Paico Vilchez.pdf
 
EPIDEMIO CANCER PULMON resumen nnn.pptx
EPIDEMIO CANCER PULMON  resumen nnn.pptxEPIDEMIO CANCER PULMON  resumen nnn.pptx
EPIDEMIO CANCER PULMON resumen nnn.pptx
 
Trabajo Final de Powerbi DMC Indicadores.pptx
Trabajo Final de Powerbi DMC Indicadores.pptxTrabajo Final de Powerbi DMC Indicadores.pptx
Trabajo Final de Powerbi DMC Indicadores.pptx
 
PLAN ANUAL DE PROYECTO 2020. para mejorar
PLAN ANUAL DE PROYECTO 2020. para mejorarPLAN ANUAL DE PROYECTO 2020. para mejorar
PLAN ANUAL DE PROYECTO 2020. para mejorar
 
Tipos de Educacion en diferentes partes del mundo.pptx
Tipos de Educacion en diferentes partes del mundo.pptxTipos de Educacion en diferentes partes del mundo.pptx
Tipos de Educacion en diferentes partes del mundo.pptx
 
Posiciones_del_sionismo_en_los_imperios globales de la humanidad (2024).pdf
Posiciones_del_sionismo_en_los_imperios globales de la humanidad (2024).pdfPosiciones_del_sionismo_en_los_imperios globales de la humanidad (2024).pdf
Posiciones_del_sionismo_en_los_imperios globales de la humanidad (2024).pdf
 
Conversacion.pptx en guarani boliviano latino
Conversacion.pptx en guarani boliviano latinoConversacion.pptx en guarani boliviano latino
Conversacion.pptx en guarani boliviano latino
 
Análisis del Modo y Efecto de Fallas AMEF.ppt
Análisis del Modo y Efecto de Fallas AMEF.pptAnálisis del Modo y Efecto de Fallas AMEF.ppt
Análisis del Modo y Efecto de Fallas AMEF.ppt
 
Letra de cambio definición y características.ppt
Letra de cambio definición y características.pptLetra de cambio definición y características.ppt
Letra de cambio definición y características.ppt
 
Las familias más ricas del sionismo en el siglo XXI.pdf
Las familias más ricas del sionismo en el siglo XXI.pdfLas familias más ricas del sionismo en el siglo XXI.pdf
Las familias más ricas del sionismo en el siglo XXI.pdf
 
COMUNICADO PARA TODO TIPO DE REUNIONES .
COMUNICADO PARA TODO TIPO DE REUNIONES .COMUNICADO PARA TODO TIPO DE REUNIONES .
COMUNICADO PARA TODO TIPO DE REUNIONES .
 
Panorama Sociodemográfico de México 2020: GUANAJUATO
Panorama Sociodemográfico de México 2020: GUANAJUATOPanorama Sociodemográfico de México 2020: GUANAJUATO
Panorama Sociodemográfico de México 2020: GUANAJUATO
 
Reservas de divisas y oro en México en sexenio de AMLO (2018-2024).pdf
Reservas de divisas y oro en México en sexenio de AMLO (2018-2024).pdfReservas de divisas y oro en México en sexenio de AMLO (2018-2024).pdf
Reservas de divisas y oro en México en sexenio de AMLO (2018-2024).pdf
 
metodo SOAP utilizado para evaluar el estado de un paciente
metodo SOAP utilizado para evaluar el estado de un pacientemetodo SOAP utilizado para evaluar el estado de un paciente
metodo SOAP utilizado para evaluar el estado de un paciente
 
Sistema Nacional de Vigilancia en Salud Pública SIVIGILA
Sistema Nacional de Vigilancia en Salud Pública SIVIGILASistema Nacional de Vigilancia en Salud Pública SIVIGILA
Sistema Nacional de Vigilancia en Salud Pública SIVIGILA
 
Los más ricos administradores de fondo de cobertura (1968-2024).pdf
Los más ricos administradores de fondo de cobertura (1968-2024).pdfLos más ricos administradores de fondo de cobertura (1968-2024).pdf
Los más ricos administradores de fondo de cobertura (1968-2024).pdf
 
Los primeros 60 países por IDH en el año (2024).pdf
Los primeros 60 países por IDH en el año (2024).pdfLos primeros 60 países por IDH en el año (2024).pdf
Los primeros 60 países por IDH en el año (2024).pdf
 
diseño de una linea de produccion de jabon liquido.pptx
diseño de una linea de produccion de jabon liquido.pptxdiseño de una linea de produccion de jabon liquido.pptx
diseño de una linea de produccion de jabon liquido.pptx
 
Las marcas automotrices con más ventas de vehículos (2024).pdf
Las marcas automotrices con más ventas de vehículos (2024).pdfLas marcas automotrices con más ventas de vehículos (2024).pdf
Las marcas automotrices con más ventas de vehículos (2024).pdf
 
Cesar Vilchis Vieyra Cesar Vilchis Vieyra
Cesar Vilchis Vieyra  Cesar Vilchis VieyraCesar Vilchis Vieyra  Cesar Vilchis Vieyra
Cesar Vilchis Vieyra Cesar Vilchis Vieyra
 

Migrando mis datos a la nube con Azure Data Factory

  • 1. 1° Gira Online de Speakers en Latinoamérica Comunidad Azure Perú y Comunidad Azure Latinoamérica presenta: Speaker: Raúl Saráchaga Charla : Migrando tus datos a la nube con Azure Data Factory
  • 2. SOMOS KAITS / BI & DATA ANALYTICS info@kaitsconsulting.com PUNTOS DE CONTACTO Correo: raul.sarachaga@kaitsconsulting.com LinkedIn: Raúl Saráchaga Blog: www.aprendebi.wordpress.com Twitter: @raulsarachaga E X P E R I E N C I A C E R T I F I C A C I O N E S Consultor en Business Intelligence. DBA Instructor para Cursos de Certificación Microsoft. Instructor de Business Intelligence con SQL Server. Raúl Saráchaga Díaz Lim a
  • 3. AGENDA DE HOY 3 05 IMPLEMENTAR LO APRENDIO CON AZ. DATA FACTORY Demos colocándonos en varios escenarios de integración. 04 CARACTERÍSTICAS CLAVES DE AZURE DATA FACTORY Por donde comenzar con este servicio en la nube 03 UNA LUZ AL FINAL DEL CAMINO CON AZ. DATA FACTORY Como el servicio de Data Factory nos ayuda para la integración. 02 SOLUCIONES DE DW A LA NUBE , SUPER RETO Que variantes existen cuando se lleva una solución de DW a la nube. 01 SOLUCIONES DE DW, VAYA RETO Explorar las características de una solución de DW Tradicional 06 PREGUNTAS & RESPUESTAS Tú preguntas… Yo respondo Conocer cómo es que Azure Data Factory puede ayudarnos en la integración de datos en nuestra organización.
  • 4. 4 LES PASA A MUCHOS, LES PASA A TODOS ESTE ESCENARIO APOCALÍPTICO DE INTEGRACIÓN NO ES EXCLUSIVO DE TU EMPRESA
  • 5. Data Warehouse Tradicional 5 Acceso a Datos Visualización de Datos On-premises Data Sources SQL Database XLS / XLSX / CSV / TXT / PBIX / + Modelo Semántico Metadata Integración Almacenamiento Data Warehouse Staging
  • 6. 6 Capa de Integración Modern BI & Analytics Integración Staging ▪ Esta capa de integración servirá de almacén de los orígenes de datos. ▪ Almacenará por un determinado periodo de tiempo los datos de las diferentes cargas. ▪ Me permitirá realizar transformación antes de ser cargados al Data Warehouse.
  • 7. 7 Capa de Almacenamiento Modern BI & Analytics Integración Staging ▪ Esta capa de almacenamiento contendrá algunos datos de la capa de integración. ▪ La data es transformada antes de llegar a esta capa. ▪ Se almacenan de forma normalizada. ▪ Los datos de los distintos orígenes de datos se encuentran centralizados. Almacenamiento Data Warehouse
  • 8. 8 Capa de Acceso a Datos Modern BI & Analytics Integración Staging ▪ En esta capa de acceso a datos se encontrarán los repositorios desde donde los usuarios finales se conectarán para poder analizar los datos. ▪ Esta data se encuentra des normalizada para lograr un mejor rendimiento en tiempo de respuesta. ▪ Se encuentra con un lenguaje natural para el usuario final. Acceso a Datos Modelo Semántico
  • 9. 9 Capa de Metadata Modern BI & Analytics ▪ En esta capa de metadata almacena información sobre los procesos ejecutados al llevar datos de una capa a otra. ▪ Se pueden realizar consultas a esta capa para verificar si los procesos de Extracción , Carga y Transformación finalizaron correctamente. Metadata
  • 10. 10 ES HORA DE LLEVAR EL DATA WAREHOUSE A LA NUBE VAMOS , SI SE PUEDE !!!!
  • 11. Data Warehouse en la Nube 11 Acceso a Datos Visualización de Datos On-premises Data Sources CSV / TXT Azure Analysis Services Metadata Integración Almacenamiento Azure SQL Data Warehouse Azure Data Lake Store Power BI Excel Azure SQL Data Base Azure Storage Blob
  • 12. 12 On-premises Data Modern BI & Analytics ▪ Se recomienda que los archivos de orígenes sean archivos planos como .csv o .txt. On-premises Data Sources
  • 13. 13 Acceso a Datos Integración Modern BI & Analytics ▪ Azure Data Lake Store: ▪ Almacenamiento optimizado para grandes cargas de trabajo de análisis de datos ▪ Azure Storage Blob: ▪ Almacén de objetos de propósito general para una amplia variedad de escenarios de almacenamiento. ▪ Las tecnologías podría utilizarse como capas de stage. Integración Azure Data Lake Store Azure Storage Blob
  • 14. 14 Acceso a Datos Almacenamiento Modern BI & Analytics ▪ Azure Data Warehouse: ▪ Solución especializada para grandes volúmenes de datos. ▪ Procesamiento MPP (Massively Parallel Processing). ▪ Mejor tiempo de respuesta en el procesamiento de datos. ▪ Puede encenderse o apagar el servicio para reducción de costos. Almacenamiento Azure SQL Data Warehouse
  • 15. 15 Acceso a Datos Almacenamiento Modern BI & Analytics ▪ Azure Analysis Services: ▪ Solución que tiene como base un motor analítico de eficacia probada de Microsoft SQL Server Analysis Services. ▪ Permite crear un modelo semántico con un lenguaje más cercano al usuario final. ▪ Servicio especializado en la creación KPIs. Acceso a Datos Azure Analysis Services
  • 16. 16 Acceso a Datos Almacenamiento Modern BI & Analytics ▪ Azure SQL Database: ▪ Base de Datos transaccional de Microsoft. ▪ Permite almacenar información de los distintos procesos que con ejecutados durante el proceso de ELT en la solución de Data Warehouse. Metadata Azure SQL Data Base
  • 17. Integración de Data en la Nube 17 Acceso a Datos Visualización de Datos On-premises Data Sources CSV / TXT Azure Analysis Services Metadata Integración Almacenamiento Azure SQL Data Warehouse Azure Data Lake Store Power BI Excel Azure SQL Data Base PolybaseAzure Data Factory Azure Storage Blob Azure Data Factory Azure Data Factory
  • 18. Azure Data Factory 18 SERVICIO AZURE Servicio de movimiento de datos globalmente implementado en la nube. Permite conectarse a orígenes en nube y locales ANALIZAR & TRANSFORMAR Programe y administre el proceso de transformación y análisis de datos PUBLICAR & CONSUMIR Utilice canalizaciones de datos para transformar datos sin procesar en datos finalizados o formados preparados para que las aplicaciones o herramientas de BI los consuman.
  • 19. Relación entre Entidades de Azure Data Factory 19 PIPELINE Una canalización es un grupo de actividades ACTIVITY Definen las acciones que se van a realizar en los datos DATA SET Cada actividad toma cero o más conjuntos de datos como entrada y genera uno o varios conjuntos de datos como salida LINKED SERVICE Son muy similares a las cadenas de conexión que definen la información de conexión
  • 20. Linked Service Categoría Almacén de datos Se admite como origen Se admite como receptor Las tablas de Azure Almacenamiento de blobs de Azure ✓ ✓ Azure Cosmos DB (API de DocumentDB) ✓ ✓ Almacén de Azure Data Lake ✓ ✓ Azure SQL Database ✓ ✓ Azure SQL Data Warehouse ✓ ✓ Índice de Azure Search ✓ Azure Table Storage ✓ ✓ Bases de datos Amazon Redshift ✓ DB2* ✓ MySQL* ✓ Oracle* ✓ ✓ PostgreSQL* ✓ SAP Business Warehouse* ✓ SAP HANA* ✓ SQL Server* ✓ ✓ Sybase* ✓ 20
  • 21. Activity Actividad de transformación de datos Entorno de procesos Hive HDInsight [Hadoop] Pig HDInsight [Hadoop] MapReduce HDInsight [Hadoop] Hadoop Streaming HDInsight [Hadoop] Spark HDInsight [Hadoop] Actividades de Machine Learning: ejecución de Batch y recurso de actualización MV de Azure Procedimiento almacenado SQL Azure, Almacenamiento de datos SQL de Azure o SQL Server U-SQL de análisis con Data Lake Análisis con Azure Data Lake DotNet HDInsight [Hadoop] o Lote de Azure 21
  • 23. DEMO 23 Azure Data Factory CSV / TXT Azure Data Management Gateway
  • 24. DEMO 24 Azure Data Factory / Activity con Data Lake Analytics
  • 25. 25
  • 27. • Me puedes encontrar como : • Raúl Saráchaga • Correo : raulsarachaga@kaitsconsulting.com • Blog: aprendebi.wordpress.com • Facebook: Aprende BI 27 GRACIAS.
  • 28. Muchas gracias por su atención 1° Gira Online de Speakers en Latinoamérica Comunidad Azure Perú y Comunidad Azure Latinoamérica presenta: