SlideShare une entreprise Scribd logo
1  sur  13
ARQUITETURA E PROCESSAMENTO
DE DADOS EM TEMPO REAL
SOBRE MIM
Paulo Ricardo Santos
Pós-Graduado Business intelligence
pauloricardodba@gmail.com
Linkedin: pauloricardovds
AGENDA
 Data Lake x Data Warehouse
 Arquitetura de Business Intelligence
 Introdução ao Big Data
 Arquitetura Big Data - Lambda
 Demo
DEFINIÇÃO DE DATA LAKE
“If you think of a datamart as a store of bottled water –
cleansed and packaged and structured for easy consumption –
the data lake is a large body of water in a more natural state.
The contents of the data lake stream in from a source to fill the
lake, and various users of the lake can come to examine, dive
in, or take samples.”
Segundo Tamara Dull:
Um Data Lake é um repositório de armazenamento que contém uma
grande quantidade de dados brutos em seu formato nativo, incluindo
dados estruturados, semi-estruturados e não estruturados. A estrutura e
os requisitos de dados não são definidos até que os dados sejam
necessários.
PRINCIPAIS
DIFERENÇAS
ENTRE UM DW
E O DATA LAKE
ARQUITETURA DE BI
NÃO CUSTA NADA LEMBRAR?
Big Data é o termo que descreve o imenso volume de dados –
estruturados e não estruturados – que impactam os negócios no dia
dia. Mas o importante não é a quantidade de dados, e sim o que as
empresas fazem com os dados que realmente importam.
BIG DATA 3 V’S
Velocidade
VolumeVariedade
ARQUITETURA LAMBDA
Nathan Marz
Engenheiro em Twitter
Criador do projeto open-source: Storm
and Cascalog
ARQUITETURA LAMBDA
Batch layer
Master dataset
New
Data
?
Query
?
Query?
Query
Speed layer
Real-time
view
Real-time
view
Serving layer
Batch
view
Batch
view
DEMO
OBRIGADO!
Paulo Ricardo Santos
pauloricardodba@gmail.com
Linkedin: pauloricardovds
Blog: medium.com/@pauloricardovds

Contenu connexe

Tendances

Aula 2 arquitecturas de sgbd, utilizadores, perfis
Aula 2   arquitecturas de sgbd, utilizadores, perfisAula 2   arquitecturas de sgbd, utilizadores, perfis
Aula 2 arquitecturas de sgbd, utilizadores, perfis
Hélio Martins
 
1º trabalho base dados
1º trabalho base dados1º trabalho base dados
1º trabalho base dados
essa
 
Introducao Base Dados I
Introducao  Base  Dados  IIntroducao  Base  Dados  I
Introducao Base Dados I
guest3118b2
 
Matéria de apoio (Base de dados)
Matéria de apoio  (Base de dados)Matéria de apoio  (Base de dados)
Matéria de apoio (Base de dados)
André Silva
 

Tendances (19)

Data warehousing - Técnicas e procedimentos
Data warehousing - Técnicas e procedimentosData warehousing - Técnicas e procedimentos
Data warehousing - Técnicas e procedimentos
 
Data warehouse & Data mining
Data warehouse & Data miningData warehouse & Data mining
Data warehouse & Data mining
 
Data Warehouse
Data WarehouseData Warehouse
Data Warehouse
 
Introdução ao Data Warehouse
Introdução ao Data WarehouseIntrodução ao Data Warehouse
Introdução ao Data Warehouse
 
Data Mining e Data Warehouse
Data Mining e Data WarehouseData Mining e Data Warehouse
Data Mining e Data Warehouse
 
Data warehousing
Data warehousingData warehousing
Data warehousing
 
Aula 2 arquitecturas de sgbd, utilizadores, perfis
Aula 2   arquitecturas de sgbd, utilizadores, perfisAula 2   arquitecturas de sgbd, utilizadores, perfis
Aula 2 arquitecturas de sgbd, utilizadores, perfis
 
Data mining
Data miningData mining
Data mining
 
Introdução a Bancos de Dados
Introdução a Bancos de DadosIntrodução a Bancos de Dados
Introdução a Bancos de Dados
 
Sistemas De Apoio A Decis
Sistemas De Apoio A DecisSistemas De Apoio A Decis
Sistemas De Apoio A Decis
 
1º trabalho base dados
1º trabalho base dados1º trabalho base dados
1º trabalho base dados
 
Aula1-Conceitos de SGBD
Aula1-Conceitos de SGBDAula1-Conceitos de SGBD
Aula1-Conceitos de SGBD
 
Introducao Base Dados I
Introducao  Base  Dados  IIntroducao  Base  Dados  I
Introducao Base Dados I
 
Matéria de apoio (Base de dados)
Matéria de apoio  (Base de dados)Matéria de apoio  (Base de dados)
Matéria de apoio (Base de dados)
 
Introdução a modelagem de dados - Banco de Dados
Introdução a modelagem de dados - Banco de DadosIntrodução a modelagem de dados - Banco de Dados
Introdução a modelagem de dados - Banco de Dados
 
Módulo 12 - Introdução aos sistemas de informação
Módulo 12 - Introdução aos sistemas de informaçãoMódulo 12 - Introdução aos sistemas de informação
Módulo 12 - Introdução aos sistemas de informação
 
Data Warehouse
Data WarehouseData Warehouse
Data Warehouse
 
2019-2 - BD I - Aula 01 C - Introdução a Banco de Dados
2019-2 - BD I - Aula 01 C - Introdução a Banco de Dados2019-2 - BD I - Aula 01 C - Introdução a Banco de Dados
2019-2 - BD I - Aula 01 C - Introdução a Banco de Dados
 
Aula1 - Apresentação de Banco de Dados
Aula1 - Apresentação de Banco de DadosAula1 - Apresentação de Banco de Dados
Aula1 - Apresentação de Banco de Dados
 

Similaire à Arquitetura e Processamento de Dados em Tempo Real.

Aula tecnologia da informacao 6 banco de dados
Aula tecnologia da informacao 6 banco de dadosAula tecnologia da informacao 6 banco de dados
Aula tecnologia da informacao 6 banco de dados
wapiva
 
Concepcao de banco_de_dados-aula_1
Concepcao de banco_de_dados-aula_1Concepcao de banco_de_dados-aula_1
Concepcao de banco_de_dados-aula_1
Carlos Melo
 

Similaire à Arquitetura e Processamento de Dados em Tempo Real. (20)

Como Evitar que o seu Data Lake vire um Data Swamp
Como Evitar que o seu Data Lake vire um Data SwampComo Evitar que o seu Data Lake vire um Data Swamp
Como Evitar que o seu Data Lake vire um Data Swamp
 
SQL SAT Salvador - Arquitetando Data Lake Multicloud
SQL SAT Salvador - Arquitetando Data Lake MulticloudSQL SAT Salvador - Arquitetando Data Lake Multicloud
SQL SAT Salvador - Arquitetando Data Lake Multicloud
 
TDC - Planejando data Lake com big data clusters
TDC - Planejando data Lake com big data clustersTDC - Planejando data Lake com big data clusters
TDC - Planejando data Lake com big data clusters
 
Aula III: Informática em Saúde- UnB-FGA/Gama
Aula III: Informática em Saúde- UnB-FGA/GamaAula III: Informática em Saúde- UnB-FGA/Gama
Aula III: Informática em Saúde- UnB-FGA/Gama
 
SLIDE 1 PARTE 01 - BANCO DE DADOS.pptx
SLIDE 1 PARTE 01 - BANCO DE DADOS.pptxSLIDE 1 PARTE 01 - BANCO DE DADOS.pptx
SLIDE 1 PARTE 01 - BANCO DE DADOS.pptx
 
Introdução.pdf
Introdução.pdfIntrodução.pdf
Introdução.pdf
 
Introdução ao Banco de dados - Prof. Daniel Brandão
Introdução ao Banco de dados - Prof. Daniel BrandãoIntrodução ao Banco de dados - Prof. Daniel Brandão
Introdução ao Banco de dados - Prof. Daniel Brandão
 
Stream de dados e Data Lake com Debezium, Delta Lake e EMR
Stream de dados e Data Lake com Debezium, Delta Lake e EMRStream de dados e Data Lake com Debezium, Delta Lake e EMR
Stream de dados e Data Lake com Debezium, Delta Lake e EMR
 
Dremio - Construção de Data Lake
Dremio - Construção de Data LakeDremio - Construção de Data Lake
Dremio - Construção de Data Lake
 
Conceitos Base_de_Dados.pdf
Conceitos Base_de_Dados.pdfConceitos Base_de_Dados.pdf
Conceitos Base_de_Dados.pdf
 
Armazenamento de dados Sistema de Informacao
Armazenamento de dados   Sistema de InformacaoArmazenamento de dados   Sistema de Informacao
Armazenamento de dados Sistema de Informacao
 
Sistemas de Informação - Aula05 - cap5 bd e business intelligence
Sistemas de Informação - Aula05 - cap5 bd e business intelligenceSistemas de Informação - Aula05 - cap5 bd e business intelligence
Sistemas de Informação - Aula05 - cap5 bd e business intelligence
 
Aula tecnologia da informacao 6 banco de dados
Aula tecnologia da informacao 6 banco de dadosAula tecnologia da informacao 6 banco de dados
Aula tecnologia da informacao 6 banco de dados
 
BANCO DE DADOS RELACIONAIS
BANCO DE DADOS RELACIONAIS BANCO DE DADOS RELACIONAIS
BANCO DE DADOS RELACIONAIS
 
Concepcao de banco_de_dados-aula_1
Concepcao de banco_de_dados-aula_1Concepcao de banco_de_dados-aula_1
Concepcao de banco_de_dados-aula_1
 
Banco de dados aula 2
Banco de dados  aula 2Banco de dados  aula 2
Banco de dados aula 2
 
Big data
Big dataBig data
Big data
 
eduardo teste ubc
eduardo teste ubceduardo teste ubc
eduardo teste ubc
 
Aula banco de dados
Aula banco de dadosAula banco de dados
Aula banco de dados
 
Glossario de T.I
Glossario de T.IGlossario de T.I
Glossario de T.I
 

Plus de Paulo Ricardo Santos

Plus de Paulo Ricardo Santos (12)

Data Storytelling - Power BI
Data Storytelling - Power BIData Storytelling - Power BI
Data Storytelling - Power BI
 
Big Data: O que é? e por onde começar?
Big Data: O que é? e por onde começar?Big Data: O que é? e por onde começar?
Big Data: O que é? e por onde começar?
 
Desmistificando o Big Data com o Microsoft Azure HD Insight + Power BI
Desmistificando o Big Data com o Microsoft Azure HD Insight + Power BIDesmistificando o Big Data com o Microsoft Azure HD Insight + Power BI
Desmistificando o Big Data com o Microsoft Azure HD Insight + Power BI
 
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
ARQUITETURA LAMBDA EM BIG DATA E PROCESSAMENTO EM TEMPO REAL COM STREAM ANALY...
 
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
Processamento de dados em tempo real com Azure IoT Hub, Stream Analytics e Po...
 
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no KibanaIntrodução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
Introdução ao Elastic Stack - Criando seu primeiro Dashboard no Kibana
 
¿Cómo influye el Internet de las cosas en nuestra vida? Y como crear su prim...
¿Cómo influye el Internet de las cosas en nuestra vida?  Y como crear su prim...¿Cómo influye el Internet de las cosas en nuestra vida?  Y como crear su prim...
¿Cómo influye el Internet de las cosas en nuestra vida? Y como crear su prim...
 
Arquitetura lambda
Arquitetura lambdaArquitetura lambda
Arquitetura lambda
 
Iot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Iot e Big Data na Indústria 4.0: O Futuro da Indústria ConectadaIot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
Iot e Big Data na Indústria 4.0: O Futuro da Indústria Conectada
 
Monitorando ambiente de micro serviços em tempo
Monitorando ambiente de micro serviços em tempoMonitorando ambiente de micro serviços em tempo
Monitorando ambiente de micro serviços em tempo
 
Iot e Big Data na Indústria 4.0
Iot e Big Data na Indústria 4.0Iot e Big Data na Indústria 4.0
Iot e Big Data na Indústria 4.0
 
Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI
Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBIDesmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI
Desmistificando o Big Data com o Microsoft Azure HDInsight + PowerBI
 

Arquitetura e Processamento de Dados em Tempo Real.

  • 1. ARQUITETURA E PROCESSAMENTO DE DADOS EM TEMPO REAL
  • 2. SOBRE MIM Paulo Ricardo Santos Pós-Graduado Business intelligence pauloricardodba@gmail.com Linkedin: pauloricardovds
  • 3. AGENDA  Data Lake x Data Warehouse  Arquitetura de Business Intelligence  Introdução ao Big Data  Arquitetura Big Data - Lambda  Demo
  • 4. DEFINIÇÃO DE DATA LAKE “If you think of a datamart as a store of bottled water – cleansed and packaged and structured for easy consumption – the data lake is a large body of water in a more natural state. The contents of the data lake stream in from a source to fill the lake, and various users of the lake can come to examine, dive in, or take samples.” Segundo Tamara Dull: Um Data Lake é um repositório de armazenamento que contém uma grande quantidade de dados brutos em seu formato nativo, incluindo dados estruturados, semi-estruturados e não estruturados. A estrutura e os requisitos de dados não são definidos até que os dados sejam necessários.
  • 7. NÃO CUSTA NADA LEMBRAR? Big Data é o termo que descreve o imenso volume de dados – estruturados e não estruturados – que impactam os negócios no dia dia. Mas o importante não é a quantidade de dados, e sim o que as empresas fazem com os dados que realmente importam.
  • 8. BIG DATA 3 V’S Velocidade VolumeVariedade
  • 9.
  • 10. ARQUITETURA LAMBDA Nathan Marz Engenheiro em Twitter Criador do projeto open-source: Storm and Cascalog
  • 11. ARQUITETURA LAMBDA Batch layer Master dataset New Data ? Query ? Query? Query Speed layer Real-time view Real-time view Serving layer Batch view Batch view
  • 12. DEMO
  • 13. OBRIGADO! Paulo Ricardo Santos pauloricardodba@gmail.com Linkedin: pauloricardovds Blog: medium.com/@pauloricardovds