Palestra realizada na edição presencial da Campus Party Goiás 2 em 2022.
Modern Data Stack é: Um conjunto flexível de tecnologias que ajudam as empresas a armazenar, gerenciar e aprender com seus dados de forma rápida e eficiente
Modern Data Stack - As tecnologias e práticas mais modernas atualmente em Big Data
1. 2 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at efficitur
tortor. Donec congue odio
bibendum
1 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at
efficitur tortor. Donec
congue odio bibendum
3 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at efficitur
tortor. Donec congue odio
bibendum
4 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at efficitur
tortor. Donec congue odio
bibendum
Modern Data Stack
As tecnologias e práticas mais modernas
atualmente em Big Data
2. 2 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at efficitur
tortor. Donec congue odio
bibendum
1 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at
efficitur tortor. Donec
congue odio bibendum
3 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at efficitur
tortor. Donec congue odio
bibendum
4 Ponto
Lorem ipsum dolor sit
amet, consec tetur
adipiscing elit. at efficitur
tortor. Donec congue odio
bibendum
➔ Tech Lead na Dadosfera;
➔ AWS Community Builder;
➔ Bacharel em Sistemas de Informação pelo IFG;
➔ Pós graduado em Big Data e Machine Learning
pela Fasam;
Cicero Moura
cicerojmm
/in/cicero-moura
3. Sobre o que vamos conversar?
◆ Big Data e Data Lake;
◆ Cenário atual em Big Data;
◆ O que Modern Data Stack? E porque
precisamos disso?
◆ Pilares do Modern Data Stack;
◆ Conceitos e Ferramentas;
◆ Dicas práticas da Área de Dados.
3
7. 7
Desafios Atuais
➔ Aumento na demanda por Data Analytics e Data
Science;
➔ Complexidade em integrar cada vez mais fontes
de dados;
➔ Tempo curto para desenvolvimento dos produtos
de dados;
➔ Pouca mão de obra qualificada no mercado.
9. 9
Modern Data Stack
“Um conjunto flexível de tecnologias que
ajudam as empresas a armazenar, gerenciar
e aprender com seus dados de forma rápida
e eficiente”.
10. 10
Modern Data Stack
O Modern Data Stack incorpora conceitos
como Data Mesh, Reverse ETL, Data Catalog
3.0, Product Teams e mais…
12. 12
Modern Data Stack
Não é apenas uma Buzzword!
➔ Amadurecimento da área de Dados;
➔ Tecnologias mais sólidas;
➔ Conceitos e práticas onde é possível formar o
Modern Data Stack.
17. 17
Modern Data Stack
Data Catalog 3.0
Ambiente Colaborativo para Governança de Dados:
➔ Catalogação de metadados;
➔ Documentação dos dados (datasets);
➔ Gestão dos Data Assets;
➔ Pesquisa e democratização dos dados;
19. 19
Modern Data Stack
Product Teams
Equipes de Dados têm a tendência de passar a se
preocupar não apenas em entregar uma pipeline,
mas quão bem estão atendendo as necessidades
do negócio.
20. 20
Modern Data Stack
Product Teams
O foco principal não é mais discutir como os dados
serão armazenados e sim como serão utilizados
pelo negócio.
21. 21
Modern Data Stack
Reverse ETL
Os dados que foram agregados no ambiente de Big
Data devem possuir a capacidade de voltar para os
sistemas transacionais e agregar valor na operação
do dia a dia (ERP, CRM, Ops).