SlideShare une entreprise Scribd logo
1  sur  15
Indexer la terre entière
un projet fou ?
Plus aujourd’hui !
Nicolas Colomer
OCTOTechnology
@n_colomer
Panorama de la carto web
OpenStreetMap
Cayenne, Guyane
OpenStreetMap
OSM en quelques chiffres
• 45 serveurs officiels
• 1M+ de contributeurs
• 2Md+ d’objets géographique
• 3.4Md+ de point GPS uploadés
• OSM data = 370Go & tiles = 1.2To
Data primitives
• Node = POI
• Way = liste ordonnée de [2, 2000] nodes
• Relation = liste ordonnée de nodes + ways
Open polyline : autoroute, route, chemin, …
Closed polyline : rond-point, …
Area : bâtiment, parc, lac, …
Meta-données + conventions
Attention : nuage (vraiment pas) exhaustive !
taginfo.openstreetmap.org
Exploiter les données
OSM files
XML
dumps ou diff
planet ou extract
relationel !
Outils / ETL
Osmosis
osm-history-splitter
Osmconvert
…
Stockage
PostgreSQL
PostGIS
1 2 3
boring installation
boring tuning
boring import
complicated search !
?
Peut-on faire autrement ?
Volumétrie ?
NoSQL
(geo)search ?
elasticsearch
• Geo PointType
– Distance Filter
– Polygon Filter
– Bounding Box Filter
– Distance Facets
• Geo ShapeType
– Query
– Filter
in 0.90.x
• within relation
• strategy impl
• index/search api
• more to come?
PrefixTree
grid layer #1
grid layer #2
grid layer #3
GeohashPrefixTree
1 layer = 32 rectangles
Max leve = 24
QuadPrefixTree
1 layer = 4 rectangles
Max level = 50
2 projets
pour jouer avec ces données
• github.com/ncolomer/elasticsearch-osmosis-plugin
An Osmosis plugin that index OpenStreetMap data
into elasticsearch
• github.com/ncolomer/discovery
An elasticsearch plugin to visualize indexed
OpenStreetMap data
elasticsearch-osmosis-plugin
• Osmosis = ETL spécialisé (Java)
– Filtres géographique (Bbox) / par tags
– Import / export PostgreSQL
– Change-set / comparaison / tri
• EOP = plugin Osmosis (Java)
– Conversion du model XML en document JSON
– Construit des index spécialisés
MappingOSM File (XML) Equivalent JSON
Démo

Contenu connexe

En vedette

Неделя российского бизнеса
Неделя российского бизнесаНеделя российского бизнеса
Неделя российского бизнесаBusinessofRussia
 
Media kit bisnessofrussia 24.07.2013
Media kit bisnessofrussia 24.07.2013Media kit bisnessofrussia 24.07.2013
Media kit bisnessofrussia 24.07.2013BusinessofRussia
 
соглашение государственные учреждения
соглашение государственные учреждениясоглашение государственные учреждения
соглашение государственные учрежденияBusinessofRussia
 
презентация быстрыи старт
презентация быстрыи   стартпрезентация быстрыи   старт
презентация быстрыи стартBusinessofRussia
 
7 презентация x и y
7 презентация x и y7 презентация x и y
7 презентация x и yBusinessofRussia
 
бизнесроссии приложение регион 22.07 (1)
бизнесроссии приложение регион 22.07 (1)бизнесроссии приложение регион 22.07 (1)
бизнесроссии приложение регион 22.07 (1)BusinessofRussia
 
Anzac Symbols World War 1
Anzac Symbols World War 1Anzac Symbols World War 1
Anzac Symbols World War 1Janis Hanley
 
презентация детская школа рспп
презентация детская школа рспппрезентация детская школа рспп
презентация детская школа рсппBusinessofRussia
 
энергосервисный контракт презентация зао нпо энергоресурс (1)
энергосервисный контракт  презентация зао нпо энергоресурс (1)энергосервисный контракт  презентация зао нпо энергоресурс (1)
энергосервисный контракт презентация зао нпо энергоресурс (1)BusinessofRussia
 
презентация мама предприниматель
презентация мама предпринимательпрезентация мама предприниматель
презентация мама предпринимательBusinessofRussia
 

En vedette (11)

Неделя российского бизнеса
Неделя российского бизнесаНеделя российского бизнеса
Неделя российского бизнеса
 
Media kit bisnessofrussia 24.07.2013
Media kit bisnessofrussia 24.07.2013Media kit bisnessofrussia 24.07.2013
Media kit bisnessofrussia 24.07.2013
 
соглашение государственные учреждения
соглашение государственные учреждениясоглашение государственные учреждения
соглашение государственные учреждения
 
презентация быстрыи старт
презентация быстрыи   стартпрезентация быстрыи   старт
презентация быстрыи старт
 
7 презентация x и y
7 презентация x и y7 презентация x и y
7 презентация x и y
 
4юдин рспп
4юдин рспп4юдин рспп
4юдин рспп
 
бизнесроссии приложение регион 22.07 (1)
бизнесроссии приложение регион 22.07 (1)бизнесроссии приложение регион 22.07 (1)
бизнесроссии приложение регион 22.07 (1)
 
Anzac Symbols World War 1
Anzac Symbols World War 1Anzac Symbols World War 1
Anzac Symbols World War 1
 
презентация детская школа рспп
презентация детская школа рспппрезентация детская школа рспп
презентация детская школа рспп
 
энергосервисный контракт презентация зао нпо энергоресурс (1)
энергосервисный контракт  презентация зао нпо энергоресурс (1)энергосервисный контракт  презентация зао нпо энергоресурс (1)
энергосервисный контракт презентация зао нпо энергоресурс (1)
 
презентация мама предприниматель
презентация мама предпринимательпрезентация мама предприниматель
презентация мама предприниматель
 

Similaire à Indexer la terre entière

Demo1: OpenStreetMap : le monde rue après rue
Demo1: OpenStreetMap : le monde rue après rueDemo1: OpenStreetMap : le monde rue après rue
Demo1: OpenStreetMap : le monde rue après rueteleparc
 
OpenStreetMap - Allons cartographier le monde - Fontenay le Comte
OpenStreetMap - Allons cartographier le monde - Fontenay le ComteOpenStreetMap - Allons cartographier le monde - Fontenay le Comte
OpenStreetMap - Allons cartographier le monde - Fontenay le ComteFrédéric Rodrigo
 
La cartographie Libre avec OpenStreetMap
La cartographie Libre avec OpenStreetMapLa cartographie Libre avec OpenStreetMap
La cartographie Libre avec OpenStreetMapFlorian Lainez
 
OpenStreetMap, une introduction
OpenStreetMap, une introductionOpenStreetMap, une introduction
OpenStreetMap, une introductionFrédéric Rodrigo
 
4/5 Osm 20141118-l2.2-collecte et contribution
4/5 Osm 20141118-l2.2-collecte et contribution4/5 Osm 20141118-l2.2-collecte et contribution
4/5 Osm 20141118-l2.2-collecte et contributionFrédéric Rodrigo
 
OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10
OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10
OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10Frédéric Rodrigo
 
PostGIS @ Pgday.eu 2009
PostGIS @ Pgday.eu 2009PostGIS @ Pgday.eu 2009
PostGIS @ Pgday.eu 2009Oslandia
 
Présentation rapide d'OpenStreetMap
Présentation rapide d'OpenStreetMapPrésentation rapide d'OpenStreetMap
Présentation rapide d'OpenStreetMapChristian Quest
 
Presentation OSM dans le contexte de l'Afrique de l'Ouest
Presentation OSM dans le contexte de l'Afrique de l'OuestPresentation OSM dans le contexte de l'Afrique de l'Ouest
Presentation OSM dans le contexte de l'Afrique de l'OuestSeverin Menard
 
5/5 Osm 20141118-l2.3-réutilisation
5/5 Osm 20141118-l2.3-réutilisation5/5 Osm 20141118-l2.3-réutilisation
5/5 Osm 20141118-l2.3-réutilisationFrédéric Rodrigo
 
Open streetmap pour CocoaHeads Paris
Open streetmap pour CocoaHeads ParisOpen streetmap pour CocoaHeads Paris
Open streetmap pour CocoaHeads ParisCocoaHeads France
 
OpenStreetMap, le monde rue après rue
OpenStreetMap, le monde rue après rueOpenStreetMap, le monde rue après rue
OpenStreetMap, le monde rue après rueFrédéric Rodrigo
 
OpenStreetMap pour les géomaticiens
OpenStreetMap pour les géomaticiensOpenStreetMap pour les géomaticiens
OpenStreetMap pour les géomaticiensAntoine Riche
 
OSM La Carte Libre du Monde
OSM La Carte Libre du MondeOSM La Carte Libre du Monde
OSM La Carte Libre du MondeSeverin Menard
 
OpenStreetMap : la carte libre du monde
OpenStreetMap : la carte libre du mondeOpenStreetMap : la carte libre du monde
OpenStreetMap : la carte libre du mondeSeverin Menard
 
OVH Summit 2016 - Map as a Service by Löic Ortola
OVH Summit 2016 - Map as a Service by Löic OrtolaOVH Summit 2016 - Map as a Service by Löic Ortola
OVH Summit 2016 - Map as a Service by Löic OrtolaJawg Maps
 
Présentation APRIL : L'open data
Présentation APRIL : L'open data Présentation APRIL : L'open data
Présentation APRIL : L'open data Ville de Toulouse
 

Similaire à Indexer la terre entière (20)

Osm 20141112-montesquieu
Osm 20141112-montesquieuOsm 20141112-montesquieu
Osm 20141112-montesquieu
 
Demo1: OpenStreetMap : le monde rue après rue
Demo1: OpenStreetMap : le monde rue après rueDemo1: OpenStreetMap : le monde rue après rue
Demo1: OpenStreetMap : le monde rue après rue
 
OpenStreetMap - Allons cartographier le monde - Fontenay le Comte
OpenStreetMap - Allons cartographier le monde - Fontenay le ComteOpenStreetMap - Allons cartographier le monde - Fontenay le Comte
OpenStreetMap - Allons cartographier le monde - Fontenay le Comte
 
La cartographie Libre avec OpenStreetMap
La cartographie Libre avec OpenStreetMapLa cartographie Libre avec OpenStreetMap
La cartographie Libre avec OpenStreetMap
 
OpenStreetMap, une introduction
OpenStreetMap, une introductionOpenStreetMap, une introduction
OpenStreetMap, une introduction
 
4/5 Osm 20141118-l2.2-collecte et contribution
4/5 Osm 20141118-l2.2-collecte et contribution4/5 Osm 20141118-l2.2-collecte et contribution
4/5 Osm 20141118-l2.2-collecte et contribution
 
OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10
OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10
OpenStreetMap - Allons cartographier le monde - Bordeaux BarCamp'10
 
PostGIS @ Pgday.eu 2009
PostGIS @ Pgday.eu 2009PostGIS @ Pgday.eu 2009
PostGIS @ Pgday.eu 2009
 
Présentation rapide d'OpenStreetMap
Présentation rapide d'OpenStreetMapPrésentation rapide d'OpenStreetMap
Présentation rapide d'OpenStreetMap
 
Presentation OSM dans le contexte de l'Afrique de l'Ouest
Presentation OSM dans le contexte de l'Afrique de l'OuestPresentation OSM dans le contexte de l'Afrique de l'Ouest
Presentation OSM dans le contexte de l'Afrique de l'Ouest
 
5/5 Osm 20141118-l2.3-réutilisation
5/5 Osm 20141118-l2.3-réutilisation5/5 Osm 20141118-l2.3-réutilisation
5/5 Osm 20141118-l2.3-réutilisation
 
Open streetmap pour CocoaHeads Paris
Open streetmap pour CocoaHeads ParisOpen streetmap pour CocoaHeads Paris
Open streetmap pour CocoaHeads Paris
 
OpenStreetMap, le monde rue après rue
OpenStreetMap, le monde rue après rueOpenStreetMap, le monde rue après rue
OpenStreetMap, le monde rue après rue
 
OpenStreetMap pour les géomaticiens
OpenStreetMap pour les géomaticiensOpenStreetMap pour les géomaticiens
OpenStreetMap pour les géomaticiens
 
Osmose-QA
Osmose-QAOsmose-QA
Osmose-QA
 
OSM La Carte Libre du Monde
OSM La Carte Libre du MondeOSM La Carte Libre du Monde
OSM La Carte Libre du Monde
 
OpenStreetMap : la carte libre du monde
OpenStreetMap : la carte libre du mondeOpenStreetMap : la carte libre du monde
OpenStreetMap : la carte libre du monde
 
OVH Summit 2016 - Map as a Service by Löic Ortola
OVH Summit 2016 - Map as a Service by Löic OrtolaOVH Summit 2016 - Map as a Service by Löic Ortola
OVH Summit 2016 - Map as a Service by Löic Ortola
 
Omd sotmfr
Omd sotmfrOmd sotmfr
Omd sotmfr
 
Présentation APRIL : L'open data
Présentation APRIL : L'open data Présentation APRIL : L'open data
Présentation APRIL : L'open data
 

Indexer la terre entière

  • 1. Indexer la terre entière un projet fou ? Plus aujourd’hui ! Nicolas Colomer OCTOTechnology @n_colomer
  • 2. Panorama de la carto web OpenStreetMap
  • 4. OSM en quelques chiffres • 45 serveurs officiels • 1M+ de contributeurs • 2Md+ d’objets géographique • 3.4Md+ de point GPS uploadés • OSM data = 370Go & tiles = 1.2To
  • 5. Data primitives • Node = POI • Way = liste ordonnée de [2, 2000] nodes • Relation = liste ordonnée de nodes + ways Open polyline : autoroute, route, chemin, … Closed polyline : rond-point, … Area : bâtiment, parc, lac, …
  • 6. Meta-données + conventions Attention : nuage (vraiment pas) exhaustive ! taginfo.openstreetmap.org
  • 7. Exploiter les données OSM files XML dumps ou diff planet ou extract relationel ! Outils / ETL Osmosis osm-history-splitter Osmconvert … Stockage PostgreSQL PostGIS 1 2 3
  • 8. boring installation boring tuning boring import complicated search ! ?
  • 9. Peut-on faire autrement ? Volumétrie ? NoSQL (geo)search ?
  • 10. elasticsearch • Geo PointType – Distance Filter – Polygon Filter – Bounding Box Filter – Distance Facets • Geo ShapeType – Query – Filter in 0.90.x • within relation • strategy impl • index/search api • more to come?
  • 11. PrefixTree grid layer #1 grid layer #2 grid layer #3 GeohashPrefixTree 1 layer = 32 rectangles Max leve = 24 QuadPrefixTree 1 layer = 4 rectangles Max level = 50
  • 12. 2 projets pour jouer avec ces données • github.com/ncolomer/elasticsearch-osmosis-plugin An Osmosis plugin that index OpenStreetMap data into elasticsearch • github.com/ncolomer/discovery An elasticsearch plugin to visualize indexed OpenStreetMap data
  • 13. elasticsearch-osmosis-plugin • Osmosis = ETL spécialisé (Java) – Filtres géographique (Bbox) / par tags – Import / export PostgreSQL – Change-set / comparaison / tri • EOP = plugin Osmosis (Java) – Conversion du model XML en document JSON – Construit des index spécialisés
  • 14. MappingOSM File (XML) Equivalent JSON
  • 15. Démo