Cours Big Data Chap5

1
Chapitre 5
NoSQL
Amal ABID – Cours GI3 ENIS

SQL
Il était une fois
2Amal ABID – Cours GI3 ENIS

CLI_ID
PAN_ID
Modèle de données relationnel

SQL
• Un langage de requête plus ou moins normé.
• Tout information est décrite par des listes de n-uplets
• Opérations puissantes :
– Sélection (where)
– Projection (select)
– Produit cartésien (join)
– Union
– Intersection
– Différence

Transactions ACID
• Pas de modification partielle : Une transaction est une unité logique de travail qui
doit être achevée soit avec la totalité de ses modifications de données ou aucune
d'entre elles n'est effectuée.
Atomique (Atomic)
• A la fin de la transaction, les données doivent être dans un état cohérent.
• Assuré par les contraintes d’intégrités.
• Mais aussi et surtout par le développeur.
Cohérente (Consistant)
• Les modifications d’une transaction doivent être indépendantes des autres
transactions : Les modifications ne sont pas visibles par les autres tant que la
transaction n’a pas été validée.
Isolées
• Une fois validés, les données sont permanentes jusqu’à leur prochaine modification.
Durable

Marché mature
• Utilisé depuis des dizaines d’années
• De nombreux fournisseurs et de nombreux outils :
– Oracle
– SQL Server
– Mysql
– Postgresql
– MariaDB (clone de Mysql)
– MS Access

Bases de données relationnelles
7
• Entités - relation
• Simple
• Universel
Modèle
• SQL
• Puissant
• Ad-hoc
Requête
• ACIDTransaction
• Utilisé massivement
• Nombreux moteurs sur le marché
• Nombreux outils
Maturité

Mise en œuvre d’un SGBD-R (1/4)
8
Serveur Applicatif
Base de données
HTTP
JDBC

9
Serveurs Applicatifs
Base de données
HTTP JDBC

10
Serveurs Applicatifs
Base de données
HTTP JDBC

11
Base de données
HTTP
JDBC
Scalabilité verticale

Montée en charge difficile
• Les règles d’intégrité compliquent la montée horizontale
• Montée en charge verticale
– Coût non linéaire
– Atteint une limite
– Point unique de défaillance
Scalabilité horizontale
difficile

Coût des transactions ACID
• La lecture est éparpillée
– Lecture d’un panier de N articles
– 2 requêtes
– 2 IO pour lire le panier
– N+1 IO pour les articles
• L’écriture est lente
– IO synchronisés
• La durée d’une requête est difficile à prévoir
– Select * from t where id = ?
– Select * from t where date < (select max(date) from ot)

Le modèle Entité Relation peu exploité
• Le modèle Entité-Relation est souvent peu exploité
• Utilisation du CRUD
• Utilisation de caches
– Memcache
– Ehcache
• Correspondance ORM
– C’est le modèle objet qui est privilégié

Limites des SGBD classiques
• SGBD Relationnels offrent :
– Un système de jointure entre les tables permettant de construire des
requêtes complexes impliquant plusieurs entités.
– Un système d’intégrité référentielle permettant de s’assurer que les liens
entre les entités sont valides.
• Contexte fortement distribué : Ces mécanismes ont un coût considérable :
– Avec la plupart des SGBD relationnels, les données d’une BD liées entre
elles sont placées sur le même nœud du serveur.
– Si le nombre de liens important, il est de plus en plus difficile de placer les
données sur des nœuds différents.
• SGBD Relationnels sont généralement transactionnels ⇒ Gestion de
transactions respectant les contraintes ACID (Atomicity, Consistency, Isolation,
Durability).

• Constat :
– Essor des très grandes plate-formes et applications Web (Google, Facebook,
Twitter, LinkedIn, Amazon,...).
– Volume considérable de données à gérer par ces applications nécessitant une
distribution des données et leur traitement sur de nombreux serveurs.
– Ces données sont souvent associées à des objets complexes et hétérogènes.
⇒ Limites des SGBD traditionnels (relationnels et transactionnels) basés sur
SQL.
⇒ D’où, nouvelles approches de stockage et de gestion des données :
 Permettant une meilleure scalabilité dans des contextes fortement
distribués.
 Permettant une gestion d’objets complexes et hétérogènes sans avoir à
déclarer au préalable l’ensemble des champs représentant un objet.
 Regroupées derrière le terme NoSQL (Not Only SQL), proposé par Carl
Strozzi, ne se substituant pas aux SGBD Relationnels mais les complètant
en comblant leurs faiblesses.

• Nécessaire de distribuer les traitements de données entre diﬀérents serveurs.
• Diﬃcile de maintenir les contraintes ACID à l’échelle du système distribué
entier tout en maintenant des performances correctes.
⇒ La plupart des SGBD NoSQL relâchent les contraintes ACID, ou même ne
proposent pas de gestion de transactions.
• BDs NoSQL :
– Ce n’est pas (comme son nom le laisse supposer) NoSQL (pas de SQL).
– Privilégier donc NOSQL plutôt que NoSQL.
• BDsnon-relationnelles et largement distribuées.
• Permet une analyse et une organisation rapides des données de très grands
volumes et de types de données disparates.
• Appelées également :
– Cloud Databases.
– Non-Relational Databases.
– Big Data Databases...

NOT ONLY SQL
Repenser les bases de données

Pourquoi NoSQL ? (1/3)
21
Big User :

22
Big Data (Gros volumes de données + variété) :

23
Montée en charge (1/2) :

24
Montée en charge (2/2) :

Généralité : Montée en charge linéaire
• Deux critères
– Volume des données
– Nombre de requêtes
• Twitter
– Janvier 2010 : 50 M/j
– Juin 2011 : 200 M/j
• Le coût doit augmenter linéairement

Généralité : Performances - temps d’accès
Il est plus rapide d’interroger une autre machine que de lire
sur le disque local
26
•10 nsMémoire
•50 µsRéseau
local
•10 msDisque

Généralité : Performances prédictibles
• La performance des opérations doit être prédictible
• Amazon :
– Perte de 1 % de chiffre d’affaire si le temps d’affichage des
pages augmente de 0,1 s
– Plan qualité interne : Temps de réponse doit être < 300 ms pour
99,9 % des requêtes pour un pic de 500 requêtes par secondes
• Google pénalise les sites dont les pages s’affichent en plus de
1,5 s

Généralité : Prise en compte des pannes
• La panne est la règle
• Amazon :
– Un Datacenter de 100 000 disques.
– Entre 6 000 et 10 000 disques en panne par an.
– (25 disques par jour).
• Les sources de panne sont nombreuses
– Matériel serveur (disque)
– Matériel réseau
– Alimentation électrique
– Anomalies logicielles
– Mises à jour des logiciels et des OS.

Théorème CAP (1/5)
• Après la modification d’une donnée, tous les
clients lisent la nouvelle valeur.
Consistency
(Cohérence)
• Le système répond toujours aux requêtes dans un
temps borné (timeout)
Avalibility
(Disponibilité)
• Le système continue à fonctionner si le réseau
qui relie les nœuds est scindé en deux.
• La chute d’un nœud est une forme particulière
de partition.
Partition Tolerance
(Tolérance aux
pannes)
Théorème CAP
« You can have at most two of these properties for any sharded-data
system. » Eric A. Brewer — 19 juillet 2000
Vous devez comprendre le théorème de la CAP lorsque vous parlez de bases de
données NoSQL ou en fait lors de la conception de tout système distribué.

• En théorie, il est impossible de satisfaire à toutes les 3 exigences.
• CAP oblige un système distribué de suivre 2 des 3 exigences.
• Par conséquent, tous les bases de données actuelles NoSQL
suivent les différentes combinaisons de C, A, P du théorème CAP.
• Voici une brève description des trois combinaisons CA, CP, AP :
– CA – Situés dans un cluster unique, tous les nœuds sont toujours
en contact. Lorsqu'une partition se produit, le système bloque.
– CP - Certaines données peuvent ne pas être accessibles, mais le
reste est toujours conforme/précis.
– AP - Le système est toujours disponible sous le partitionnement,
mais quelques-unes des données renvoyées peuvent être
inexacts/imprécises.
30

31
CA
• Perte de message
détectée
• L’écriture échoue
CP
• Attente et rejet
jusqu’à ce que le
message soit
transmis
• Réponse
potentiellement
trop tardive
AP
• Validation de
l’écriture
• État incohérent
Exemple :
Illustration: Après qu’un premier utilisateur modifie une valeur sur l’un des noeuds du
système, un second utilisateur voulant lire cette valeur sur un autre noeud doit attendre
leur synchronisation pour garantir la cohérence. Or, ce temps incompressible d’attente, sur
un système très chargé et très vaste, va considérablement influencer la disponibilité
(exemple poste : cohérence plutôt que disponibilité).

32
Illustration:
• Supposons que soit assuré par réplication consistance et disponibilité, dans le cas de
l’exemple, supposons 2 serveurs de BD dans 2 Data-Centers diﬀérents, et que l’on perde la
connexion réseau entre les 2 Data-Centers, faisant que les 2 BD sont incapables de
synchroniser leurs états.
• Si vous parvenez à gérer les opérations de lecture/écriture sur ces 2 BD, il peut être prouvé
que les 2 serveurs ne seront plus consistants.
• Une application bancaire gardant à tout moment l’état de votre compte est l’exemple parfait
du problème des enregistrements inconsistants :
- Si un client retire 1000 dinars à Tunis, cela doit être
immédiatement répercuté à Sfax, aﬁn que le système sache
exactement combien il peut retirer à tout .
- Si le système ne parvient pas à le faire, cela
pourrait mécontenter de nombreux clients.
• Si les banques décident que la consistance est très
importante, et désactivent les opérations d’écriture lors de la
panne, alors la disponibilité du cluster sera perdu puisque
tous les comptes bancaires dans les 2 villes seront désormais
gelés jusqu’à ce que le réseau soit de nouveau opérationnel.

33
Consistency
Avalibility
Partition
Tolerance
CA CP
AP
SQL / RDBMS
SQL Server
Oracle
MySQL
NoSQL
CouchDB
Cassandra
NoSQL
HBase
MongoDB

34
Exemple Choix d’Amazon
Lors qu’un client clique
sur le bouton « acheter »
Faut-il ?

• L'acronyme de BASE a été définie par Eric Brewer, qui est également connu pour
formuler le théorème CAP. Le théorème CAP affirme que tout système à état
partagé en réseau ne peut avoir que deux des trois propriétés désirables.
• Néanmoins, en gérant explicitement les partitions, les concepteurs peuvent
optimiser la cohérence et la disponibilité, atteignant ainsi un compromis des trois.
• Propriétés BASE
– Basically Available: le système doit toujours être accessible (ou indisponible
sur de courtes périodes)
– Soft state: l’état de la BD n’est pas garanti à un instant donné (les mises à jour
ne sont pas immédiates : cf. cohérence à terme)
– Eventual consistency: la cohérence des données à un instant donné n’est pas
primordiale (mais assurée à terme : verrouillage optimiste en reportant à plus
tard la vérification de l’intégrité)
• Les systèmes étendus modernes et à grande échelle, y compris le cloud, utilisent
l’approche BASE combinée par l’approche ACID.
BASE

36
ACID vs BASE
ACID
• Atomique
• Cohérent
• Isolé
• Durable
• Cohérence forte
• Transactions
• Schéma
• Évolutions difficiles
BASE
• Basiquement diponible
• Souple état
• Eventuelle consistence
• Cohérence faible
• Procédure de réconciliation
• Pas de schéma
• Évolutions faciles
• Rapide
• Favorise la disponibilité
Continuum

• Définition
– SGBD non fondé sur l’architecture des SGBDR, open source, distribué, horizontally
scalable (montée en charge par ajout de serveurs)
• Origine
– « Les SGBDR en font trop, alors que les produits NoSQL font exactement ce dont vous
avez besoin » selon J. Travis (lors de la rencontre meetup NoSQL de San Francisco du
11/6/2009)
– Gestion des BD géantes des sites web de très grande audience
– Exemple des SGBD d’annuaires : grande majorité des accès aux BD consistent en lectures
sans modification (ainsi, seule la persistance doit être vérifiée)
• « Consensus » actuel
– Les SGBD NoSQL ne replacent pas les SGBDR mais les complètent en palliant leurs
faiblesses
• UnQL (Unstructured Query Language)
– 2011 : début d’une spécification d’un langage de manipulation standardisé (pour formaliser
le requêtage des collections des BD NoSQL) 37
SGBD NoSQL (1/3)

• Simplification en renonçant aux fonctionnalités classiques des SGBDR :
– Redondance (via réplication)
– Pas forcément de schéma normalisé, initialement voire à terme
– Pas de tables mais des collections
– Rarement du SQL (L4G déclaratif, complet au sens de Turing depuis SQL-99)
mais API simple ou langage spécialisé
– Pas forcément de jointure mais multiplication des requêtes,
cache/réplication/données non normalisées, données imbriquées
– Transactions pas forcément ACID mais plutôt BASE
– P s’impose pour un système distribué : AP (accepte de recevoir des données
éventuellement incohérentes) voire CP (attendre que les données soient
cohérentes)
38
SGBD NoSQL (2/3)

• Gestion des mégadonnées (big data) du web, des objets connectés, etc.
• Structure des données hétérogène et évolutive
• Données complexes et pas toujours renseignées
• Environnement distribué : données répliquées et accédées d’un peu partout (dans le monde),
traitement répartis
• Techniques de partionnement des BD : sharding, hachage cohérent (consistent hashing)
• Contrôle de concurrence multi-version (Multi-Version Concurrency Control (MVCC))
– Modification d’une donnée non par écrasement des anciennes données par les nouvelles
mais en indiquant que les anciennes données sont obsolètes et en ajoutant une nouvelle
version (seule la plus récente étant correcte) … ce qui nécessite une purge régulière des
données obsolètes
• Performances linéaires avec la montée en charge (les requêtes obtiennent toujours aussi
rapidement une réponse) 39
SGBD NoSQL (3/3)

• Il existe quatre types courants des bases de données NoSQL. Chacune de
ces catégories a ses spécifiques attributs et limites. Il n'y a pas une solution
qui est mieux que tous les autres, mais il y a certaines bases de données qui
sont mieux pour résoudre à certains problèmes.
• Afin de clarifier les bases de données NoSQL, nous discuterons les
catégories les plus courantes :
– Clef-valeur
– Bases orientées colonnes
– Bases orientées documents
– Graphe
40
NoSQL Catégories - Présentation

• Définition
– BD = 1 tableau associatif unidimensionnel
– Le stockage clé-valeur est le type le plus élémentaire de base de données NoSQL.
– Chaque objet de la base représenté par un couple (clé,valeur) est identifié par une
clé unique qui est le seul moyen d’accès à l’objet
– Les clés sont triées en ordre lexicographique
– Les stockages clé-valeur suivent les aspects CA du théorème CAP.
• Opérations
– Les 4 opérations CRUD :
• create(clé,valeur) : crée un couple (clé,valeur)
• read(clé) : lit une valeur à partir de sa clé
• update(clé,valeur) : modifie une valeur à partir de sa clé
• delete(clé) : supprime un couple à partir de sa clé
– Souvent interface HTTP REST disponible depuis n'importe quel langage 41
NoSQL Catégories - Clef-valeur (1/6)

• Cas d’utilisation
– Dépôt de masses de données avec des besoins de requêtage simple pour des
analyses en temps-réel: sessions web et fichiers de log, profils utilisateurs,
données de capteurs, gestion de caches, contenu du panier de shopping, valeurs
individuelles comme les couleurs, numéro de compte par défaut, etc.
• Logiciels
– Amazon Dynamo (Riak est l’implémentation open source).
– Redis (projet sponsorisé par VMWare).
– Voldemort (développé par Linkedln en interne puis passage en open source).
– Oracle NoSQL Database
• Types
– Les données de base de données sont stockées comme table de hachage où chaque
clef est unique et la valeur peut être String, Objet sérialisé, BLOB (basic large
object) etc.
– Une clé peut être Strings, Hashes, Lists, Sets, Sorted Sets et les valeurs sont
stockées contre ces clés.

43
Clef Valeur
- Simple / Répartition facile
- Très performant / Requêtes
optimales à temps constants /
Performances prédictibles
- Disponibilité
- Bonne mise à l’échelle /
Evolutivité des valeurs
- Convient parfaitement à
l’utilisation d’un cache
- Interrogation seulement sur la clé
- Complexité des valeurs à gérer
dans les programmes
- Pas de requêtes Adhoc ni filtres
complexes
- Toutes les jointures doivent être
faites dans le code
- Pas de contraintes
- Pas de triggers
Critiques

44
Schéma des données

45
Exemple 1 :

46
Exemple 2 :

• Définition
– Données stockées en colonnes.
– C’est une évolution de la BD clé/valeur.
– La colonne est l’entité de base représentant un champ de
donnée, chaque colonne est définie par un couple (clé,valeur)
avec une estampille (pour gérer les versions et les conflits)
NoSQL Catégories - Orientées colonnes (1/8)
− Une super-colonne est une colonne contenant d’autres colonnes
− Une famille de colonnes regroupe plusieurs colonnes ou supercolonnes où les
colonnes sont regroupées par ligne et chaque ligne est identifiée par un identifiant
unique et par un nom unique
− Les stockages orientés colonnes peuvent améliorer les performances des requêtes
car ils peuvent accéder à des données spécifiques d’une colonne.
− Modèle proche d’une table dans un SGBDR mais ici le nombre de colonnes :
− est dynamique.
− peut varier d’un enregistrement à un autre ce qui évite de retrouver des colonnes
ayant des valeurs NULL.
− Les notions de colonne, super-colonne et famille de colonnes seront détaillées dans
le chapitre suivant « HBase: BD orientée colonne ». 47

• Opérations
− Les requêtes doivent être prédéfinies en fonction de l’organisation en colonnes (et
super-colonnes et familles de colonnes) choisie.
– Analyse de données, traitement analytique en ligne (OnLine Analytical Processing
(OLAP)), exploration de données (data mining), entrepôt de données (data
warehouse), gestion de données semi-structurées, jeux de données scientifiques,
génomique fonctionnelle, journalisation d’événements et de compteurs, analyses de
clientèle et recommandation, stockage de listes (messages, posts, commentaires, ...),
traitements massifs
– Ex. : Netflix (logging et analyse de sa clientèle), eBay Inc. (optimisation de la
recherche), Adobe Systems Incorporated (traitement de données structurées et
d’informatique décisionnelle (Business Intelligence (BI))), sociétés de TV
(connaissance de leur audience et gestion du vote des spectateurs)
• Logiciels
– BigTable, HBase, Cassandra, SimpleDB

49
- Bonne mise à l’échelle horizontale.
- Efficace avec l’indexation sur les
colonnes et pour des requêtes temps-réel
connues à l’avance.
- Supporte des données tabulaires à
schéma variable et des données semi-
structurées (facile d’ajouter/fusionner des
colonnes et d’ajouter une colonne/super-
colonne à n’importe quelle ligne d’une
colonne/super-colonne).
- Nombre de colonnes dynamique
(variable d’un enregistrement à un autre
permettant d’éviter les indéterminations)
- Ne supporte pas les données
structurées complexes ou
interconnectées.
- Maintenance nécessaire pour la
modification de structure en
colonne.
- Ajout de ligne couteux.
- Requêtes doivent être pré-écrites.
faites dans le code
- Pas de triggers
Critiques

• Les notions de colonnes et famille de colonnes seront détaillées dans le chapitre
suivant « HBase: BD orientée colonne ».

Exemple 1 :
51

52
Exemple 2 :

53
 Une colonne pourrait rassembler plusieurs données stockées dans des lignes
qui s'étendent sur plusieurs tables d'une base de données relationnelle.
Exemple 3 :

54
Exemple 4 :

• Définition
– BD = collection de documents
– Modèle clé-valeur où la valeur est un
document (lisible par un humain) au format
semi-structuré hiérarchique (XML, YAML,
JSON ou BSON, etc.)
– Document (structure arborescente) =
collection de couples (clé,valeur)
− Un document est un ensemble de clé-valeur où la clé permet d'accéder à sa valeur.
− Valeur de type simple ou composée de plusieurs couples (clé,valeur)
− Les documents ne sont pas généralement forcés d'avoir un schéma. Ils sont donc
flexibles et faciles à modifier.
− Pouvoir de récupérer, via une seule clé, un ensemble d’informations structurées de
manière hiérarchique
− Dans les bases relationnelles, cela impliquerait plusieurs jointures.
NoSQL Catégories - Orientées documents (1/6)
55

• Opérations
− Les opérations CRUD du modèle clé-valeur
− Souvent interface HTTP REST disponible
− Requêtage (API ou langage) possible sur les valeurs des documents
– Outils de gestion de contenu (Content Management System (CMS)), catalogues de
produits, web analytique, analyse temps réel, enregistrement d’événements,
stockage de profils utilisateurs, systèmes d’exploitation, gestion de données semi-
structurées
• Logiciels
– CouchDB, RavenDB, MongoDB, Terrastore
56

57
- Performances élevées
- Bonne mise à l’échelle
- Modèle simple augmenté de la
richesse des documents semi-
structurés.
- Expressivité des requêtes
- Schéma de BD évolutif, efficace pour
les interrogations par clé
- Peut être limité pour les
interrogations par le contenu des
documents.
- Limité aux données hiérarchiques,
inadapté pour les données
interconnectées, baisse des
performances pour de grandes
requêtes.
faites dans le code
- Pas de triggers
Critiques

58

59
Exemple 1 :

60
Exemple 2 :
 Un document JSON pourrait, par exemple, prendre toutes les données
stockées dans une ligne qui s'étend sur 20 tables d'une base de données
relationnelle et de les regrouper dans un seul document/objet.

• Définition
– Une base de données de type graphe stocke
les données dans un graphe.
– Elle est basée sur les théories des graphes.
– Elle est capable de représenter élégamment
n'importe quel type de données d'une
manière hautement accessible.
− La gestion d’un graphe (a priori orienté) c.-à-d. la modélisation, le stockage et la
manipulation de données complexes liées par des relations non-triviales ou
variables
− Chaque nœud représente une entité (comme un étudiant ou une entreprise) et
chaque arc représente un lien ou relation entre deux nœuds.
− Quand le nombre de nœuds augmente, le coût d'une étape local (ou hop) reste
le même.
− Conçues pour les données dont les relations sont représentées comme graphes,
et ayant des éléments interconnectés, avec un nombre indéterminé de relations
entre elles.
− Adapté aux traitements des données des réseaux sociaux
NoSQL Catégories - Graphe (1/8)
61

• Opérations
− SPARQL pour les SGBD NoSQL Graphe RDF
− API et langages spécialisés de programmation et de requêtes sur les graphes
– Moteurs de recommandation, informatique décisionnelle, web sémantique, internet
des objets (internet of things (IoT)), sciences de la vie et calcul scientifique
(bioinformatique, …), données géospatiales, données liées, données hiérarchiques
(catalogue des produits, généalogie, …), réseaux sociaux, réseaux de transport,
services de routage et d’expédition, services financiers (chaîne de financement,
dépendances, gestion des risques, détection des fraudes, …), données ouvertes
(open data)
• Logiciels
– Neo4J, OrientDB, Titan
62

63
Modèle relationnelle
• Tables
• Lignes
• Colonnes
• Jointure
Modèle de graphe
• Ensemble de sommets
et des arêtes.
• Sommets
• Paires clef-valeur
• Arrêtes

64
- Modèle riche et évolutif
- Bien adapté aux situations
où il faut modéliser
beaucoup de relations.
- Nombreux langages et API
bien établis et performants
- Répartition des données
peut être problématique
pour de gros volumes de
données, fragmentation
(sharding)
Critiques

65

66
• Bases qui permettent d’étudier globalement les relations entre entités.
Exemple 1 : Graphe social

Exemple 2 :

68
Exemple 3 :

• Les applications interactives ont beaucoup évolué ces 15 dernières années,
tout particulièrement la gestion des données de ces applications. Le Big Data,
le nombre d'utilisateur croissant (Big Users) et l'architecture Cloud sont à la
source de l'adoption du NoSQL.
• NoSQL s'impose de plus en plus comme une solution alternative viable aux
base de données relationnelles; de plus en plus d'entreprises reconnaissent
que le déploiement d'applications à grande échelle est meilleure lorsqu'il est
fait sur un cluster standard utilisant du matériel "commodité", et sans schéma
de donnée.
69
Conclusion

70
Annexe (1/4)

71
Annexe (2/4)

Montée en charge difficile
SGBDR
NoSQL
Scalabilité
horizontale
difficile
Scalable

73
NoSQL
Annexe (4/4)

Cours Big Data Chap5

Recommandé

Recommandé

Contenu connexe

Tendances

Tendances (20)

Similaire à Cours Big Data Chap5

Similaire à Cours Big Data Chap5 (20)

Dernier

Dernier (7)

Cours Big Data Chap5