Dans ce chapitre, vous découvrirez les notions de base du traitement par lots, centrées sur l’implémentation, la mise à l’échelle et les difficultés potentielles en situation réelle.

Introduction au traitement par lots

Caractéristiques d'un traitement par lots

Ordonnancement des lots

Mettre à l’échelle le traitement par lots

À l’échelle

Opposition horizontale

Problèmes liés aux traitements par lots

Scénarios de traitement par lots

Méthodes de traitement des données

Vous apprendrez ici les bases du streaming, du traitement de données piloté par événements, ainsi que ses avantages par rapport au traitement traditionnel par lots.

Introduction à l’informatique événementielle

En cas d’événement…

Bienvenue à l’événement !

Mise en file d’attente

Caractéristiques d’une file (queue)

Mettre en file d’attente ou non

Diffusion de données dans un système unique

Ordre du flux de journaux

Options de journalisation

Traitement par lots vs streaming

Lot, file d'attente ou flux ?

Processeur de flux de journaux

Introduction au streaming

Ce chapitre présente les concepts à l’origine des systèmes de streaming modernes, la façon de les mettre à l’échelle et certains écueils rencontrés lors de leur utilisation.

Introduction au streaming en temps réel

Caractéristiques

Temps réel

Non temps réel

Temps réel ?

Exigences

Est-ce bien du temps réel, cette fois ?

Mise à l’échelle verticale des systèmes de streaming

Raisons d’augmenter l’échelle

Options

S’améliorerait

Ne s’améliorerait pas

Pour mettre à l’échelle verticalement… ?

Mise à l’échelle horizontale des systèmes de streaming

Verticale

Horizontale

Mise à l’échelle horizontale

Aiderait à respecter le SLA

N’aiderait pas à respecter le SLA

Garanties SLA

Obstacles du streaming

Attributs

Vrai

Faux

Attributs du streaming

Séquences

Manquantes

Hors ordre

Retardées

Types de problèmes

Problèmes pour le streaming

Problèmes pour le batching

Défis du streaming

Systèmes de streaming

Dans ce dernier chapitre, vous découvrirez des systèmes de streaming courants et réfléchirez à la mise en œuvre du traitement de données en flux dans différents cas d’usage.

Systèmes de streaming populaires

Vérités sur le streaming

Croiser les flux...

Cas d’usage réel : service de musique en streaming

Composants d’un message

Répondez à ceci...

Cas d’usage réel : données de capteurs

Bon ordre des SLA

Considérations de mise à l’échelle des capteurs

Cas d’usage réel : centre de vaccination

Centre de vaccination – classer les zones

Un nouveau problème...

Félicitations !

Cas d’usage réels

Le streaming occupe aujourd’hui une place majeure dans le monde de la donnée et est utilisé par presque tous les secteurs, de l’industrie à la santé. Souhaitez-vous en savoir plus sur les concepts généraux derrière les pipelines de données et sur le fonctionnement de ces processus ?

Ce cours propose une introduction générale aux concepts de streaming, notamment le batching, la mise en file d’attente et le traitement de flux, ainsi que leur place dans les cadres de traitement de données. Il présente des exemples concrets de mise en œuvre du streaming en production. Il s’agit d’une introduction générale à ces notions et aucun bagage approfondi en traitement de données n’est requis.


Understanding Data Engineering

Découvrez la différence entre le traitement par lots et en flux, et leurs applications réelles.

Concepts de streaming

Différenciez le traitement par lots et le streaming, la mise à l'échelle des systèmes de streaming et les applications concrètes.

Ingénieur professionnel en données en Python

Un client doit réduire le temps nécessaire pour traiter un élément donné. Vous remplacez le processeur par un CPU plus rapide.

Un client doit traiter davantage d’événements simultanément. Vous doublez le nombre de systèmes utilisés.

Un collègue doit réduire le temps de traitement pour un seul événement. Vous ajoutez 3 systèmes au cluster.

Un client souhaite améliorer un processus limité par le CPU. Ce système dispose déjà du processeur le plus rapide disponible. Vous ajoutez un SSD.

Garanties SLA

Concepts de streaming

Exercice interactif pratique