Dans ce chapitre, vous découvrirez les notions de base du traitement par lots, centrées sur l’implémentation, la mise à l’échelle et les difficultés potentielles en situation réelle.

Introduction au traitement par lots

Caractéristiques d'un traitement par lots

Ordonnancement des lots

Mettre à l’échelle le traitement par lots

À l’échelle

Opposition horizontale

Problèmes liés aux traitements par lots

Scénarios de traitement par lots

Méthodes de traitement des données

Vous apprendrez ici les bases du streaming, du traitement de données piloté par événements, ainsi que ses avantages par rapport au traitement traditionnel par lots.

Introduction à l’informatique événementielle

En cas d’événement…

Bienvenue à l’événement !

Mise en file d’attente

Caractéristiques d’une file (queue)

Mettre en file d’attente ou non

Diffusion de données dans un système unique

Ordre du flux de journaux

Options de journalisation

Traitement par lots vs streaming

Lot, file d'attente ou flux ?

Processeur de flux de journaux

Introduction au streaming

Ce chapitre présente les concepts à l’origine des systèmes de streaming modernes, la façon de les mettre à l’échelle et certains écueils rencontrés lors de leur utilisation.

Introduction au streaming en temps réel

Temps réel ?

Est-ce bien du temps réel, cette fois ?

Mise à l’échelle verticale des systèmes de streaming

Raisons d’augmenter l’échelle

Pour mettre à l’échelle verticalement… ?

Mise à l’échelle horizontale des systèmes de streaming

Mise à l’échelle horizontale

Garanties SLA

Obstacles du streaming

Attributs du streaming

Types de problèmes

Défis du streaming

Systèmes de streaming

Dans ce dernier chapitre, vous découvrirez des systèmes de streaming courants et réfléchirez à la mise en œuvre du traitement de données en flux dans différents cas d’usage.

Systèmes de streaming populaires

Options

Affirmations

Vrai

Faux

Vérités sur le streaming

Exigences

Celery

Kafka

Spark streaming

Croiser les flux...

Cas d’usage réel : service de musique en streaming

Attributs

Requis

Non requis

Composants d’un message

Questions

Peut répondre

Ne peut pas répondre

Répondez à ceci...

Cas d’usage réel : données de capteurs

Priorité des SLA

Bon ordre des SLA

Projets

Vertical

Horizontal

Considérations de mise à l’échelle des capteurs

Cas d’usage réel : centre de vaccination

Zones

Traitement par lots

Traitement en file d’attente

Traitement en continu

Centre de vaccination – classer les zones

Batch

Queue

Stream

Un nouveau problème...

Félicitations !

Cas d’usage réels

Le streaming occupe aujourd’hui une place majeure dans le monde de la donnée et est utilisé par presque tous les secteurs, de l’industrie à la santé. Souhaitez-vous en savoir plus sur les concepts généraux derrière les pipelines de données et sur le fonctionnement de ces processus ?

Ce cours propose une introduction générale aux concepts de streaming, notamment le batching, la mise en file d’attente et le traitement de flux, ainsi que leur place dans les cadres de traitement de données. Il présente des exemples concrets de mise en œuvre du streaming en production. Il s’agit d’une introduction générale à ces notions et aucun bagage approfondi en traitement de données n’est requis.


Understanding Data Engineering

Découvrez la différence entre le traitement par lots et en flux, et leurs applications réelles.

Concepts de streaming

Différenciez le traitement par lots et le streaming, la mise à l'échelle des systèmes de streaming et les applications concrètes.

Ingénieur professionnel en données en Python

Un ensemble de capteurs de température pour un seul centre de données, où les données doivent être traitées plus rapidement.

Un groupe de capteurs de trafic, dont la quantité double, mais qui doivent traiter les données dans le même SLA. Pour des raisons budgétaires, un seul serveur peut être utilisé.

Un ensemble mondial de sonnettes connectées, qui doivent être équilibrées en fonction de la localisation.

Des capteurs de consommation électrique dans une grande zone métropolitaine, avec une limite de dix capteurs par serveur central.

Considérations de mise à l’échelle des capteurs

Exercice interactif pratique