Dans ce chapitre, vous découvrirez les notions de base du traitement par lots, centrées sur l’implémentation, la mise à l’échelle et les difficultés potentielles en situation réelle.

Introduction au traitement par lots

Caractéristiques d'un traitement par lots

Ordonnancement des lots

Mettre à l’échelle le traitement par lots

À l’échelle

Opposition horizontale

Problèmes liés aux traitements par lots

Scénarios de traitement par lots

Méthodes de traitement des données

Vous apprendrez ici les bases du streaming, du traitement de données piloté par événements, ainsi que ses avantages par rapport au traitement traditionnel par lots.

Introduction à l’informatique événementielle

Affirmations

Vrai

Faux

En cas d’événement…

Actions

Événement

Pas un événement

Bienvenue à l’événement !

Mise en file d’attente

Caractéristiques

Décrit une file d’attente

Ne décrit pas une file d’attente

Caractéristiques d’une file (queue)

Scénario

Utiliser une file d’attente

Ne pas utiliser de file d’attente

Mettre en file d’attente ou non

Diffusion de données dans un système unique

Journal d’événements d’un flux unique

Ordre du flux de journaux

Projets

Journalisation

Autre chose

Options de journalisation

Traitement par lots vs streaming

Scénarios

File d'attente

Flux

Lot, file d'attente ou flux ?

Processus de journaux en streaming

Processeur de flux de journaux

Introduction au streaming

Ce chapitre présente les concepts à l’origine des systèmes de streaming modernes, la façon de les mettre à l’échelle et certains écueils rencontrés lors de leur utilisation.

Introduction au streaming en temps réel

Temps réel ?

Est-ce bien du temps réel, cette fois ?

Mise à l’échelle verticale des systèmes de streaming

Raisons d’augmenter l’échelle

Pour mettre à l’échelle verticalement… ?

Mise à l’échelle horizontale des systèmes de streaming

Mise à l’échelle horizontale

Garanties SLA

Obstacles du streaming

Attributs du streaming

Types de problèmes

Défis du streaming

Systèmes de streaming

Dans ce dernier chapitre, vous découvrirez des systèmes de streaming courants et réfléchirez à la mise en œuvre du traitement de données en flux dans différents cas d’usage.

Systèmes de streaming populaires

Vérités sur le streaming

Croiser les flux...

Cas d’usage réel : service de musique en streaming

Composants d’un message

Répondez à ceci...

Cas d’usage réel : données de capteurs

Bon ordre des SLA

Considérations de mise à l’échelle des capteurs

Cas d’usage réel : centre de vaccination

Centre de vaccination – classer les zones

Un nouveau problème...

Félicitations !

Cas d’usage réels

Le streaming occupe aujourd’hui une place majeure dans le monde de la donnée et est utilisé par presque tous les secteurs, de l’industrie à la santé. Souhaitez-vous en savoir plus sur les concepts généraux derrière les pipelines de données et sur le fonctionnement de ces processus ?

Ce cours propose une introduction générale aux concepts de streaming, notamment le batching, la mise en file d’attente et le traitement de flux, ainsi que leur place dans les cadres de traitement de données. Il présente des exemples concrets de mise en œuvre du streaming en production. Il s’agit d’une introduction générale à ces notions et aucun bagage approfondi en traitement de données n’est requis.


Understanding Data Engineering

Découvrez la différence entre le traitement par lots et en flux, et leurs applications réelles.

Concepts de streaming

Différenciez le traitement par lots et le streaming, la mise à l'échelle des systèmes de streaming et les applications concrètes.

Ingénieur professionnel en données en Python

Traiter tous les éléments reçus chaque jour avant 13 h.

Créer des groupes de 10 images aléatoires toutes les 2 heures.

Traiter les commentaires des utilisateurs dans l'ordre de réception, mais seulement quand le système a de la capacité disponible.

Stocker les clics des utilisateurs sur une application web au fil de leur arrivée.

Traiter les demandes de morceaux des utilisateurs dès que possible, sans délai.

Lot, file d'attente ou flux ?

Exercice interactif pratique