Dans ce chapitre, vous serez initié aux concepts de base du traitement des données par lots, autour de l'implantation, de la mise à l'échelle et des défis possibles à l'usage.

Introduction au traitement par lots

Caractéristiques d'un traitement par lots

Ordonnancement des lots

Mettre à l'échelle le traitement par lots

À l'échelle

À l'horizontale

Problèmes liés au traitement par lots

Problèmes liés aux traitements par lots

Scénarios de traitement par lots

Méthodes de traitement des données

Ici, vous apprendrez les bases de la diffusion en continu, du traitement de données fondé sur les événements, et ses avantages par rapport au traitement traditionnel par lots.

Introduction à l'informatique basée sur les événements

En cas d'événement…

Bienvenue à l'événement!

File d'attente

Caractéristiques d'une file (queue)

Mettre en file ou non

Diffusion de données sur un système unique

Ordre du flux de journal

Options de journalisation

Traitement par lots ou en continu

Lot, file ou flux ?

Processeur de flux de journaux

Introduction à la diffusion en continu

Ce chapitre présente les concepts derrière les systèmes modernes de diffusion en continu, comment les mettre à l'échelle, ainsi que certains enjeux liés à leur utilisation.

Introduction au flux en temps réel

En temps réel?

Est-ce vraiment en temps réel?

Mise à l'échelle verticale des systèmes de diffusion en continu

Raisons de mettre à l'échelle

Pour effectuer une mise à l'échelle verticale…?

Mise à l'échelle horizontale des systèmes de diffusion en continu

Mise à l'échelle horizontale réussie

Garanties des SLA

Obstacles au traitement en continu

Caractéristiques du streaming

Types de problèmes

Défis du streaming

Systèmes de diffusion en continu

Dans ce dernier chapitre, vous découvrirez des systèmes de diffusion en continu courants et envisagerez l'implantation du traitement de données en continu dans différents cas d'utilisation.

Systèmes de diffusion en continu populaires

Options

Énoncés

Vrai

Faux

Vérités sur le streaming

Exigences

Celery

Kafka

Spark streaming

Croiser les flux…

Cas d'utilisation réel : service de musique en continu

Attributs

Requis

Non requis

Composantes d'un message

Questions

Peut répondre

Ne peut pas répondre

À vous de répondre...

Cas d'utilisation réel : données de capteurs

Priorité des ANS

Excellent ordre des ANS

Projets

Vertical

Horizontal

Considérations d'extensibilité pour les capteurs

Cas d'utilisation réel : clinique de vaccination

Zones

Traitement par lots

Processus avec file d'attente

Traitement en flux continu

Clinique de vaccination – classer les zones

Batch

Queue

Stream

Un nouveau problème...

Félicitations !

Cas d'utilisation réels

La diffusion en continu occupe une place majeure dans le monde des données et est utilisée dans presque tous les secteurs, de la fabrication aux soins de santé. Souhaitez-vous en apprendre davantage sur les concepts généraux derrière les pipelines de données et le fonctionnement de ces processus?

Ce cours propose une introduction générale aux concepts de diffusion en continu, notamment le traitement par lots, la mise en file d'attente et le traitement de flux, ainsi que leur place dans les cadres de traitement des données. Il présente des exemples concrets d'implantation de la diffusion en continu en production. Il est conçu comme une introduction générale à ces notions et ne nécessite pas de solide bagage en traitement des données.


Understanding Data Engineering

Découvrez la différence entre le traitement par lots et en continu, et leurs applications réelles.

Concepts de diffusion en continu

Découvrez la différence entre le traitement par lots et le streaming, la mise à l’échelle des systèmes de streaming et les applications concrètes.

Cas d'utilisation réel : données de capteurs

Create Your Free Account