In this first chapter, you will learn about the differences between batch and stream processing, create your first stream, manage its permissions, write to it and read from it.

What is streaming and why does it matter?

Batch vs stream

Producers and destinations

Managing Firehose delivery streams

Getting ready for the first stream

Creating roles

IAM users vs. roles

Permissions practice

S3 bucket creation

Working with the Firehose delivery stream

Create your first Firehose stream

Writing to a Firehose stream

Reading Firehose data

Streaming in the cloud

The next step in your streaming data journey is learning how to use transformational lambda functions to go serverless. Through hands-on exercises, you will add lambda layers and trigger lambda functions on specific conditions.

Going serverless

Creating and running Lambda functions

Serverless vs servers

Lambda function components

Reading data from S3 based on an event

Your first live lambda!

Adding a lambda layer

Lambda flow

Using environment variables

Serverless data workflow

Fast vs slow lambdas

A time-triggered lambda

Time-triggered lambda code

Serverless APIs

Create an API lambda

A serverless API

You're now ready to encode and decode streaming data and analyze data directly in the stream. You will even use multiple streams to get daily vehicle top speeds.

A transformational Lambda

Transforming data inside a stream

Encoding and decoding base64

Create a transformational lambda

A barebones transformational lambda

Analyzing data in the stream

Creating a Kinesis data analytics application

Kinesis data analytics vs transformational Lambda

Building a Kinesis data analytics application

Kinesis data analytics SQL components

Using multiple streams

Delivering data from Kinesis Analytics

Get the daily top speed

Using Kinesis data analytics for alerts

Analyzing streaming data

In this final chapter, you will discover how to monitor your stream's performance using logs, metrics, alarms and dashboards. You will use Elasticsearch and build your own Kibana dashboard.

Akış verisi vaka çalışması

Bir Elasticsearch kümesi oluşturma

Seçenekler

Kinesis Data Analytics

Elastic Search

Amazon RedShift

RedShift ve Elasticsearch

Performansı izleme

CloudWatch panoları ve alarmlar

CloudWatch Metrics

CloudWatch Alarms

CloudWatch Dashboards

CloudWatch bileşenleri

Lambda'yı izleme

CloudWatch izleme akışı

Akış verilerini görselleştirme

Kibana ile ElasticSearch üzerinde çalışmak

Elasticsearch

Amazon CloudWatch

CloudWatch vs Elasticsearch

Elasticsearch görselleştirme akışı

Kinesis Lambda Transform'dan sonra uyarılar

Alternatif bir yaklaşım

Kinesis Lambda Transform sonrası uyarılar

Başka bir alternatif yaklaşım

Monitoring and visualizing streaming data

Günlük hayatta fark etmeden kullandığımız sistemleri — örneğin işlemlerimizi güvende tutan dolandırıcılık tespiti ya da trafiğin akışını düzenleyen trafik ışıkları — hangi teknoloji çalıştırıyor? Cevap: akış verileri (farklı kaynaklar tarafından sürekli üretilen veriler) ve Amazon Kinesis ile AWS Lambda gibi sunucusuz teknolojiler.
<br /> <br />
Bu derste, bu güçlü teknolojilerden nasıl yararlanacağını, kurgusal bir veri mühendisi olan Cody’e yardım ederek öğreneceksin. Amacın, şehir araçlarından gerçek zamanlı akış verisi toplamasına, bu veriyi analiz etmesine ve sürücülere hız uyarıları gibi ilgili bildirimler göndermesine yardımcı olmak. Amazon Kinesis ve Firehose kullanarak milyonlarca kaynaktan veri almayı; ardından veri akış içindeyken Kinesis Analytics ile analiz etmeyi öğreneceksin. AWS Lambda’da, gelen veriye göre koşullu olarak eylem tetikleyen sunucusuz fonksiyonlar da çalıştıracaksın. Eğitimin sonunda AWS QuickSight ve CloudWatch ile canlı ElasticSearch panoları oluşturmayı bilecek — ve umarız Cody’nin iddialı projesini tamamlamasına yardım etmiş olacaksın.


Introduction to AWS Boto in Python

Introduction to Shell

Streaming Concepts

AWS üzerinde sunucusuz teknolojilerle akış verileriyle çalışmayı öğrenin.

AWS Kinesis ve Lambda ile Akış Verileri

AWS'de sunucusuz teknolojileri kullanarak akış verileriyle nasıl çalışılacağını öğrenin.

Bir Firehose Akışı'na yazılan kayıt sayısını gösteren bir grafik gör.

Elasticsearch'e dakikadaki ortalama veri yazma miktarını belirle.

S3'e yazmada çok fazla hata olduğunda bir bildirim gönder.

Çeşitli servislerden metrik ve alarmların hızlı, tek bakışta görüneceği bir pano oluştur.

CloudWatch bileşenleri

AWS Kinesis ve Lambda ile Akış Verileri

Uygulamalı interaktif egzersiz