In questo capitolo, scoprirai che cos'è il Data Engineering e perché la richiesta di questa competenza professionale è in aumento. Scoprirai dove si posiziona l'ingegneria dei dati all’interno del ciclo di vita della data science, in che modo i data engineer si differenziano dai data scientist e avrai un'introduzione alla tua prima pipeline di dati completa.

Data engineering e big data

Flusso di lavoro della data science

Segui il flusso

Opzioni

Attività di data engineering

Attività non di data engineering

Non responsabile

Vero

Falso

In grande stile

Data engineer vs data scientist

Dimmi la verità

Data engineer

Data scientist

Chi fa cosa

La pipeline dei dati

Non è vero

Data science workflow

Pipeline

Che cos'è il Data Engineering?

È arrivato il momento di parlare dell'archiviazione dei dati, una delle principali responsabilità di un data engineer. In questo capitolo imparerai come i data engineer gestiscono diverse strutture di dati, lavorano in SQL, il linguaggio di programmazione preferito per l'interrogazione e l'archiviazione dei dati, e implementano soluzioni di archiviazione dati appropriate con data lake e data warehouse.

Strutture di dati

Strutture

Qual è la differenza

Database SQL

We can work it out

Colonne

Razze diverse

Data warehouse e data lake

Dì la verità

Il nostro magazzino (in mezzo alla nostra via)

Memorizzazione dei dati

I data engineer semplificano la vita ai data scientist preparando i dati grezzi per l'analisi utilizzando diverse tecniche di elaborazione in diverse fasi. Queste fasi devono essere combinate per creare pipeline, ed è qui che entra in gioco l'automazione. Infine, i data engineer utilizzano il cloud computing e il calcolo parallelo per mantenere fluide le pipeline.

Elaborazione dei dati

Collega i puntini

Pianificazione dei dati

Pianificazioni

Una o l'altra

Calcolo parallelo

Sempre, sempre

Universo parallelo

Cloud computing

Obscured by clouds

Somewhere I belong

We are the champions

Spostamento ed elaborazione dati

Lexicon

Course Glossary: Understanding Data Engineering

Nel 2019, lo stipendio medio dei data engineer ha superato quello dei data scientist. Come è successo? Le aziende che volevano trovare l'oro all'interno dei loro dati si sono rese conto che non era possibile farlo se non avevano ancora costruito la miniera. I data engineer gettano le basi che rendono possibile la data science.
<br /> <br />
In questo corso imparerai le principali responsabilità di un data engineer, in che modo differiscono dai Data Scientist, e a facilitare il flusso di dati all'interno di un'organizzazione. Attraverso esercizi pratici, seguirai Spotflix, un'azienda di streaming musicale fittizia, per capire come i suoi data engineer raccolgono, puliscono e catalogano i suoi dati. Alla fine del corso, capirai cosa fanno i data engineer della tua azienda, sarai pronto ad avere una conversazione con uno di loro, e avrai solide basi per iniziare la tua carriera nel Data Engineering.

I video contengono trascrizioni in tempo reale, a cui è possibile accedere facendo clic su "Mostra trascrizione" in basso a sinistra nei video.

Il glossario del corso si trova a destra nella sezione risorse.

Per ottenere i crediti CPE tu devi completare il corso e raggiungere un punteggio del 70% nella valutazione qualificata. Puoi navigare verso la valutazione cliccando sulla callout dei crediti CPE a destra.

<h2> Comprendere le basi del Data Engineering </h2>
<br>
In questo corso imparerai le principali responsabilità di un data engineer, in che modo differiscono dai data scientist, e a facilitare il flusso di dati all'interno di un'organizzazione. Attraverso esercizi pratici, seguirai Spotflix, un'azienda di streaming musicale fittizia, per capire come i suoi data engineer raccolgono, puliscono e catalogano i suoi dati. 
<br><br>
<h2> Applicazione pratica</h2>
<br>
Alla fine del corso, capirai cosa fanno i data engineer della tua azienda, sarai pronto ad avere una conversazione con uno di loro, e avrai solide basi per iniziare la tua carriera nel Data Engineering.

Scopri come gli ingegneri dati creano le basi per la scienza dei dati. Nessuna programmazione!

Capire il Data Engineering

Scopri come i data engineer pongono le basi per rendere possibile la data science, senza necessità di programmare.

Ingegnere dei dati associato in SQL

Analista dati in Databricks

Comprendere gli argomenti dei dati

Garantire che chi usa i database non possa cancellare per sbaglio i video musicali.

Fornire i dati delle sessioni di ascolto in modo che possano essere analizzati con il minimo lavoro di preparazione.

Usare Java per costruire una pipeline che raccolga le copertine degli album e le archivi.

Identificare quali clienti potrebbero interrompere l'abbonamento a Spotflix, così il marketing può rivolgersi a loro e incentivarli al rinnovo.

Scoprire in quali paesi certi artisti sono popolari per dare loro indicazioni su dove fare tournée.

Usare Python per analizzare se gli utenti preferiscono avere la barra di ricerca in alto a sinistra o in alto a destra nell'app desktop di Spotflix.

Chi fa cosa

Capire il Data Engineering

esercizio interattivo pratico