Insieme di dati sintetico coerente

Uno scenario in cui le aziende usano dati sintetici è l’addestramento di modelli di intelligenza artificiale e di Machine Learning. I dati reali a volte sono costosi da raccogliere o semplicemente difficili da reperire. Quando i dati di training sono molto sbilanciati (ad esempio, oltre il 90% delle istanze appartiene a una classe), la generazione di dati sintetici può aiutare a costruire modelli di Machine Learning accurati.

In questo esercizio genererai un insieme di dati di valutazioni di un’app mobile usando Faker.

Il DataFrame iniziale è caricato come ratings con due colonne: rating e gender. Un generatore Faker() è già stato inizializzato per te come fake_data.

Questo esercizio fa parte del corso

Riservatezza dei dati e anonimizzazione in Python

Visualizza il corso

Esercizio pratico interattivo

Prova a risolvere questo esercizio completando il codice di esempio.

# Generate a name according to the gender that will be unique in the dataset
ratings['name'] = [____ if x == "Female" 
                   else ____
                   for x in ratings['gender']]

Modifica ed esegui il codice

Questo esercizio fa parte del corso

Riservatezza dei dati e anonimizzazione in Python

AvançadoNível de habilidade

4.9+

Inizia il corso gratis

Get ready to apply anonymization techniques such as data suppression, masking, synthetic data generation, and generalization. In this chapter, you’ll learn how to distinguish between sensitive and non-sensitive personally identifiable information (PII), quasi-identifiers, and the basics of the GDPR. You'll also encounter real-life examples of what can go wrong if you don't follow these best practices.

Exercise 1: What's private, and why do we care?Exercise 2: Privacy is power Exercise 3: Is it sensitive or non-sensitive?Exercise 4: Suppression of sensitive attributes Exercise 5: Data masking and data generation with Faker Exercise 6: Masking sensitive PII Exercise 7: Removing names with faker Exercise 8: Anonymizing with data generalization Exercise 9: Reducing identification risk with generalization Exercise 10: Data aggregation and data generalization Exercise 11: Top and bottom coding White House salaries

Discover how to anonymize data by sampling from datasets following the probability distribution of the columns. You’ll then learn how to apply the k-anonymity privacy model to prevent linkage or re-identification attacks and use hierarchies to perform data generalization in categorical variables.

Exercise 1: Anonymizing categorical data Exercise 2: Explore the distribution of data Exercise 3: Sampling from the same probability distribution Exercise 4: Anonymizing continuous data Exercise 5: Different distributions Exercise 6: Sampling from the best continuous distribution Exercise 7: Introduction to K-anonymity Exercise 8: Privacy attributes Exercise 9: Generalizing into ranges Exercise 10: Generalizing data using hierarchies Exercise 11: Using hierarchies for categorical data Exercise 12: K-anonymizing a dataset

Learn about differential privacy, the model used by major technology companies such as Apple, Google, and Uber. In this chapter, you’ll explore data by generating private histograms and computing private averages in data. You’ll also create differentially private machine learning models that allow businesses to increase the utility of their data.

Exercise 1: Introduction to differential privacy Exercise 2: Epsilon (ϵ): the magic number Exercise 3: Histograms with differential privacy Exercise 4: Privacy budgets Exercise 5: Using privacy budgets Exercise 6: When no budget is left Exercise 7: Exploring data with a privacy budget accountant Exercise 8: Differentially private machine learning models Exercise 9: Build a differentially private classifier Exercise 10: Predicting salaries Exercise 11: Differentially private clustering models Exercise 12: Pre-processing data Exercise 13: Segmenting customers

In this final chapter, you’ll learn how to apply dimensionality reduction methods such as principal component analysis (PCA) to anonymize large multi-column datasets. You’ll then use Faker to generate realistic and consistent datasets, and scikit-learn to create synthetic datasets that follow a normal distribution. Lastly, you’ll tie everything you learned in this course together as you combine multiple techniques to safely release datasets to the public.

Exercise 1: PCA per l’anonimizzazione Exercise 2: Anonimizzazione di dati ad alta dimensionalità Exercise 3: Mascheramento dei dati con PCA Exercise 4: Generare insiemi di dati realistici con Faker Exercise 5: Insieme di dati sintetico coerente

Esercizio in corso

Exercise 6: Insiemi di dati con la stessa distribuzione probabilistica Exercise 7: Creare insiemi di dati sintetici con scikit-learn Exercise 8: Generare insiemi di dati per la classificazione Exercise 9: Generazione di insiemi di dati per il clustering Exercise 10: Rilascia in modo sicuro gli insiemi di dati al pubblico Exercise 11: Esplorare e pseudonimizzare un insieme di dati Exercise 12: Preparare i dati dei dipendenti per un rilascio sicuro Exercise 13: Ottimo lavoro!