Adversariální útoky na modely pro klasifikaci textu

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

Toto cvičení je součástí kurzu

Deep Learning for Text with PyTorch

SkillTag.level.advancedSkillTag.label

4.8+

Začněte kurz zdarma

Tato kapitola tě uvede do světa deep learningu pro text a jeho aplikací. Naučíš se využívat PyTorch ke zpracování textu a získáš praktické zkušenosti s technikami jako tokenizace, stemming, odstraňování stop slov a dalšími. Pochopíš, proč je kódování textových dat důležité, a implementuješ techniky kódování pomocí PyTorchu. Na závěr si znalosti upevníš sestavením pipeline pro zpracování textu, která tyto techniky kombinuje.

Exercise 1: Úvod do předzpracování textu Exercise 2: Analýza frekvence slov Exercise 3: Předzpracování textu Exercise 4: Kódování textových dat Exercise 5: One-hot kódování názvů knih Exercise 6: Bag-of-words pro názvy knih Exercise 7: Použití TF-IDF na popisy knih Exercise 8: Úvod do budování pipeline pro zpracování textu Exercise 9: Pipeline pro předzpracování shakespearovského textu Exercise 10: Shakespearovský jazykový enkodér

Prozkoumej klasifikaci textu a její roli v oblasti zpracování přirozeného jazyka (NLP). Uplatníš své dovednosti při implementaci word embeddingů a vytvoříš konvoluční neuronové sítě (CNN) i rekurentní neuronové sítě (RNN) pro klasifikaci textu v PyTorchu. Naučíš se také vyhodnocovat své modely pomocí vhodných metrik.

Exercise 1: Přehled klasifikace textu Exercise 2: Embedding v PyTorchi Exercise 3: Kategorizace úloh textové klasifikace Exercise 4: Konvoluční neuronové sítě pro klasifikaci textu Exercise 5: Sestav CNN model pro text Exercise 6: Trénování CNN modelu na textu Exercise 7: Testování CNN modelu pro analýzu sentimentu Exercise 8: Rekurentní neuronové sítě pro klasifikaci textu Exercise 9: Tvorba RNN modelu pro text Exercise 10: Sestavení modelu LSTM pro text Exercise 11: Sestavení modelu GRU pro text Exercise 12: Evaluační metriky pro klasifikaci textu Exercise 13: Vyhodnocení klasifikačních modelů RNN Exercise 14: Vyhodnocení výkonu modelu Exercise 15: Porovnání modelů

Vstup do vzrušujícího světa generování textu a jeho aplikací v NLP. Naučíš se využívat rekurentní neuronové sítě (RNN), generativní adversariální sítě (GAN) a předtrénované modely pro úlohy generování textu v PyTorchu. Zároveň se naučíš hodnotit výkon svých modelů pomocí relevantních metrik.

Exercise 1: Úvod do generování textu Exercise 2: Vytvoření modelu RNN pro generování textu Exercise 3: Generování textu pomocí RNN – trénování a generování Exercise 4: Generativní adversariální sítě pro generování textu Exercise 5: Sestavení generátoru a diskriminátoru Exercise 6: Trénování GAN modelu Exercise 7: Předtrénované modely pro generování textu Exercise 8: Doplňování textu s předtrénovanými modely GPT-2 Exercise 9: Překlad jazyka pomocí předtrénovaného modelu v PyTorchi Exercise 10: Hodnotící metriky pro generování textu Exercise 11: Hodnocení předtrénovaného modelu pro generování textu Exercise 12: Porozumění metrikám pro generování textu

Pochop koncept transfer learningu a jeho využití při klasifikaci textu. Prozkoumej transformery, jejich architekturu a způsoby jejich použití pro klasifikaci a generování textu. Zaměříš se také na mechanismy pozornosti a jejich roli při zpracování textu. Na závěr se seznámíš s potenciálními dopady adversariálních útoků na modely klasifikace textu a naučíš se, jak své modely chránit.

Exercise 1: Transfer learning pro klasifikaci textu Exercise 2: Transfer learning s využitím BERT Exercise 3: Vyhodnocení modelu BERT Exercise 4: Transformers pro zpracování textu Exercise 5: Vytvoření transformer modelu Exercise 6: Trénování a testování modelu Transformer Exercise 7: Mechanismy pozornosti pro zpracování textu Exercise 8: Vytvoření RNN modelu s mechanismem pozornosti Exercise 9: Trénování a testování RNN modelu s attention Exercise 10: Adversariální útoky na modely pro klasifikaci textu

Aktuální cvičení

Exercise 11: Klasifikace adversariálních útoků Exercise 12: Zabezpečení AI v PyBooks Exercise 13: Shrnutí