Porozumění metrikám pro generování textu

Tým v PyBooks právě vyhodnotil výkon předtrénovaného modelu pomocí skóre BLEU a dostal výsledek přibližně 0,082 a rouge1_fmeasure přibližně 0,2692. Tato metrika vyjadřuje přesnost (kolik vybraných položek je relevantních) a pokrytí (kolik relevantních položek bylo vybráno). Jak bys toto skóre interpretoval/a z hlediska výkonu modelu?

Toto cvičení je součástí kurzu

Deep Learning for Text with PyTorch

Interaktivní praktické cvičení

Proměňte teorii v praxi s jedním z našich interaktivních cvičení

Začít cvičení

Toto cvičení je součástí kurzu

Deep Learning for Text with PyTorch

SkillTag.level.advancedSkillTag.label

4.8+

Začněte kurz zdarma

Tato kapitola tě uvede do světa deep learningu pro text a jeho aplikací. Naučíš se využívat PyTorch ke zpracování textu a získáš praktické zkušenosti s technikami jako tokenizace, stemming, odstraňování stop slov a dalšími. Pochopíš, proč je kódování textových dat důležité, a implementuješ techniky kódování pomocí PyTorchu. Na závěr si znalosti upevníš sestavením pipeline pro zpracování textu, která tyto techniky kombinuje.

Exercise 1: Úvod do předzpracování textu Exercise 2: Analýza frekvence slov Exercise 3: Předzpracování textu Exercise 4: Kódování textových dat Exercise 5: One-hot kódování názvů knih Exercise 6: Bag-of-words pro názvy knih Exercise 7: Použití TF-IDF na popisy knih Exercise 8: Úvod do budování pipeline pro zpracování textu Exercise 9: Pipeline pro předzpracování shakespearovského textu Exercise 10: Shakespearovský jazykový enkodér

Prozkoumej klasifikaci textu a její roli v oblasti zpracování přirozeného jazyka (NLP). Uplatníš své dovednosti při implementaci word embeddingů a vytvoříš konvoluční neuronové sítě (CNN) i rekurentní neuronové sítě (RNN) pro klasifikaci textu v PyTorchu. Naučíš se také vyhodnocovat své modely pomocí vhodných metrik.

Exercise 1: Přehled klasifikace textu Exercise 2: Embedding v PyTorchi Exercise 3: Kategorizace úloh textové klasifikace Exercise 4: Konvoluční neuronové sítě pro klasifikaci textu Exercise 5: Sestav CNN model pro text Exercise 6: Trénování CNN modelu na textu Exercise 7: Testování CNN modelu pro analýzu sentimentu Exercise 8: Rekurentní neuronové sítě pro klasifikaci textu Exercise 9: Tvorba RNN modelu pro text Exercise 10: Sestavení modelu LSTM pro text Exercise 11: Sestavení modelu GRU pro text Exercise 12: Evaluační metriky pro klasifikaci textu Exercise 13: Vyhodnocení klasifikačních modelů RNN Exercise 14: Vyhodnocení výkonu modelu Exercise 15: Porovnání modelů

Vstup do vzrušujícího světa generování textu a jeho aplikací v NLP. Naučíš se využívat rekurentní neuronové sítě (RNN), generativní adversariální sítě (GAN) a předtrénované modely pro úlohy generování textu v PyTorchu. Zároveň se naučíš hodnotit výkon svých modelů pomocí relevantních metrik.

Exercise 1: Úvod do generování textu Exercise 2: Vytvoření modelu RNN pro generování textu Exercise 3: Generování textu pomocí RNN – trénování a generování Exercise 4: Generativní adversariální sítě pro generování textu Exercise 5: Sestavení generátoru a diskriminátoru Exercise 6: Trénování GAN modelu Exercise 7: Předtrénované modely pro generování textu Exercise 8: Doplňování textu s předtrénovanými modely GPT-2 Exercise 9: Překlad jazyka pomocí předtrénovaného modelu v PyTorchi Exercise 10: Hodnotící metriky pro generování textu Exercise 11: Hodnocení předtrénovaného modelu pro generování textu Exercise 12: Porozumění metrikám pro generování textu

Aktuální cvičení

Pochop koncept transfer learningu a jeho využití při klasifikaci textu. Prozkoumej transformery, jejich architekturu a způsoby jejich použití pro klasifikaci a generování textu. Zaměříš se také na mechanismy pozornosti a jejich roli při zpracování textu. Na závěr se seznámíš s potenciálními dopady adversariálních útoků na modely klasifikace textu a naučíš se, jak své modely chránit.

Exercise 1: Transfer learning pro klasifikaci textu Exercise 2: Transfer learning s využitím BERT Exercise 3: Vyhodnocení modelu BERT Exercise 4: Transformers pro zpracování textu Exercise 5: Vytvoření transformer modelu Exercise 6: Trénování a testování modelu Transformer Exercise 7: Mechanismy pozornosti pro zpracování textu Exercise 8: Vytvoření RNN modelu s mechanismem pozornosti Exercise 9: Trénování a testování RNN modelu s attention Exercise 10: Adversariální útoky na modely pro klasifikaci textu Exercise 11: Klasifikace adversariálních útoků Exercise 12: Zabezpečení AI v PyBooks Exercise 13: Shrnutí