1. Apprendre
    2. /
  2. Cours
    3. /
  3. Introduction aux LLM avec Python
Connected

Exercice

Évaluer la perplexité

Mettez-vous à générer du texte et à évaluer le score de perplexité.

On vous a fourni un input_text qui représente le début d'une phrase : "Current trends show that by 2030 ".

Utilisez un LLM pour générer la suite de la phrase.

Un modèle AutoModelForCausalLM et son tokenizer ont été chargés pour vous dans les variables model et tokenizer.

Instructions

100 XP
  • Encodez le input_text et passez-le au modèle de génération de texte fourni.
  • Chargez et calculez le score mean_perplexity sur le texte généré.