Aan de slagGa gratis aan de slag

Tekst genereren

LLM's kunnen veel, en tekstgeneratie is een van de meest populaire toepassingen.

Je moet een reactie genereren op een klantreview in text; dit is dezelfde klantreview voor het Riverview Hotel die je eerder hebt gezien.

De pipeline-module is al voor je geladen.

Deze oefening maakt deel uit van de cursus

Introductie tot LLM’s in Python

Cursus bekijken

Oefeninstructies

  • Instantieer de generator-pipeline en specificeer een geschikte taak voor het genereren van tekst.
  • Maak de prompt af door text en response op te nemen in de f-string.
  • Maak de modelpipeline compleet door een maximale lengte van 150 tokens op te geven en de pad_token_id in te stellen op het end-of-sequence-token.

Praktische interactieve oefening

Probeer deze oefening eens door deze voorbeeldcode in te vullen.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Code bewerken en uitvoeren