Tekst genereren
LLM's kunnen veel, en tekstgeneratie is een van de meest populaire toepassingen.
Je moet een reactie genereren op een klantreview in text; dit is dezelfde klantreview voor het Riverview Hotel die je eerder hebt gezien.
De pipeline-module is al voor je geladen.
Deze oefening maakt deel uit van de cursus
Introductie tot LLM’s in Python
Oefeninstructies
- Instantieer de
generator-pipeline en specificeer een geschikte taak voor het genereren van tekst. - Maak de
promptaf doortextenresponseop te nemen in de f-string. - Maak de modelpipeline compleet door een maximale lengte van 150 tokens op te geven en de
pad_token_idin te stellen op het end-of-sequence-token.
Interactieve oefening met praktijkervaring
Probeer deze oefening door deze voorbeeldcode aan te vullen.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])