Generowanie tekstu
Duże modele językowe mają wiele zastosowań, a generowanie tekstu należy do najpopularniejszych.
Twoim zadaniem jest wygenerowanie odpowiedzi na recenzję klienta zapisaną w zmiennej text – to ta sama recenzja hotelu Riverview Hotel, którą już wcześniej widziałeś.
Moduł pipeline został już dla ciebie załadowany.
To ćwiczenie jest częścią kursu
Wprowadzenie do LLM w Pythonie
Instrukcje do ćwiczenia
- Utwórz instancję potoku
generator, podając odpowiednie zadanie do generowania tekstu. - Uzupełnij zmienną
prompt, umieszczając w f-stringu zmiennetextiresponse. - Uzupełnij potok modelu, ustawiając maksymalną długość 150 tokenów i przypisując
pad_token_idtoken końca sekwencji.
Interaktywne ćwiczenie praktyczne
Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.
# Instantiate the pipeline
generator = pipeline(____, model="gpt2")
response = "Dear valued customer, I am glad to hear you had a good stay with us."
# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"
# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)
print(outputs[0]["generated_text"])