Zacznij terazZacznij za darmo

Generowanie tekstu

Duże modele językowe mają wiele zastosowań, a generowanie tekstu należy do najpopularniejszych.

Twoim zadaniem jest wygenerowanie odpowiedzi na recenzję klienta zapisaną w zmiennej text – to ta sama recenzja hotelu Riverview Hotel, którą już wcześniej widziałeś.

Moduł pipeline został już dla ciebie załadowany.

To ćwiczenie jest częścią kursu

Wprowadzenie do LLM w Pythonie

Zobacz kurs

Instrukcje do ćwiczenia

  • Utwórz instancję potoku generator, podając odpowiednie zadanie do generowania tekstu.
  • Uzupełnij zmienną prompt, umieszczając w f-stringu zmienne text i response.
  • Uzupełnij potok modelu, ustawiając maksymalną długość 150 tokenów i przypisując pad_token_id token końca sekwencji.

Interaktywne ćwiczenie praktyczne

Spróbuj tego ćwiczenia, uzupełniając ten przykładowy kod.

# Instantiate the pipeline
generator = pipeline(____, model="gpt2")

response = "Dear valued customer, I am glad to hear you had a good stay with us."

# Complete the prompt
prompt = f"Customer review:\n{____}\n\nHotel reponse to the customer:\n{____}"

# Complete the model pipeline
outputs = generator(prompt, ____, pad_token_id=____, truncation=True)

print(outputs[0]["generated_text"])
Edytuj i uruchom kod