1. Nauka
    2. /
  2. Kursy
    3. /
  3. Wprowadzenie do LLM w Pythonie
Connected

ćwiczenie

Generowanie tekstu

Duże modele językowe mają wiele zastosowań, a generowanie tekstu należy do najpopularniejszych.

Twoim zadaniem jest wygenerowanie odpowiedzi na recenzję klienta zapisaną w zmiennej text – to ta sama recenzja hotelu Riverview Hotel, którą już wcześniej widziałeś.

Moduł pipeline został już dla ciebie załadowany.

Instrukcje

100 XP
  • Utwórz instancję potoku generator, podając odpowiednie zadanie do generowania tekstu.
  • Uzupełnij zmienną prompt, umieszczając w f-stringu zmienne text i response.
  • Uzupełnij potok modelu, ustawiając maksymalną długość 150 tokenów i przypisując pad_token_id token końca sekwencji.