1. Nauka
    2. /
  2. Kursy
    3. /
  3. Praca z Llama 3
Connected

ćwiczenie

Zapewnianie bezpiecznych odpowiedzi

Konfigurujesz wewnętrznego chatbota dla zespołu medycznego. Aby zapewnić spójność odpowiedzi, ogranicz zmienność – ustaw limit tokenów i zawęź wybór tokenów.

Do dyspozycji masz instancję klasy Llama w zmiennej llm oraz kod wywołujący uzupełnienie. Dołączono też przykładowy prompt do testów.

Instrukcje

100 XP
  • Ustaw parametry modelu tak, aby maksymalna liczba tokenów wynosiła dziesięć, a model na każdym kroku wybierał spośród dwóch najbardziej prawdopodobnych słów.