or
Den här övningen är en del av kursen
Området för stora språkmodeller har exploderat, och Llama är ett av de mest framstående alternativen. Med Llama 3 har möjligheterna ökat markant. Utforska modellens funktioner, lär dig använda den med llama-cpp-python och förstå hur du styr modellens beteende genom att justera parametrar och tilldela specifika roller för att styra konversationen.
Språkmodeller kan göra mer än att bara generera text – de kan styras till att producera strukturerade och kontextmedvetna svar. I det här kapitlet utforskar du hur du använder llama-cpp-python för att generera utdata i specifika format, inklusive JSON-kompatibla svar för dataintegration. Du förfinar också Llamas utdata med hjälp av prompttekniker för att anpassa svaren till olika uppgifter. Slutligen bygger du konversationer som behåller kontext över flera utbyten, vilket ger mer naturliga interaktioner.
Aktuell övning