The field of large language models has exploded, and Llama is a standout. With Llama 3, possibilities have soared. Explore its capabilities, learn to use it with llama-cpp-python, and understand how to control the model's behavior by adjusting parameters and assigning specific roles to guide the conversation.

What is Llama?

Chatting with Llama 3

Extracting the response

Tuning Llama 3 parameters

Guiding customer support responses

Ensuring safe responses

Generating creative copy

Assigning chat roles

Building a conversation

System messages

Understanding LLMs and Llama

Language models can do more than just generate text - they can be guided to produce structured and context-aware responses. In this chapter, you'll explore how to leverage llama-cpp-python to generate outputs in specific formats, including JSON-compatible responses for data integration. You'll also refine Llama's output using prompting techniques to align responses with different tasks. Finally, you'll build conversations that maintain context across multiple exchanges, ensuring more natural interactions. 

Guidare le risposte non strutturate

Formattare i prompt per Llama

Few-shot prompting con Llama

Generare output strutturati

Creare un elenco di inventario in JSON

Specificare uno schema JSON strutturato

Creare conversazioni

Creare una classe conversazionale

Conversazione a turno singolo

Conversazioni multi-turno

Congratulazioni!

Using Llama Locally

I modelli linguistici di grandi dimensioni open-source come Llama possono essere eseguiti sul tuo computer, aiutandoti a mantenere i dati privati e a ridurre i costi. In questo corso imparerai come configurare e usare Llama in locale. Esplorerai tecniche semplici come affinare i prompt per ottenere risposte migliori, costruire conversazioni che ricordano il contesto e adattare gli output alle esigenze del tuo progetto — che si tratti di generare dati strutturati o rifinire le risposte per maggiore chiarezza. Il corso è pensato per chi ha già esperienza con Python.

<h2>Impara a usare il modello linguistico Llama Large-Language Model (LLM)</h2>  
Cos'è Llama LLM e come puoi usarlo per migliorare i tuoi progetti? Questo corso ti insegnerà come usare Llama sul tuo computer, gestire le sue risposte con il prompt engineering e creare conversazioni strutturate e sensibili al contesto. <br>  
<br>  
<h2>Capire il modello Llama e come si usa</h2>  
Inizierai con un'introduzione ai concetti base di Llama, imparando come interagire con i modelli Llama e scoprendo i loro casi d'uso. Acquisirai esperienza pratica nella configurazione, nell'esecuzione e nell'interazione con il modello utilizzando la libreria llama-cpp-python. Man mano che vai avanti, userai delle tecniche per migliorare le risposte di Llama, tenere traccia della cronologia delle conversazioni e creare output strutturati pronti per essere integrati nei flussi di lavoro automatizzati.<br>  
<br>  
Questa è un'introduzione perfetta a Llama per sviluppatori e professionisti dell'intelligenza artificiale. Esplora le basi di questo potente LLM open source e come usarlo in situazioni reali.  

Python Toolbox

Esplora le tecniche per eseguire Llama LLM localmente e integrarlo nel tuo stack.

Lavorare con Llama 3

Scopri le ultime tecniche per usare Llama LLM in locale e integrarlo nel tuo stack.

Ingegnere AI associato per scienziati dei dati

Sviluppare modelli linguistici di grandi dimensioni

Fondamenti di lama

Specificare uno schema JSON strutturato

Lavorare con Llama 3

Istruzioni dell'esercizio

Esercizio pratico interattivo