The AI landscape is evolving rapidly, and Large Language Models (LLMs) are at the forefront of this evolution. This chapter examines how LLMs are advancing the development of human-like artificial intelligence and transforming industries through their numerous applications. You will explore the challenges and complexity associated with language modeling.

The rise of LLMs in the AI landscape

Definition of an LLM

LLMs in the AI landscape

AI vs. LLM applications

Real-world applications

Business applications

Multimodal applications

Automate data-driven tasks

Challenges of language modeling

What can a language model do?

Single vs. multi-task learning

Introduction to Large Language Models (LLM)

This chapter emphasizes the novelty of LLMs and their emergent capabilities while outlining various NLP techniques for data preparation. You will learn the challenges of training LLMs and how fine-tuning can effectively address them. You will also understand how N-shot learning techniques enable efficient adaptation of pre-trained models when faced with limited labeled data.

Novità degli LLM

Risoluzione di problemi con gli LLM

Opzioni

Large Language Models

Modelli linguistici tradizionali

Modelli tradizionali vs. LLM

Panoramica generale dell'NLP

Preparazione dei dati

Preprocessing del testo

Rappresentazione del testo

Preprocessing e rappresentazione del testo

Word embeddings vs bag-of-words

Fine-tuning

Sfide nella costruzione dei LLM

Adatta un modello pre-addestrato

Pre-training

Pre-trained o fine-tuned?

Tecniche di apprendimento

Perfeziona (fine-tune) un modello

N-shot learning

Building Blocks of LLMs

In this chapter, you will learn about the fundamental building blocks of training an LLM, such as pre-training techniques. You'll also gain an intuitive understanding of complex concepts like transformer architecture, including the attention mechanism. The chapter discusses an advanced fine-tuning technique and summarizes the training process to complete an LLM.

Building blocks to train LLMs

Masked language

Predict the next word

Building from scratch

Introducing the transformer

Relationships between distant words

Transformer components

Attention mechanisms

Focus of multi-head attention

Self vs. multi-head attention

Advanced fine-tuning

End-to-end training

Training, tuning & feedback

Building an LLM

Training Methodology and Techniques

In this chapter, we delve into the key considerations when training LLMs, such as large data availability, data quality, accurate labeling, and the implications of biased data. You will also examine various LLM risks like data privacy, ethical concerns, and environmental impact. Lastly, the chapter concludes by discussing emerging research areas and the evolving landscape of LLMs.

Data concerns and considerations

Is your model fair?

Un-biased and relevant

Customer service of a bank

Ethical and environmental concerns

Responsible use

Ethics and environment

Where are LLMs heading?

Creativity vs. efficiency

Analyzing literary works

Time to wrap-up

Concerns and Considerations

Course Glossary

In questo corso esplorerai il mondo dei Large Language Models (LLM) e scoprirai come stanno ridisegnando il panorama dell’AI. Vedrai come rivoluzionano il business e la vita quotidiana con esempi reali e imparerai quali sono i loro mattoni fondamentali. Man mano che avanzi, acquisirai anche intuizioni sulle metodologie di training. Infine, affronterai le considerazioni etiche e ambientali cruciali per gli LLM e vedrai come potrebbe evolvere il loro futuro. Al termine, avrai una comprensione completa degli LLM, delle loro capacità, applicazioni e sfide.

I video includono trascrizioni in tempo reale che puoi visualizzare facendo clic su "Show transcript" in basso a sinistra nei video.

Il glossario del corso si trova a destra nella sezione delle risorse.

Per ottenere i crediti CPE devi completare il corso e raggiungere un punteggio del 70% nella valutazione qualificata. Puoi accedere alla valutazione facendo clic sul riquadro dei crediti CPE sulla destra.

<h2>Modelli linguistici di grandi dimensioni</h2>
In questo corso, esplorerai il mondo dei modelli linguistici di grandi dimensioni (LLM) e scoprirai come stanno cambiando il panorama dell'intelligenza artificiale. Scoprirai i fattori che stanno alimentando il boom dell'LLM, come la rivoluzione del deep learning, la disponibilità dei dati e la potenza di calcolo.
<br><br>
Questo corso ti farà capire meglio cosa sono gli LLM e come stanno cambiando il mondo degli affari e la vita di tutti i giorni con esempi reali, dalla finanza alla creazione di contenuti.
<br><br>
<h2>Scopri i segreti dei modelli di linguaggio grande (LLM) e delle tecniche di addestramento</h2>
Imparerai le basi degli LLM, come le tecniche di elaborazione del linguaggio naturale, le strategie di messa a punto e le tecniche di apprendimento tipo zero-shot, few-shot e multi-shot. Man mano che vai avanti, capirai meglio le metodologie di formazione all'avanguardia che guidano gli LLM, come la previsione della parola successiva, la modellazione linguistica mascherata e i meccanismi di attenzione.
<br><br>
<h2>Scopri le preoccupazioni e le considerazioni relative agli LLM</h2>
Affronterai anche le questioni etiche e ambientali più importanti nella creazione e nell'addestramento dei modelli di linguaggio grande (LLM), come i dati di addestramento e le preoccupazioni sulla privacy.
<br><br>
Alla fine del corso, scoprirai come stare al passo con i tempi mentre ti immergi nelle ultime ricerche nel campo dell'LLM. Scoprirai gli sviluppi futuri concentrandoti sulla spiegabilità dei modelli, la gestione dei pregiudizi non supervisionati, l'efficienza computazionale e una maggiore creatività.
<br><br>
Alla fine di questo corso, avrai una comprensione completa dei modelli di linguaggio grande (LLM), delle loro capacità, delle loro applicazioni e delle loro sfide interessanti.

Understanding Machine Learning

Scopri il potenziale degli LLM con il nostro corso su applicazioni, metodi di formazione ed etica.

Concetti sui Large Language Models (LLM)

Scopri il pieno potenziale degli LLM con il nostro corso concettuale su applicazioni, metodologie di training, aspetti etici e ultime ricerche.

Tecniche di apprendimento

Create Your Free Account