API di health-check per il caricamento del modello

Dopo aver caricato il modello all'avvio del server, devi sviluppare un endpoint di test per costruire un sistema di monitoraggio in grado di rilevare se il modello è pronto ad analizzare i commenti degli utenti.

In questo esercizio creerai un endpoint di health check che ti permette di verificare lo stato della tua API e attivare avvisi se sentiment_model non è disponibile.

Nota: sentiment_model è già pre-caricato per te.

Questo esercizio fa parte del corso

Deployment di AI in produzione con FastAPI

Visualizza corso

Istruzioni dell'esercizio

Crea un endpoint GET usando la route /health.
Controlla se sentiment_model è caricato verificando che la variabile del modello non sia None.
Imposta status su healthy e model_loaded su True nella risposta quando il modello è caricato correttamente; altrimenti imposta status su unhealthy e model_loaded su False.
Apri un terminale e avvia il server eseguendo main.py con il comando python3 main.py.
Apri un altro terminale dall'angolo in alto a destra del terminale per testare l'endpoint health usando il comando curl: curl -X GET "http://localhost:8080/health" -H "accept: application/json"

esercizio interattivo pratico

Trasforma la teoria in pratica con uno dei nostri esercizi interattivi

Inizia esercizio

Questo esercizio fa parte del corso

Deployment di AI in produzione con FastAPI

AvançadoNível de habilidade

4.8+

Inizia il corso gratuitamente

Inizia a servire le predizioni del tuo modello di ML tramite endpoint FastAPI. Imparerai a caricare modelli di ML pre-addestrati e a creare endpoint API per fornire predizioni come risposte serializzate su richieste HTTP. Sfrutterai i modelli di dati Pydantic per validare richieste e risposte.

Exercise 1: Richieste GET e POST per l'AI Exercise 2: Endpoint GET per le informazioni sul modello Exercise 3: Endpoint POST per la registrazione del modello Exercise 4: Predizione FastAPI con un modello pre-addestrato Exercise 5: Carica il modello pre-addestrato Exercise 6: Crea l'endpoint di previsione Exercise 7: Esecuzione dell'app FastAPI Exercise 8: Modelli di richiesta e risposta Exercise 9: Crea un modello Pydantic per l'input ML Exercise 10: Convalida richiesta e risposta per la previsione ML

Impara a servire modelli di Machine Learning tramite endpoint FastAPI. Questo capitolo copre la creazione di endpoint che restituiscono predizioni, la gestione di diversi tipi di dati in input e l'implementazione di una validazione dell'input solida. Costruirai API pronte per la produzione in grado di validare tipi di input differenti, con i modelli di ML caricati all'avvio del server senza tempi di inattività.

Exercise 1: Gestire diversi tipi di input in FastAPI Exercise 2: Gestisci dati testuali nella richiesta Exercise 3: Gestire dati numerici nella richiesta Exercise 4: Validazione dell'input in FastAPI Exercise 5: Validazione dei campi Exercise 6: Aggiungere validator personalizzati Exercise 7: Test dei validator personalizzati Exercise 8: Caricare un modello pre-addestrato Exercise 9: Caricare il modello di AI all'avvio del server Exercise 10: API di health-check per il caricamento del modello

Esercizio attuale

Exercise 11: Restituire una risposta di previsione strutturata Exercise 12: Restituire output strutturati dall'API Exercise 13: Testare l'endpoint con una risposta strutturata

Questo capitolo tratta la messa in sicurezza delle API con autenticazione basata su chiave, la gestione del volume di richieste con rate limiting personalizzato e il miglioramento delle prestazioni tramite elaborazione asincrona. Imparerai a proteggere gli endpoint, prevenire abusi e gestire in modo efficiente le operazioni dispendiose in tempo, preparando la tua API per la produzione.

Exercise 1: Autenticazione con API key Exercise 2: Mettere in sicurezza le API con l'autenticazione a chiave Exercise 3: Proteggi l'endpoint dell'API Exercise 4: Limitazione della frequenza Exercise 5: Implementare un rate limiter Exercise 6: Aggiungi il rate limiting all'endpoint Exercise 7: Elaborazione asincrona Exercise 8: Crea un endpoint async per l'analisi del sentiment Exercise 9: Implementare task in background Exercise 10: Gestire gli errori di timeout

Questo capitolo affronta argomenti avanzati che ti permetteranno di supportare a lungo termine app FastAPI in produzione. Gli argomenti includono versioning e documentazione degli endpoint API, validazione avanzata dell'input per supportare input e output più complessi, e monitoraggio e logging per garantire il corretto funzionamento delle app e risolvere i problemi in tempo reale quando non lo è.

Exercise 1: Versioning e documentazione delle API Exercise 2: Classifica le modifiche al codice per le nuove versioni degli endpoint Exercise 3: Aggiungere una nuova versione dell'endpoint Exercise 4: Aggiungere un'intestazione di descrizione all'API Exercise 5: Convalida avanzata degli input e gestione degli errori Exercise 6: Nidificare i modelli Exercise 7: Validator personalizzato del modello Exercise 8: Gestore globale delle eccezioni Exercise 9: Monitoraggio e logging Exercise 10: Registrare il tempo di caricamento di un modello Exercise 11: Aggiungere un semplice endpoint di health check Exercise 12: Condividere i parametri del modello con il monitoring Exercise 13: Riepilogo