開始透過 FastAPI 端點提供你的 ML 模型預測。你將學會載入預先訓練的 ML 模型，並建立 API 端點，將預測結果以序列化回應透過 HTTP 請求送出。你會運用 Pydantic 資料模型來驗證請求與回應。

AI 的 GET 與 POST 請求

取得模型資訊的 GET 端點

用於模型註冊的 POST 端點

使用預先訓練模型進行 FastAPI 預測

# Import the necessary module
import ____ 

# Load the pre-trained model
model = ____.____('penguin_classifier.pkl')

# Print the type of the loaded model
print(f"Loaded model type: {____(model)}")

# Import the necessary module
import joblib 

# Load the pre-trained model
model = joblib.load('penguin_classifier.pkl')

# Print the type of the loaded model
print(f"Loaded model type: {type(model)}")

載入預先訓練的模型

建立預測端點

# Import the server module
import ____
from main import app

if __name__ == "__main__":
    # Start the uvicorn server
    uvicorn.____(
	  app, 
      # Configure the host
      host="____",
      # Configure the port
      port=____)

from fastapi import FastAPI, HTTPException
from pydantic import BaseModel

app = FastAPI()
model_db = {}

class ModelInfo(BaseModel):
    model_id: int
    model_name: str
    description: str

# Specify the status code for successful POST request
@app.post("/register-model", status_code=201)
# Pass the model info from the request as function parameter
def register_model(model_info: ModelInfo):
    # Add new model's information dictionary to the model database
    model_db[model_info.model_id] = model_info.dict()
    # Return model info dictionary corresponding to model along with success status code
    return {"message": "Model registered successfully", "model": model_info}, 201

# Import the server module
import uvicorn
from main import app

if __name__ == "__main__":
    # Start the uvicorn server
    uvicorn.run(
	  app, 
      # Configure the host
      host="0.0.0.0", 
      # Configure the port
      port=8080)

執行 FastAPI 應用程式

請求與回應模型

為 ML 輸入建立 Pydantic 模型

驗證 ML 預測的請求與回應

使用 FastAPI 進行模型佈署入門

學習如何透過 FastAPI 端點提供機器學習模型服務。本章涵蓋建立回傳預測結果的端點、處理不同型態的輸入資料，以及實作穩健的輸入驗證。你將打造可上線的 API，能驗證多種輸入資料型態，並在伺服器啟動時載入 ML 模型且達到零停機。

在 FastAPI 中處理不同的輸入型別

處理文字型的請求資料

處理數值型請求資料

FastAPI 的輸入驗證

欄位驗證

加入自訂驗證器

測試自訂驗證器

在伺服器啟動時載入 AI 模型

模型載入的健康檢查 API

回傳結構化的預測回應

從 API 回傳結構化輸出

測試能回傳結構化結果的端點

整合 AI 模型

本章說明如何以金鑰式驗證保護 API、以自訂速率限制管理請求頻率，並透過非同步處理提升效能。你將學會保護端點、預防濫用，並有效處理耗時工作，為 API 上線做好準備。

API Key 驗證

使用金鑰驗證保護 API

保護 API 端點

頻率限制

實作速率限制器

為端點加入 rate limiting

非同步處理

建立非同步的情感分析端點

實作背景任務

處理逾時錯誤

保護並最佳化 API

本章涵蓋進階主題，協助你在生產環境中長期維運 FastAPI 應用。內容包含 API 端點的版本控管與文件撰寫、支援更複雜輸入與輸出的進階輸入驗證，以及監控與記錄，以確保應用正常運作，並在異常時即時除錯。

API 版本管理與文件

為新端點版本分類程式碼變更

新增端點版本

加入 API 說明標頭

進階輸入驗證與錯誤處理

巢狀模型

自訂模型驗證器

全域例外處理器

監控與記錄

記錄載入模型所花費的時間

加入簡單的健康檢查端點

與監控分享模型參數

總結

API 版本控管、監控與記錄

掌握使用 FastAPI 將機器學習模型佈署到生產環境的技巧。你將學會打造穩健、可擴充的 AI 驅動 API，整合預先訓練的模型，並處理複雜的資料輸入。你會學到如何保護 API、實作驗證機制，並以非同步處理最佳化效能。進階主題包含 API 版本控管、日誌與監控策略。課程結束時，你將能開發符合真實情境需求的高效率 AI 模型服務。本課程非常適合資料科學家與開發者，協助你銜接 AI 開發與可上線應用之間的落差。

<h2>使用 FastAPI 部署 AI 模型</h2> 
FastAPI 是一款適合用於構建 API 的 Python 網頁框架，特別適合部署機器學習和 AI 模型。 FastAPI 的高速與模組化特性，使其成為資料科學家與機器學習工程師在將 AI 解決方案整合至網路應用程式時的強大選擇。<br><br> 
<h2>為生產環境中的模型建立 API</h2> 
在本課程中，您將學習如何使用 FastAPI 建立並部署用於模型服務的 API。 在課程結束時，您將能夠建立強大的 API 端點，處理資料輸入驗證、身份驗證以及錯誤管理。 實作練習將引導您建立能夠處理 AI 模型互動的完整 API。<br><br> 
<h2>保護與擴展 FastAPI 應用程式</h2> 您還將實作 API 金鑰驗證、應用自訂的速率限制以控制請求流量，並透過非同步處理提升效能。 此外，您還將學習如何管理 API 版本、提升複雜資料型別的輸入驗證，以及實作監控與日誌記錄，確保您的應用程式在生產環境中穩定運行。

Introduction to FastAPI

Large Language Models (LLMs) Concepts

學習使用FastAPI開發支持AI模型的API，以滿足現實需求。

使用 FastAPI 將 AI 佈署到生產環境

掌握使用 FastAPI 開發支援 AI 模型的 API，滿足實際應用需求。

載入預先訓練的模型

使用 FastAPI 將 AI 佈署到生產環境

動手互動練習