與 Llama 3 對話
一家資料分析公司正在開發內部的 AI 助理，協助員工快速查詢技術資訊。作為此專案的一部分，他們想整合 Llama 3，並請你進行測試。
為了開始，你會在本機初始化 Llama 3 模型，並針對一個問題產生回應。
模型路徑已儲存在名為 llama_path 的變數中。
本練習屬於課程
使用 Llama 3
練習說明
- 從
llama_cpp匯入Llama類別。 - 初始化一個
Llama執行個體，並將llama_path指定為模型檔案的路徑。
動手互動練習
試著完成這個範例程式碼，體驗一下這個練習。
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)