Llama 3 とチャットする
あるデータ分析企業が、社員が技術情報にすばやくアクセスできるように、社内向けの AI アシスタントを開発しています。このプロジェクトの一環として Llama 3 を統合したいと考えており、あなたにテストを依頼しました。
まずはローカルで Llama 3 モデルを初期化し、質問に対する応答を生成します。
モデルのパスは、llama_path という変数にすでに保存されています。
この演習はコースの一部です
Llama 3 を使いこなす
演習の手順
llama_cppからLlamaクラスをインポートします。- モデルファイルへのパスとして
llama_pathを指定し、Llamaのインスタンスを初期化します。
実践的なインタラクティブ演習
このサンプルコードを完成させて、この演習に挑戦してみましょう。
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)