Llama 3와 대화하기
한 데이터 분석 회사가 직원들이 기술 정보를 빠르게 찾을 수 있도록 내부용 AI 도우미를 개발하고 있습니다. 이 프로젝트의 일환으로 Llama 3를 통합하려고 하며, 여러분에게 테스트를 요청했습니다.
먼저, 로컬에서 Llama 3 모델을 초기화하고 질문에 대한 응답을 생성해 보세요.
모델 경로는 이미 llama_path라는 변수에 저장되어 있습니다.
이 연습은 강의의 일부입니다
Llama 3 다루기
연습 안내
llama_cpp에서Llama클래스를 가져오세요.- 모델 파일 경로에
llama_path를 지정하여Llama인스턴스를 초기화하세요.
실습형 인터랙티브 연습
이 예제를 이 샘플 코드를 완성하여 풀어보세요.
# Import the Llama class
from llama_cpp import ____
# Initialize the Llama model
llm = ____(model_path=____)
question = "What is the most used database for data storage?"
response = llm(question)
print(response)