Форматування підказок для Llama
Моделям інколи складно відокремити завдання, очікуваний результат і додатковий контекст у довгій неструктурованій підказці. Щоб це виправити, додайте чіткі мітки, які розіб'ють підказку на частини й допоможуть моделі розрізняти інформацію.
Модель Llama доступна як llm і буде доступна до кінця курсу.
Ця вправа є частиною курсу
Робота з Llama 3
Інструкції до вправи
- Додайте до підказки мітки
Instruction,QuestionіAnswer, щоб оформити її більш чітко. - Передайте підказку моделі.
Інтерактивна практична вправа
Спробуйте виконати цю вправу, доповнивши цей зразок коду.
# Add formatting to the prompt
prompt="""
____: Explain the concept of gravity in simple terms.
____: What is gravity?
____:
"""
# Send the prompt to the model
output = llm(____, max_tokens=15, stop=["Question:"])
print(output['choices'][0]['text'])