ПочатиПочніть безкоштовно

Багатомодальна класифікація сентименту з Qwen

Тепер інтегруємо ваш промпт із Qwen2 Vision Language Model! Ви використаєте шаблон промпту, який створили раніше, він доступний як chat_template.

Подивімося, що модель думає про цю статтю! Модель (vl_model) і процесор (vl_model_processor) уже завантажено для вас.

Ця вправа є частиною курсу

Багатомодальні моделі з Hugging Face

Переглянути курс

Інструкції до вправи

  • Використайте процесор, щоб попередньо обробити chat_template.
  • Використайте модель, щоб згенерувати ідентифікатори виходу, обмеживши кількість нових токенів до 500.
  • Декодуйте обрізані згенеровані ідентифікатори, пропускаючи спеціальні токени.

Інтерактивна практична вправа

Спробуйте виконати цю вправу, доповнивши цей зразок коду.

text = vl_model_processor.apply_chat_template(chat_template, tokenize=False, add_generation_prompt=True)
image_inputs, _ = process_vision_info(chat_template)

# Use the processor to preprocess the text and image
inputs = ____(
    text=[____],
    images=____,
    padding=True,
    return_tensors="pt",
)

# Use the model to generate the output IDs
generated_ids = vl_model.____(**inputs, ____)
generated_ids_trimmed = [out_ids[len(in_ids) :] for in_ids, out_ids in zip(inputs.input_ids, generated_ids)]

# Decode the generated IDs
output_text = vl_model_processor.____(
    generated_ids_trimmed, skip_special_tokens=True
)
print(output_text[0])
Редагувати та запускати код