การรันงาน TorchTune

หลังจากที่ดูรายการตัวเลือกด้วย !tune ls แล้ว ตอนนี้พร้อมที่จะเริ่มงาน fine-tuning ด้วย recipe และ configuration สำหรับโมเดล Llama 3.2 ขนาด 1B บน single device (full_finetune_single_device ร่วมกับ llama3_2/1B_full_single_device)

คำสั่งใดต่อไปนี้ที่จะใช้รันงานสำหรับ 20 epochs บน GPU แบบ single device?

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

Fine-Tuning กับ Llama 3

ดูคอร์ส

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำจริง

เปลี่ยนทฤษฎีให้เป็นการลงมือทำด้วยแบบฝึกหัดเชิงโต้ตอบหนึ่งในของเรา

เริ่มแบบฝึกหัด

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

Fine-Tuning กับ Llama 3

SkillTag.level.intermediateSkillTag.label

4.8+

เริ่มคอร์สฟรี

สำรวจตัวเลือกสำหรับการ fine-tune โมเดล Llama 3 และทำความรู้จักกับ TorchTune ซึ่งเป็นไลบรารีที่ออกแบบมาเพื่อลดความซับซ้อนของกระบวนการ fine-tuning บทนี้จะพาไปผ่านขั้นตอนการเตรียมข้อมูล ระบบ recipe ของ TorchTune และการกำหนดค่างานอย่างมีประสิทธิภาพ เพื่อให้พร้อมเริ่ม fine-tuning งานแรกได้

Exercise 1: ไลบรารีสำหรับ Fine-Tuning Llama Exercise 2: การดูรายการ TorchTune Recipes Exercise 3: การรันงาน TorchTune

แบบฝึกหัดปัจจุบัน

Exercise 4: การเตรียมข้อมูลสำหรับการ fine-tuning Exercise 5: การกรองชุดข้อมูลสำหรับการประเมินผล Exercise 6: การสร้างตัวอย่างข้อมูลสำหรับการเทรน Exercise 7: การบันทึกชุดข้อมูลที่ผ่านการประมวลผลแล้ว Exercise 8: การ Fine-tune ด้วย TorchTune Exercise 9: การกำหนด custom recipe Exercise 10: การบันทึก recipe แบบกำหนดเอง Exercise 11: การรัน fine-tuning แบบกำหนดเอง

เรียนรู้ว่า fine-tuning ช่วยเพิ่มประสิทธิภาพของโมเดลขนาดเล็กสำหรับงานเฉพาะทางได้อย่างมีนัยสำคัญ เริ่มต้นด้วยการ fine-tune โมเดล Llama ขนาดเล็ก จากนั้นศึกษาเทคนิค parameter-efficient fine-tuning อย่าง LoRA และสำรวจการ quantization เพื่อโหลดและใช้งานโมเดลขนาดใหญ่ได้อย่างมีประสิทธิภาพ

Exercise 1: การ Fine-tuning โมเดลด้วย Hugging Face Exercise 2: ตั้งค่าอาร์กิวเมนต์สำหรับการเทรน Llama Exercise 3: Fine-tuning Llama สำหรับงาน QA บริการลูกค้า Exercise 4: ประเมินข้อความที่สร้างขึ้นด้วย ROUGE Exercise 5: การ fine-tuning อย่างมีประสิทธิภาพด้วย LoRA Exercise 6: การใช้งาน LoRA adapters Exercise 7: Fine-tuning Llama ด้วย LoRA สำหรับงานบริการลูกค้า Exercise 8: การทำให้โมเดลเล็กลงด้วย Quantization Exercise 9: การโหลดโมเดลแบบ 8-bit Exercise 10: เพิ่มความเร็ว inference ในโมเดลที่ผ่านการ quantize Exercise 11: ยินดีด้วย!