บันทึกและโหลดสถานะของข้อความที่ผ่านการประมวลผลล่วงหน้า
คุณประมวลผลชุดข้อมูลคำถามและคำตอบด้านการเกษตรสำเร็จแล้ว เพื่อช่วยให้เกษตรกรค้นหาปัญหาที่พบบ่อยในสนาม ขั้นตอนต่อไปคือสร้างและโหลด checkpoint ของข้อมูลข้อความที่ประมวลผลแล้ว เพื่อบันทึกความคืบหน้า
ข้อมูลบางส่วนถูกโหลดไว้ล่วงหน้าแล้ว:
dataloaderมีชุดข้อมูลคำถามและคำตอบด้านการเกษตรที่ผ่านการประมวลผลล่วงหน้าAcceleratorถูก import มาจากaccelerateแล้ว
แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร
การเทรน AI Model อย่างมีประสิทธิภาพด้วย PyTorch
คำแนะนำการฝึกหัด
- บันทึก checkpoint ของข้อมูลที่ประมวลผลล่วงหน้าไว้ใน
checkpoint_dir - โหลด checkpoint จาก
checkpoint_dir
แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ
ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์
accelerator = Accelerator()
dataloader = accelerator.prepare(dataloader)
checkpoint_dir = Path("preprocess_checkpoint")
# Save a checkpoint of the data
____.____(checkpoint_dir)
# Load from the checkpoint
____.____(checkpoint_dir)