หลีกเลี่ยง Rate Limit ด้วย Retry

คุณสร้างฟังก์ชันสำหรับเรียกใช้ Chat Completions พร้อมข้อความที่กำหนดเอง แต่พบว่าบางครั้งเกิดข้อผิดพลาดเนื่องจาก Rate Limit จึงตัดสินใจใช้ decorator @retry จากไลบรารี tenacity เพื่อลดข้อผิดพลาดที่อาจเกิดขึ้น

นำเข้าไลบรารี tenacity พร้อมฟังก์ชันที่จำเป็น ได้แก่ retry, wait_random_exponential และ stop_after_attempt
สร้าง OpenAI API client
กำหนดพารามิเตอร์ใน retry decorator ให้เริ่มลองใหม่ที่ช่วงเวลา 5 วินาที สูงสุด 40 วินาที และหยุดหลังจากลองครบ 4 ครั้ง

หากแบบฝึกหัดหมดเวลา ให้ตรวจสอบว่าค่าช่วงเวลาและจำนวนครั้งตรงกับที่ระบุไว้ข้างต้นทุกประการ

.css-6su6fj{-webkit-flex-shrink:0;-ms-flex-negative:0;flex-shrink:0;}แบบฝึกหัด

คำแนะนำ

แบบฝึกหัด