एक Gradient Boosting मॉडल
अब हम एक gradient boosting (GB) मॉडल फिट करेंगे। कहा जाता है कि एक linear मॉडल Toyota Camry जैसा है, और GB Black Hawk helicopter जैसा। GB में random forests को पीछे छोड़ने की क्षमता होती है, लेकिन यह हमेशा ऐसा नहीं करता। इसे no free lunch theorem कहा जाता है, जिसका मतलब है कि हर समस्या पर हमें अलग-अलग कई मॉडल आज़माने चाहिए।
GB random forest मॉडलों जैसा ही है, लेकिन फ़र्क यह है कि पेड़ क्रमिक रूप से बनाए जाते हैं। हर iteration में अगला पेड़ पिछले पेड़ की residual errors को फिट करता है, ताकि कुल फिट बेहतर हो सके।
अभी के लिए हम hyperparameters की खोज नहीं करेंगे — यह आपके लिए पहले से की जा चुकी है.
यह अभ्यास पाठ्यक्रम का हिस्सा है
Python में Finance के लिए Machine Learning
अभ्यास निर्देश
- दिए गए hyperparameters के साथ एक
GradientBoostingRegressorऑब्जेक्ट बनाएँ. gbrमॉडल कोtrain_featuresऔरtrain_targetsपर फिट करें.- training और test features तथा targets के लिए स्कोर प्रिंट करें.
इंटरैक्टिव व्यावहारिक अभ्यास
इस अभ्यास को इस नमूना कोड को पूरा करके आज़माएँ।
from sklearn.ensemble import GradientBoostingRegressor
# Create GB model -- hyperparameters have already been searched for you
gbr = ____(max_features=4,
learning_rate=0.01,
n_estimators=200,
subsample=0.6,
random_state=42)
gbr.fit(____)
print(gbr.score(train_features, train_targets))
____