Aktiv inlärningsloop
Nu när du har konfigurerat din aktiva inlärare är det dags att använda den! I den här övningen implementerar du en loop som kontinuerligt förbättrar kategoriseringen av datan.
Datamängden har laddats in med X_labeled för märkt träningsdata, X_unlabeled för omärkt träningsdata och y_labeled för etiketter.
Objektet learner har importerats i förväg.
Den här övningen är en del av kursen
Reinforcement Learning from Human Feedback (RLHF)
Övningsinstruktioner
- Implementera en loop som kör
10frågor. - I varje iteration låter du inläraren träna sig själv på den aktuella märkta datan.
- Använd inläraren för att hämta de mest osäkra datapunkterna från den omärkta datan och sätt antalet instanser till
5. - Uppdatera den omärkta datamängden därefter.
Interaktiv övning med praktiskt arbete
Testa den här övningen genom att slutföra den här exempelkoden.
# Set the number of queries
____
for _ in range(n_queries):
# Use the current labeled data
____
# Query from unlabeled data
query_idx, _ = ____
X_new, y_new = X_unlabeled[query_idx], y[query_idx]
X_labeled = np.vstack((X_labeled, X_new))
y_labeled = np.append(y_labeled, y_new)
# Update the unlabeled dataset
X_unlabeled = np.delete(____, query_idx, axis=0)