Ánh xạ quá trình tokenization
Giờ bạn muốn thử kiểm soát chặt chẽ hơn việc tokenization và muốn thử tokenize dữ liệu theo từng hàng hoặc theo lô. Cách này cũng sẽ trả về một đối tượng DataSet, thứ bạn cần cho việc huấn luyện.
tokenizer đã được nạp sẵn cho bạn cùng với dữ liệu dưới dạng train_data và test_data.
Bài tập này là một phần của khóa học
Nhập môn LLMs trong Python
Bài tập tương tác thực hành trực tiếp
Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.
# Complete the function
def tokenize_function(data):
return tokenizer(data["interaction"],
____,
padding=True,
____,
max_length=64)
tokenized_in_batches = ____