Bắt đầu ngayBắt đầu miễn phí

Ánh xạ quá trình tokenization

Giờ bạn muốn thử kiểm soát chặt chẽ hơn việc tokenization và muốn thử tokenize dữ liệu theo từng hàng hoặc theo lô. Cách này cũng sẽ trả về một đối tượng DataSet, thứ bạn cần cho việc huấn luyện.

tokenizer đã được nạp sẵn cho bạn cùng với dữ liệu dưới dạng train_datatest_data.

Bài tập này là một phần của khóa học

Nhập môn LLMs trong Python

Xem khóa học

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

# Complete the function
def tokenize_function(data):
    return tokenizer(data["interaction"], 
                     ____, 
                     padding=True, 
                     ____, 
                     max_length=64)

tokenized_in_batches = ____
Chỉnh sửa và Chạy Mã