Hoàn thiện phương thức forward

Sau khi thiết lập các tầng trong phương thức __init__, phương thức forward sẽ quyết định dữ liệu đi qua chúng như thế nào. Trong PyTorch Lightning, việc tách biệt này giúp mã của bạn gọn gàng và dễ bảo trì. Bạn đã thấy cách cấu trúc constructor — giờ là lúc tập trung vào forward pass, đảm bảo logic phân loại rõ ràng và tối ưu cho quá trình huấn luyện. Ở đây, các tầng trong __init__ đã được định nghĩa sẵn, nên bạn có thể tập trung hoàn toàn vào luồng forward.

lightning.pytorch và torch.nn đã được nhập sẵn lần lượt với bí danh pl và nn.

Bài tập này là một phần của khóa học

Mô hình AI có khả năng mở rộng với PyTorch Lightning

Xem khóa học

Hướng dẫn bài tập

Cài đặt phương thức forward bên trong ClassifierModel.
Áp dụng kích hoạt ReLU sau hidden layer.

Bài tập tương tác thực hành trực tiếp

Hãy thử làm bài tập này bằng cách hoàn thành đoạn mã mẫu này.

class ClassifierModel(pl.LightningModule):
  
    def __init__(self, input_dim, hidden_dim, output_dim):
        super().__init__()
        self.hidden = nn.Linear(input_dim, hidden_dim)
        self.output = nn.Linear(hidden_dim, output_dim)
        
    # Define forward method
    def ____(self, ____):
        # Complete the forward pass
        x = self.hidden(x)
        x = ____(x)
        x = self.output(x)
        return x

Chỉnh sửa và Chạy Mã

Bài tập này là một phần của khóa học

Mô hình AI có khả năng mở rộng với PyTorch Lightning

SkillTag.level.intermediateSkillTag.label

4.8+

Bắt đầu khóa học miễn phí

Trong chương này, chúng ta sẽ khám phá cách PyTorch Lightning đơn giản hóa việc phát triển và triển khai các mô hình AI có khả năng mở rộng. Bắt đầu từ các khái niệm nền tảng, chúng ta sẽ đi qua cấu trúc cốt lõi của một dự án PyTorch Lightning, bao gồm các thành phần thiết yếu như LightningModule và Trainer, để tạo nền tảng vững chắc cho các giải pháp AI nâng cao hơn.

Exercise 1: Giới thiệu về PyTorch Lightning Exercise 2: Làm quen với LightningModule Exercise 3: Chạy Lightning Trainer Exercise 4: Định nghĩa mô hình với LightningModule Exercise 5: Cách sử dụng LightningModule Exercise 6: Thành thạo phương thức init Exercise 7: Hoàn thiện phương thức forward

Bài tập hiện tại

Exercise 8: Triển khai logic huấn luyện Exercise 9: Cài đặt bước huấn luyện Exercise 10: Cấu hình optimizer Exercise 11: Huấn luyện và đánh giá

Chúng ta sẽ đi sâu hơn vào PyTorch Lightning để quản lý dữ liệu hiệu quả và tinh chỉnh quá trình huấn luyện mô hình trong chương này. Bạn sẽ học cách tạo các quy trình dữ liệu theo mô-đun, có thể tái sử dụng với LightningDataModule, đánh giá mô hình chính xác thông qua validation và testing, và nâng cao quá trình huấn luyện bằng Lightning Callbacks để tự động cải thiện mô hình và tránh overfitting.

Exercise 1: Quản lý dữ liệu với LightningDataModule Exercise 2: Chia dữ liệu với LightningDataModule Exercise 3: Tạo DataLoader cho train Exercise 4: Tích hợp validation và testing Exercise 5: Triển khai bước validation Exercise 6: Đánh giá độ chính xác của mô hình với Torchmetrics Exercise 7: Nâng cao quá trình huấn luyện với Lightning callbacks Exercise 8: Phân loại các callback trong Lightning Exercise 9: Tối ưu hóa quá trình huấn luyện với Lightning

Học cách chuẩn bị mô hình học sâu cho triển khai thực tế bằng cách làm cho chúng gọn nhẹ và nhanh hơn. Chương này giới thiệu các kỹ thuật như dynamic quantization, pruning và chuyển đổi sang TorchScript, giúp bạn giảm kích thước mô hình và độ trễ mà không làm giảm độ chính xác

Exercise 1: Áp dụng lượng tử hóa động Exercise 2: Áp dụng lượng tử hóa động Exercise 3: So sánh hiệu năng của mô hình đã lượng tử hóa Exercise 4: Triển khai các kỹ thuật cắt tỉa mô hình Exercise 5: Áp dụng pruning cho một lớp linear Exercise 6: Hoàn tất việc pruning bằng cách gỡ mặt nạ Exercise 7: Xuất mô hình với TorchScript Exercise 8: Chọn phương pháp chuyển đổi phù hợp Exercise 9: Tối ưu hóa mô hình để mở rộng quy mô Exercise 10: Tổng kết: Mô hình AI có khả năng mở rộng với PyTorch Lightning