เริ่มต้นใช้งานเริ่มต้นใช้งานได้ฟรี

การกำหนดค่าเริ่มต้นของเลเยอร์

การกำหนดค่าเริ่มต้นให้กับน้ำหนักของโครงข่ายประสาทเทียมเป็นประเด็นที่นักวิจัยให้ความสนใจมาอย่างยาวนาน วิธีที่เลือกใช้ในการกำหนดค่าเริ่มต้นนั้นส่งผลโดยตรงต่อประสิทธิภาพสุดท้ายของโมเดล

ในฐานะผู้ปฏิบัติงานด้าน machine learning คุณควรทดลองใช้กลยุทธ์การกำหนดค่าเริ่มต้นแบบต่าง ๆ ในแบบฝึกหัดนี้ เราจะสร้างโครงข่ายประสาทเทียมขนาดเล็กที่ประกอบด้วยสองเลเยอร์ และกำหนดค่าเริ่มต้นของน้ำหนักแต่ละเลเยอร์ด้วยวิธี uniform

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

Deep Learning เบื้องต้นด้วย PyTorch

ดูคอร์ส

คำแนะนำการฝึกหัด

  • สำหรับแต่ละเลเยอร์ (layer0 และ layer1) ให้ใช้วิธี uniform initialization เพื่อกำหนดค่าเริ่มต้นให้กับน้ำหนัก

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำ

ลองทำแบบฝึกหัดนี้โดยเติมโค้ดตัวอย่างนี้ให้สมบูรณ์

layer0 = nn.Linear(16, 32)
layer1 = nn.Linear(32, 64)

# Use uniform initialization for layer0 and layer1 weights
nn.____.____(____)
nn.____.____(____)

model = nn.Sequential(layer0, layer1)
แก้ไขและรันโค้ด