ปรับโมเดลที่ผ่านการ pre-train มาแล้ว

คุณได้รับมอบหมายโปรเจกต์ที่น่าสนใจ ซึ่งเกี่ยวข้องกับการจัดประเภทเอกสารทางกฎหมายโดยใช้เทคนิค NLP ทีมของคุณสามารถเข้าถึงโมเดลภาษาที่ผ่านการ pre-train บนชุดข้อมูลบทความข่าว เพื่อให้โปรเจกต์นี้ประสบความสำเร็จ คุณจำเป็นต้องปรับโมเดลดังกล่าวให้สามารถจัดประเภทเอกสารทางกฎหมายได้อย่างมีประสิทธิภาพ

จะปรับโมเดลภาษาที่ผ่านการ pre-train บนข้อความประเภทอื่น เช่น บทความข่าว ให้สามารถจัดประเภทเอกสารทางกฎหมายได้อย่างไร

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

แนวคิดของ Large Language Models (LLMs)

ดูคอร์ส

แบบฝึกหัดเชิงโต้ตอบแบบลงมือทำจริง

เปลี่ยนทฤษฎีให้เป็นการลงมือทำด้วยแบบฝึกหัดเชิงโต้ตอบหนึ่งในของเรา

เริ่มแบบฝึกหัด

แบบฝึกหัดนี้เป็นส่วนหนึ่งของหลักสูตร

แนวคิดของ Large Language Models (LLMs)

SkillTag.level.beginnerSkillTag.label

4.8+

เริ่มคอร์สฟรี

วงการ AI กำลังพัฒนาอย่างรวดเร็ว และ Large Language Models (LLMs) อยู่แถวหน้าของการเปลี่ยนแปลงนี้ บทนี้จะพาสำรวจว่า LLMs ขับเคลื่อนการพัฒนา AI ที่เลียนแบบความสามารถของมนุษย์อย่างไร และเปลี่ยนแปลงอุตสาหกรรมต่าง ๆ ผ่านการประยุกต์ใช้ที่หลากหลาย พร้อมทำความเข้าใจความท้าทายและความซับซ้อนของการสร้างโมเดลภาษา

Exercise 1: การเติบโตของ LLMs ในแวดวง AI Exercise 2: ความหมายของ LLM Exercise 3: LLMs ในภูมิทัศน์ของ AI Exercise 4: AI vs. แอปพลิเคชัน LLM Exercise 5: การประยุกต์ใช้งานในโลกจริง Exercise 6: การประยุกต์ใช้ในธุรกิจ Exercise 7: แอปพลิเคชัน Multimodal Exercise 8: ทำให้งานที่ขับเคลื่อนด้วยข้อมูลเป็นแบบอัตโนมัติ Exercise 9: ความท้าทายของการสร้างแบบจำลองภาษา Exercise 10: โมเดลภาษาทำอะไรได้บ้าง?Exercise 11: การเรียนรู้แบบงานเดียวและแบบหลายงาน

บทนี้เน้นความแปลกใหม่ของ LLMs และความสามารถที่โผล่พ้นขึ้นมาโดยไม่ได้ตั้งใจ (emergent capabilities) พร้อมแนะนำเทคนิค NLP หลากหลายรูปแบบสำหรับการเตรียมข้อมูล คุณจะได้เรียนรู้ความท้าทายในการฝึก LLMs และวิธีที่การ fine-tuning ช่วยแก้ปัญหาเหล่านั้นได้อย่างมีประสิทธิภาพ รวมถึงทำความเข้าใจว่าเทคนิค N-shot learning ช่วยให้โมเดลที่ผ่านการฝึกมาแล้วปรับตัวได้อย่างมีประสิทธิภาพในสถานการณ์ที่มีข้อมูลที่มีป้ายกำกับจำกัดได้อย่างไร

Exercise 1: ความใหม่ของ LLMs Exercise 2: การแก้ปัญหาด้วย LLM Exercise 3: โมเดลแบบดั้งเดิม vs. LLM Exercise 4: ภาพรวมของ NLP Exercise 5: การเตรียมข้อมูล Exercise 6: การประมวลผลและการแทนค่าข้อความ Exercise 7: Word Embeddings เหนือกว่า Bag-of-Words Exercise 8: การปรับแต่งโมเดล (Fine-tuning)Exercise 9: ความท้าทายในการสร้าง LLM Exercise 10: ปรับโมเดลที่ผ่านการ pre-train มาแล้ว

แบบฝึกหัดปัจจุบัน

Exercise 11: Pre-training หรือ Fine-tuning?Exercise 12: เทคนิคการเรียนรู้Exercise 13: Fine-tune โมเดล Exercise 14: N-shot learning

บทนี้จะอธิบายส่วนประกอบพื้นฐานของการฝึก LLM เช่น เทคนิค pre-training พร้อมทั้งช่วยให้เข้าใจแนวคิดที่ซับซ้อน อย่าง transformer architecture รวมถึง attention mechanism อย่างกระจ่าง นอกจากนี้ยังครอบคลุมเทคนิค fine-tuning ขั้นสูง และสรุปกระบวนการฝึกโมเดลทั้งหมดเพื่อให้ LLM สมบูรณ์

Exercise 1: ส่วนประกอบพื้นฐานในการฝึก LLMs Exercise 2: Masked Language Exercise 3: ทำนายคำถัดไป Exercise 4: สร้างจากศูนย์Exercise 5: แนะนำ Transformer Exercise 6: ความสัมพันธ์ระหว่างคำที่อยู่ห่างกัน Exercise 7: ส่วนประกอบของ Transformer Exercise 8: กลไก Attention Exercise 9: จุดมุ่งเน้นของ Multi-head Attention Exercise 10: Self-attention vs. Multi-head Attention Exercise 11: การ Fine-tuning ขั้นสูง Exercise 12: การเทรนแบบครบวงจร Exercise 13: การฝึก การปรับแต่ง และการให้ข้อเสนอแนะ Exercise 14: การสร้าง LLM

ในบทนี้จะเจาะลึกประเด็นสำคัญที่ต้องคำนึงถึงในการฝึก LLMs ไม่ว่าจะเป็นความพร้อมของข้อมูลขนาดใหญ่ คุณภาพข้อมูล การติดป้ายกำกับที่แม่นยำ และผลกระทบของข้อมูลที่มีความลำเอียง นอกจากนี้ยังตรวจสอบความเสี่ยงต่าง ๆ ของ LLMs เช่น ความเป็นส่วนตัวของข้อมูล ข้อกังวลด้านจริยธรรม และผลกระทบต่อสิ่งแวดล้อม และสรุปด้วยการอภิปรายเกี่ยวกับงานวิจัยที่กำลังเกิดขึ้นและทิศทางที่เปลี่ยนแปลงไปของ LLMs

Exercise 1: ข้อกังวลและข้อพิจารณาด้านข้อมูล Exercise 2: โมเดลของคุณยุติธรรมหรือไม่?Exercise 3: ข้อมูลที่ไม่ลำเอียงและเกี่ยวข้อง Exercise 4: บริการลูกค้าของธนาคาร Exercise 5: ข้อกังวลด้านจริยธรรมและสิ่งแวดล้อม Exercise 6: การใช้งานอย่างมีความรับผิดชอบ Exercise 7: จริยธรรมและสิ่งแวดล้อม Exercise 8: LLM กำลังมุ่งหน้าไปทางไหน?Exercise 9: ความสร้างสรรค์ vs. ประสิทธิภาพ Exercise 10: การวิเคราะห์ผลงานวรรณกรรม Exercise 11: ถึงเวลาสรุป