Prezice următorul cuvânt

Ai lucrat la antrenarea unui LLM folosind predicția următorului cuvânt. Ai furnizat modelului următoarele date de antrenament pentru a învăța din text.

Folosește aplicația interactivă pentru a parcurge secvența pas cu pas și a vedea cum modelul își construiește predicția cuvânt cu cuvânt, împreună cu probabilitatea fiecărei completări posibile.

Care ar fi predicția corectă pentru următorul cuvânt (sau cuvinte)?

Acest exercițiu face parte din cursul

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

Vezi cursul

Exercițiu interactiv practic

Transformă teoria în practică cu unul dintre exercițiile noastre interactive

Începe exercițiul

Acest exercițiu face parte din cursul

Concepte privind Modelele de Limbaj de Mari Dimensiuni (LLM)

SkillTag.level.beginnerSkillTag.label

4.8+

9055 reviews

Începe cursul gratuit

Peisajul inteligenței artificiale evoluează rapid, iar Modelele de Limbaj de Mari Dimensiuni (LLM) se află în fruntea acestei evoluții. Acest capitol analizează modul în care LLM-urile avansează dezvoltarea inteligenței artificiale de tip uman și transformă industriile prin numeroasele lor aplicații. Vei explora provocările și complexitatea asociate cu modelarea limbajului.

Exercise 1: Ascensiunea LLM-urilor în peisajul IA Exercise 2: Definiția unui LLM Exercise 3: LLM-urile în peisajul AI Exercise 4: Aplicații IA vs. LLM Exercise 5: Aplicații din lumea reală Exercise 6: Aplicații în business Exercise 7: Aplicații multimodale Exercise 8: Automatizează sarcinile bazate pe date Exercise 9: Provocările modelării limbajului Exercise 10: Ce poate face un model de limbaj?Exercise 11: Învățare pe o singură sarcină vs. multi-sarcină

Acest capitol pune accent pe noutatea LLM-urilor și pe capabilitățile lor emergente, prezentând totodată diverse tehnici NLP pentru pregătirea datelor. Vei învăța despre provocările antrenării LLM-urilor și despre cum fine-tuning-ul le poate aborda eficient. Vei înțelege, de asemenea, cum tehnicile de învățare N-shot permit adaptarea eficientă a modelelor pre-antrenate atunci când datele etichetate sunt limitate.

Exercise 1: Noutatea LLM-urilor Exercise 2: Rezolvarea problemelor cu LLM-uri Exercise 3: Modele tradiționale vs. LLM-uri Exercise 4: Prezentare generală a NLP Exercise 5: Pregătirea datelor Exercise 6: Preprocesarea și reprezentarea textului Exercise 7: Word embeddings față de bag-of-words Exercise 8: Ajustare fină Exercise 9: Provocări în construirea LLM-urilor Exercise 10: Adaptează un model pre-antrenat Exercise 11: Pre-antrenat sau ajustat fin?Exercise 12: Tehnici de învățare Exercise 13: Ajustează fin un model Exercise 14: Învățarea N-shot

În acest capitol, vei învăța despre componentele fundamentale ale antrenării unui LLM, cum ar fi tehnicile de pre-antrenare. Vei dobândi și o înțelegere intuitivă a unor concepte complexe, precum arhitectura transformer, inclusiv mecanismul de atenție. Capitolul discută o tehnică avansată de fine-tuning și rezumă procesul de antrenare pentru a finaliza un LLM.

Exercise 1: Elementele de bază pentru antrenarea LLM-urilor Exercise 2: Limbaj mascat Exercise 3: Prezice următorul cuvânt

Exercițiul curent

Exercise 4: Construire de la zero Exercise 5: Introducere în transformer Exercise 6: Relații între cuvinte aflate la distanță Exercise 7: Componentele transformerului Exercise 8: Mecanisme de atenție Exercise 9: Focusul atenției multi-cap Exercise 10: Self-attention vs. multi-head attention Exercise 11: Ajustare avansată a modelelor Exercise 12: Antrenare end-to-end Exercise 13: Antrenament, ajustare și feedback Exercise 14: Construirea unui LLM

În acest capitol, explorăm considerațiile esențiale la antrenarea LLM-urilor, cum ar fi disponibilitatea datelor în volum mare, calitatea datelor, etichetarea precisă și implicațiile datelor părtinitoare. Vei examina, de asemenea, diverse riscuri ale LLM-urilor, printre care confidențialitatea datelor, preocupările etice și impactul asupra mediului. În final, capitolul încheie cu o discuție despre domeniile de cercetare emergente și evoluția peisajului LLM-urilor.

Exercise 1: Preocupări și considerații privind datele Exercise 2: Modelul tău este echitabil?Exercise 3: Fără bias și relevante Exercise 4: Serviciul clienți al unei bănci Exercise 5: Preocupări etice și de mediu Exercise 6: Utilizare responsabilă Exercise 7: Etică și mediu Exercise 8: Încotro se îndreaptă LLM-urile?Exercise 9: Creativitate vs. eficiență Exercise 10: Analiza operelor literare Exercise 11: Timp pentru recapitulare