or
Ця вправа є частиною курсу
Сфера великих мовних моделей стрімко зростає, і Llama вирізняється серед інших. З Llama 3 можливості суттєво розширилися. Дослідіть її можливості, навчіться використовувати її з llama-cpp-python і зрозумійте, як керувати поведінкою моделі, змінюючи параметри та задаючи конкретні ролі для спрямування розмови.
Мовні моделі можуть не лише генерувати текст — їх можна спрямовувати на створення структурованих і контекстно обізнаних відповідей. У цьому розділі ви дізнаєтеся, як використовувати llama-cpp-python для генерування результатів у заданих форматах, зокрема JSON-сумісних відповідей для інтеграції даних. Ви також вдосконалите результати Llama за допомогою технік формулювання підказок, щоб узгоджувати відповіді з різними завданнями. Нарешті, ви створите діалоги, що зберігають контекст у кількох обмінах, забезпечуючи природнішу взаємодію.
Поточна вправа