Large Language Models (LLMs) が何で、何ができるのかを理解し、その仕組みの概要をのぞいて学習を始めましょう。

大規模言語モデル（LLM）入門

要約のためのパイプラインを使う

返信の整形

事前学習済みLLMの活用

テキストを生成する

テキストを翻訳する

Transformerを理解する

トランスフォーマーを特定する

正しいモデル構造を使う

Large Language Models (LLMs) を始めよう

Hugging Face の事前学習済み LLM とデータセットを活用して、モデルをファインチューニングする方法を学びます。

ファインチューニングの準備

テキストのトークナイズ

トークナイズのマッピング

学習によるファインチューニング

TrainingArguments の設定

Trainer のセットアップ

ファインチューニング済みモデルを使う

ファインチューニングのアプローチ

ワンショット学習による転移学習

転移学習のアプローチ

LLMs のファインチューニング

モデル性能を評価するためのさまざまな指標を学び、現実世界で LLM を適用する際の課題にも触れて締めくくります。

evaluate ライブラリ

evaluate でメトリックを読み込む

指標を説明する

evaluate の評価指標を使う

言語タスクの評価指標：perplexity と BLEU

perplexity を評価する

BLEU の翻訳

言語タスクの評価指標：ROUGE、METEOR、EM

ROUGE で評価する

METEORで評価する

EM で評価する

LLMを安全に運用する

有害度（toxicity）の確認

regard を評価する

ゴールテープを切ろう

LLM の性能評価

Course Glossary Introduction to LLMs in Python

Large Language Models (LLMs) は、現在のAI分野で最も目覚ましい進歩と応用を支える中心的な技術です。本コースでは、実践的な演習を通じて、翻訳、文章生成、質問応答などの複雑な言語タスクを解くために、LLMs を理解し、構築し、活用するための知識とスキルを身につけます。インタラクティブなコーディング演習を通じて、transformers の使い方を学びます。さらに、Hugging Face にある事前学習済み言語モデルやデータセットも扱います。コース修了時には、事前学習済みの LLM を特化した評価指標でファインチューニングし、評価できるようになります。実世界の LLM アプリケーションを実現する際の主な課題や倫理的配慮についての理解も深めます。

動画にはライブ字幕が含まれており、動画左下の「Show transcript」をクリックすると表示できます。
コース用語集は、右側のリソースセクションにあります。
CPE クレジットを取得するには、コースを完了し、資格評価で 70% に到達する必要があります。右側の CPE クレジットの案内をクリックすると評価に移動できます。

<h2>大規模言語モデルの熱狂の裏側を解き明かす</h2>
<br><br>
大規模言語モデル（LLM）は、今日のAI分野における最も目覚ましい進歩や応用のいくつかを牽引する、不可欠なツールとなっています。 この実践的なコースでは、翻訳、言語生成などの複雑な言語タスクを解決するために、LLMを理解し、構築し、その力を活用するために必要な実践的な知識とスキルを身につけられます。
<br><br>
<h2>LLMアーキテクチャを理解し、事前学習済みモデルを活用する</h2>
<br><br>
インタラクティブなコーディング演習を通じて、さまざまなトランスフォーマーアーキテクチャを学び、それらを見分ける方法を身につけます。 Hugging Faceの事前学習済み言語モデルとデータセットを活用し、LLMに適した高度な指標を用いてモデルのファインチューニングと評価を行う方法を学びます。 最後に、LLMに関連する倫理やバイアスの懸念について、さらに詳しく学び、それらを見極める方法も身につけます。 このコースを修了する頃には、LLMを構築し、ファインチューニングし、専門的な指標を用いて評価できるようになります。また、実世界でLLMアプリケーションを実現するうえでの主要な課題と倫理的な考慮事項についても理解できるようになります。

Working with Hugging Face

LLMとその基盤である革新的なトランスフォーマーアーキテクチャの基本を学ぼう！

Pythonで学ぶ LLM 入門

LLMの基礎と、その基盤となる革新的なTransformerアーキテクチャを学びましょう！

言語タスクの評価指標：perplexity と BLEU

Create Your Free Account