データに関する懸念と考慮事項

Create Your Free Account

or

By continuing, you accept our Terms of Use, our Privacy Policy and that your data is stored in the USA.

この演習はコースの一部です

大規模言語モデル（LLM）の基本

SkillTag.level.beginnerSkillTag.label

4.8+

無料でコースを始める

AIの分野は急速に進化しており、なかでも大規模言語モデル（LLM）はその最前線に位置しています。この章では、LLMが人間に近いAIの発展にどう貢献しているか、またさまざまな応用を通じてビジネスや生活をどのように変革しているかを学びます。さらに、言語モデリングに伴う課題についても探っていきます。

Exercise 1: AIにおけるLLMの台頭 Exercise 2: LLMの定義 Exercise 3: AIの全体像におけるLLM Exercise 4: AIとLLMのアプリケーションの違い Exercise 5: 実際の活用事例 Exercise 6: ビジネスでの活用例 Exercise 7: マルチモーダルの用途 Exercise 8: データを使ったタスクを自動化する Exercise 9: 言語モデリングの課題 Exercise 10: 言語モデルができること Exercise 11: シングルタスクとマルチタスク学習

この章では、LLMの革新性と創発的能力に焦点を当て、データの前処理に用いる各種自然言語処理技術（NLP）について解説します。LLMを学習させる際の課題と、ファインチューニングによる解決方法を学びます。また、ラベル付きデータが限られた状況でも、事前学習済みモデルを効率的に適応させる「Nショット学習」の手法についても触れます。

Exercise 1: LLMの革新性 Exercise 2: LLMによる問題解決 Exercise 3: 従来のモデルとLLMの比較 Exercise 4: NLPの概要 Exercise 5: データの前処理 Exercise 6: テキストの前処理と表現 Exercise 7: 「Bag of Words」よりも優れた「単語埋め込み」Exercise 8: ファインチューニング Exercise 9: LLM構築における課題 Exercise 10: 事前学習済みモデルの適応 Exercise 11: 事前学習とファインチューニング Exercise 12: 学習手法 Exercise 13: モデルのファインチューニング Exercise 14: Nショット学習

この章では、事前学習などLLMをトレーニングするための基本的な構成要素を学びます。また、アテンション機構を含むTransformerアーキテクチャといった複雑な概念についても学習していきます。さらに、高度なファインチューニング手法を取り上げ、LLMを完成させる学習プロセス全体をまとめます。

Exercise 1: LLMを訓練させるための基本要素 Exercise 2: マスク言語 Exercise 3: 次の単語予測 Exercise 4: ゼロからの構築 Exercise 5: Transformerについて Exercise 6: はなれた単語同士の関係 Exercise 7: Transformerの構成要素 Exercise 8: アテンション機構 Exercise 9: マルチヘッドアテンションの着眼点 Exercise 10: セルフヘッドとマルチヘッドアテンション Exercise 11: 高度なファインチューニング Exercise 12: 学習の流れ Exercise 13: 学習→チューニング→フィードバック Exercise 14: LLMの構築

この章では、大量データの入手法、データ品質、正確なラベリング、偏ったデータがもたらす影響など、LLMにおいて考慮すべき事項をいくつか掘り下げます。また、データプライバシー、倫理的懸念、環境への影響といったLLMに関わるさまざまなリスクについても見ていきます。最後に、新たな研究領域とLLMを取り巻く状況の変化について考察します。

Exercise 1: データに関する懸念と考慮事項

現在の演習

Exercise 2: モデルの公平性 Exercise 3: バイアスのあるデータとその影響 Exercise 4: 銀行のカスタマーサービス Exercise 5: 倫理的・環境的懸念 Exercise 6: LLM構築の責任 Exercise 7: 倫理と環境問題 Exercise 8: LLMの今後の方向性 Exercise 9: 創造性 vs 効率性 Exercise 10: 文学作品の分析 Exercise 11: まとめ