入門AI基礎

生成AIの基礎 - LLMとTransformerアーキテクチャ

大規模言語モデル（LLM）の仕組み、Transformerアーキテクチャ、学習プロセス、トークン化、注意機構（Attention）の基礎を理解します

9レッスン約157分

このコースで身につくこと

先にこれらのコースを受講することを推奨します

LLM理解Transformerトークン化

生成AIの定義、従来のAIとの違い、生成モデルの種類を理解します

LLMとは何か、パラメータ数と能力の関係、事前学習とファインチューニングの違いを学びます

Transformerの基本構造、Self-Attention機構、エンコーダー・デコーダーの仕組みを理解します

Attention機構の原理、Query/Key/Value、マルチヘッドアテンションの仕組みを学びます

トークンとは何か、トークナイザーの仕組み、コンテキストウィンドウの制約と対処法を理解します

テキスト生成の仕組み、温度パラメータ、Top-p/Top-kサンプリング、確率的生成を学びます

GPT-4、Claude、Gemini、医療特化型AIの特徴、強み・弱みを学びます

生成AIの学習プロセス、事前学習、ファインチューニング、プロンプトチューニングの違いを理解します

生成AIの限界、ハルシネーション、バイアス、適切な使い方、医療分野での注意点を学びます