生成AI — テキスト生成の仕組み
STEP 01 — INPUT TOKENS
AIは
文章
を
自動
で
?
トークン列(単語・文字の断片)
STEP 02 — TRANSFORMER ATTENTION
TRANSFORMER LAYERS
各トークンの
関係性を計算中...
STEP 03 — PROBABILITY
NEXT TOKEN CANDIDATES
生成する
62%
作る
26%
書く
8%
その他
4%
STEP 04 — SAMPLING & OUTPUT
SAMPLING
Temperature: 0.7
確率に従って選択
選択!
生成する
UPDATED CONTEXT (次の予測へ)
AIは
文章
を
自動
で
生成する
LOOP
繰り返す
— 入力プロンプトを読み込んでいます —
▶ 再生
↺ リセット