---
title: 【大規模言語モデル入門】 1章
tags: 
author: [京都大学人工知能研究会KaiRA](https://convert.docswell.com/user/kyoto-kaira)
site: [Docswell](https://www.docswell.com/)
thumbnail: https://bcdn.docswell.com/page/L71K5X6KEG.jpg?width=480
description: 【大規模言語モデル入門】 1章 by 京都大学人工知能研究会KaiRA
published: October 10, 24
canonical: https://convert.docswell.com/s/kyoto-kaira/5XEPV2-2024-10-10-215106
---
# Page. 1

![Page Image](https://bcdn.docswell.com/page/L71K5X6KEG.jpg)

Kaira 後期輪読会 大規模言語モデル入門 2024/10/10
第1章 はじめに
京都大学 工学部 電気電子工学科 B1
根本 想良
0


# Page. 2

![Page Image](https://bcdn.docswell.com/page/G7WD5NWPE2.jpg)

アジェンダ
◼ 1.1 transformersを使って自然言語処理
を解いてみよう
◼ 1.2 Transformersの基本的な使い方
◼ 1.3 単語埋め込みとニューラルネット
ワークの基礎
◼ 1.4 大規模言語モデルとは
1


# Page. 3

![Page Image](https://bcdn.docswell.com/page/4JZGN35673.jpg)

アジェンダ
◼ 1.1 transformersを使って自然言語処理
を解いてみよう
◼ 1.2 Transformersの基本的な使い方
◼ 1.3 単語埋め込みとニューラルネット
ワークの基礎
◼ 1.4 大規模言語モデルとは
2


# Page. 4

![Page Image](https://bcdn.docswell.com/page/YE6Y8X9LJV.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
ここでは、本書でのちに学習するモデルについて実際にこれらを起動し、動作のイメージを掴ん
でもらいたい。(ソースコードは link : https://github.com/ghmagazine/llm-book)
• 文書分類
• 自然言語推論
• 意味的類似度計算
• 固有表現認識
• 要約生成
3


# Page. 5

![Page Image](https://bcdn.docswell.com/page/GE5G9XNME4.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 文書分類(document classification)
テキストをあらかじめ定められたラベルに分類するタスク。例えば、ニュース
記事を「スポーツ」「国際」「ビジネス」などに分類することなど。
ここでは5.1節で出てくる感情分析モデルllm-book/bertbase-Japanese-v3-marc_jaを実行してみる
4


# Page. 6

![Page Image](https://bcdn.docswell.com/page/972Y2X5R7R.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 文書分類(document classification)
Output
このモデルは通販サイトのレビュー記事をもとに訓練されており、テキストが肯定的
(“positive”)であるか否定的(“negative”)であるかを予測している。
”score”はその正確性を表す指標である。(ここでは99%の高い確率で妥当なラベルを予測して
いる)
5


# Page. 7

![Page Image](https://bcdn.docswell.com/page/DJYGY8K5JM.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 自然言語推論(natural language inference; NLI)
2つの論理関係を予測するタスク。このモデルでは、2つの文を入力として与え、この論理関係
として、「含意(“entailment”)」「矛盾(“contradiction”)」「中立(“neutral”)」を与える。
ここでは5.4.1節で出てくる感情分析モデルllm-book/bertbase-japanese-v3-jnli を実行してみる
6


# Page. 8

![Page Image](https://bcdn.docswell.com/page/V7NGPQR4E8.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 自然言語推論(natural language inference; NLI)
Output
それぞれの出力の意味は以下の通り
• “entailment” : 片方の文が成立するならばもう片方も成立する
• “contradiction” : 2つの文は矛盾している
• ”neutral” : 上の2つのどちらとも判別がつかない
’score’の意味は先ほどと同じ
7


# Page. 9

![Page Image](https://bcdn.docswell.com/page/YJ9W3DM4J3.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 意味的類似度計算(semantic textual similarity; STS)
2つのテキストの意味が似ている度合いをスコアとして予測するタスク。
ここでは5.4.2節で出てくる意味的類似度計算のモデルllmbook/bert-base-japanese-v3-jsts を実行してみる
8


# Page. 10

![Page Image](https://bcdn.docswell.com/page/GJ8NM3LVED.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 意味的類似度計算(semantic textual similarity; STS)
Output
意味的類似度は0から5までの範囲で予測される。
なお、2つのテキストの意味をベクトルで表現し、そのコサイン類似度をとる方法もある。
9


# Page. 11

![Page Image](https://bcdn.docswell.com/page/LJLP3VLRER.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 固有表現認識(named entity recognition; NER)
テキストに含まれる固有表現を抽出するタスク。さまざまな分野で利用される。
ここでは6章で作成する llm-book/bert-base-japanese-v3ner-wikipedia-dataset を実行してみる
10


# Page. 12

![Page Image](https://bcdn.docswell.com/page/47M4DGMPEW.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 固有表現認識(named entity recognition; NER)
Output
出力の”word”は抽出した固有表現の語句、
”entity_group”は固有表現の種類、”score”はラベルの予
測スコア、“start”と“end”は固有表現の開始位置と終了位
置を表している。
11


# Page. 13

![Page Image](https://bcdn.docswell.com/page/P7RW4ZVYE9.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 要約生成(summarization generation)
比較的長い文章から短い要約を生成するタスク。こちらもさまざまな場面で使われる
ここでは7章で作成する llm-book/t5-base-long-livedoornews-corpus を実行してみる
12


# Page. 14

![Page Image](https://bcdn.docswell.com/page/PJXP29Z4EX.jpg)

◼1.1 transformersを使って自然言語処理を解いてみよう
• 要約生成(summarization generation)
Output
記事の内容を反映した妥当な見出しが作成されている。自然言語処理には以上で紹介した以外
にも非常に多くのタスクが含まれる。
13


# Page. 15

![Page Image](https://bcdn.docswell.com/page/3JKDMP8P7D.jpg)

アジェンダ
◼ 1.1 transformersを使って自然言語処理
を解いてみよう
◼ 1.2 Transformersの基本的な使い方
◼ 1.3 単語埋め込みとニューラルネット
ワークの基礎
◼ 1.4 大規模言語モデルとは
14


# Page. 16

![Page Image](https://bcdn.docswell.com/page/LE3RYX2475.jpg)

◼1.2 Transformersの基本的な使い方
• Auto Classes
Transformersで提供されている非常に多くの種類のモデルから適切な実装を選択して
くれるというもの。
Auto Classではモデルを表すAutoModelと入力テキストを分割するAutoTokenizerを主
に使用する。これらのクラスにはfrom_pretrainedというメソッドが用意されており、
このメソッドにHugging Face Hubのモデルの名称やモデルが保存されているフォルダ
を渡すことでクラスのインスタンスを作成する。
15


# Page. 17

![Page Image](https://bcdn.docswell.com/page/8EDY52Z5EG.jpg)

◼1.2 Transformersの基本的な使い方
• Auto Classes
Output
大規模言語モデルを含む多くの自然言語処理のモデルでは、テキストを細かい単位に
分割してからモデルに入力する。この単位をトークンといい、文章をトークンに分割
する処理のことをトークナイゼーション、これを行う実装をトークナイザと呼ぶ。
このように分割したトークンを後続のテキストを予測するモデルに入れると、後続の
テキストが予測される。
Output
16


# Page. 18

![Page Image](https://bcdn.docswell.com/page/V7P6G1DDJ8.jpg)

アジェンダ
◼ 1.1 transformersを使って自然言語処理
を解いてみよう
◼ 1.2 Transformersの基本的な使い方
◼ 1.3 単語埋め込みとニューラルネット
ワークの基礎
◼ 1.4 大規模言語モデルとは
17


# Page. 19

![Page Image](https://bcdn.docswell.com/page/2JV36Y1GEQ.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語埋め込み(word embedding)
2013年に発表されたword2vecというニューラルネットワークに使われた技術で、大規
模なテキストから学習された単語の意味を表現したベクトルのこと。
Word2vecは「ある単語の意味は周辺に出現する単語によって表せる」と考える分布仮
説に基づいて設計されている。
埋め込みとは、タスクを解く際に有用な情報を表現したベクトルのこと。
18


# Page. 20

![Page Image](https://bcdn.docswell.com/page/5EG3N98D7L.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語埋め込み(word embedding)
簡単にするために先ほどまで5次元だった埋め込みを簡略のために3次元にし、図にして
みよう。
多義語についても1つの単語につき
1つのベクトルを持つ
似た意味を持つ言葉のベクトルは近
くに配置される
19


# Page. 21

![Page Image](https://bcdn.docswell.com/page/4JQ5QW9X7P.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語の意味の学習
では、どのようにしてこのベクトル分布を作り出すのだろうか。
既存の文を用いて、あらかじめ設定したwindowでその単語の「両側」の単語を「予測
できるように」学習を行なっていく。(上図の場合のwindowは2)
20


# Page. 22

![Page Image](https://bcdn.docswell.com/page/K749NKX2E1.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語の意味の学習
word2vec では、単語 𝑤 ∈ 𝑉 に対して、D 次元の埋め込み x𝜔 と u𝜔 を割り当てる。こ
こで、集合 𝑉のことを語彙と呼ぶ。語彙に含まれる単語数を 𝑉 とすると、全ての埋め
込みは
のように表すことができる。
21


# Page. 23

![Page Image](https://bcdn.docswell.com/page/LJ1K5XNK7G.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語の意味の学習
Word2vecでは、単語の予測確率はソフトマックス関数を用いて計算される。ここで、
中央単語𝜔𝑡 が与えられた際に周辺単語𝜔𝑐 が出現する確率は以下のように計算できる。
さらに、訓練で用いる損失関数には交差エントロピーを用いる。
𝜃はモデルに含まれるすべてのパラメータを表し、pはwindowを表す。
22


# Page. 24

![Page Image](https://bcdn.docswell.com/page/GJWD5N4P72.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語の意味の学習
さて、先ほどの損失関数を最小化するには中央単語の埋め込みx𝜔𝑡 と周辺単語の埋め込
みu𝜔𝑡 の内積を最大化する必要がある。これを目指してパラメータを更新していく。
更新の仕方は
で表され、𝛼は学習率、∇𝜃 ℒ 𝜃 は該当するパラメータの勾配である。勾配の導出には誤
差逆伝播法が用いられる。
実際の学習では、モデルに含まれるすべての単語について勾配を求めるのは計算不可が
大きいため、ミニバッチを作って学習が行われる。
23


# Page. 25

![Page Image](https://bcdn.docswell.com/page/4EZGN326J3.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語埋め込みの有効性
Word2vecの提案後、単語埋め込みは幅広い自然言語処理のタスクに適用されていき、
その有効性が確認された。また、さまざまなタスク用に設計されたタスク固有のニュー
ラルネットワークへの入力として、word2vecで訓練した単語埋め込みを使うことで性
能が大きく改善した。
Word2vecのように、実際に解きたいタスクを解く前に、モデルをあらかじめ別のタス
クで訓 練することを事前学習(pre-training)、事前学習したモデルを適用する先のタス
クのことを下流タスク(downstream task)と呼ぶ。
24


# Page. 26

![Page Image](https://bcdn.docswell.com/page/Y76Y8XVLEV.jpg)

◼1.3 単語埋め込みとニューラルネットワークの基礎
◼単語埋め込みの有効性
Word2vecによる単語埋め込みを下流タスクに適用するときのように、あ
る解きたいタスクに対して別の方法で学習したモデルを転用する方式の
ことを転移学習と呼ぶ。
単語埋め込みによって、入力から自動的に予測するラベルを生成して学
習を行う自己教師あり学習が可能になり、従来は人手でのデータセット
作成コストが大規模学習の大きな制約となっていたところを、ウェブか
ら簡単かつ大量に入手できる大規模なコーパスをそのまま使用してモデ
ルの学習を行うことが可能になったのだ。
25


# Page. 27

![Page Image](https://bcdn.docswell.com/page/G75G9XDM74.jpg)

アジェンダ
◼ 1.1 transformersを使って自然言語処理
を解いてみよう
◼ 1.2 Transformersの基本的な使い方
◼ 1.3 単語埋め込みとニューラルネット
ワークの基礎
◼ 1.4 大規模言語モデルとは
26


# Page. 28

![Page Image](https://bcdn.docswell.com/page/9J2Y2X8RJR.jpg)

◼1.4 大規模言語モデルとは
◼文脈化単語埋め込み(contextualized word embedding)
文脈を考慮した単語埋め込みのこと。大規模なコーパスから自己教師あり学習をして獲
得する。
単語1つ1つに埋め込みが割り当てられるword2vecと異なり、文脈化単語埋め込みを扱
うモデルでは入力テキスト周辺の文脈を加味して動的に単語埋め込みが計算される。
また、これと同時期に機械翻訳のモデルとしてこれから扱うTransformerという優れた
ニューラルネットワークが提案された。
27


# Page. 29

![Page Image](https://bcdn.docswell.com/page/DEYGY865EM.jpg)

◼1.4 大規模言語モデルとは
◼現在の自然言語処理の標準的な手法
• 文脈化単語埋め込みを計算する
Transformerを大規模コーパスで事前
学習(これを事前学習済みモデルという
)
• 事前学習したモデルを下流タスクのデ
ータセットを使って微調整(これをファ
インチューニングと呼ぶ)
(灰色の部分が事前学習されている)
28


# Page. 30

![Page Image](https://bcdn.docswell.com/page/VJNGPQZ478.jpg)

◼1.4 大規模言語モデルとは
◼現在の自然言語処理の標準的な手法
word2vecの利用
ファインチューニングによる解決
近年主流のファインチューニングでは、word2vecの時(左図)とは異なり、「タスク固有の予
測器」は少量のパラメータで構成される単純な構造であることがほとんど。
→モデルに含まれるほとんどのパラメータが事前学習の対象
29


# Page. 31

![Page Image](https://bcdn.docswell.com/page/YE9W3DZ4E3.jpg)

◼1.4 大規模言語モデルとは
◼大規模言語モデルによるタスクの解決
また、ファインチューニングは行わずに、事前学習された大規模言語モデルをプロンプ
トと呼ばれるテキストを通じて制御することで下流タスクを解く方法もある。
30


# Page. 32

![Page Image](https://bcdn.docswell.com/page/GE8NM31V7D.jpg)

アジェンダ
◼ 1.1 transformersを使って自然言語処理
を解いてみよう
◼ 1.2 Transformersの基本的な使い方
◼ 1.3 単語埋め込みとニューラルネット
ワークの基礎
◼ 1.4 大規模言語モデルとは
31


# Page. 33

![Page Image](https://bcdn.docswell.com/page/LELP3VQR7R.jpg)

◼参考文献・引用
今田育矢, 鈴木正敏, 山田康輔, 李凌寒. 大規模言語モデル入門. 技術評論社. 2023年
Tomas Mikolov, Kai Chen, Greg Corrado, Jeffrey Dean. (2013). Efficient Estimation of
Word Representations in Vector Space. arXiv
Xin Rong. (2016). word2vec Parameter Learning Explained. arXiv
32


# Page. 34

![Page Image](https://bcdn.docswell.com/page/4JM4DG1P7W.jpg)

Kaira 後期輪読会 大規模言語モデル入門 2024/10/10
第1章 はじめに
京都大学 工学部 電気電子工学科 B1
根本 想良
33


