多変量解析_09_マルチレベルモデル

Chapter 9 マルチレベルモデル Chapter 9 マルチレベルモデル データにみられる階層性の考え方，および階層性ががあるデータの基本的な分析方法として，階 層線形モデルおよびマルチレベル SEM を紹介しています。 本資料は，京都大学教育学部で 2025 年度より担当している「心理・教育測定演習」の講義資 料です。CC BY-NC 4.0 ライセンスの下に提供されています。 作成者連絡先 神戸大学大学院経営学研究科 分寺杏介（ぶんじ・きょうすけ） mail: [email protected] website: https://www2.kobe-u.ac.jp/~bunji/ この Chapter では，データに階層性がある場合の分析方法を紹介していきます。マルチレベル な分析の中でも最も基本的な階層線形モデルを R で実行する場合には，lme4 というパッケージ がデファクトスタンダードになっていると思うのですが，この資料では，同等の機能を持ちなが らより多くの状況（e.g., 過分散，ゼロ過剰，不均一分散）に対応可能な glmmTMB パッケージを 使用します*1 *2 。 *1 ただ，この資料で扱っている範囲の内容であれば lme4 パッケージでもほとんど同じ結果が得られます。そのた め，使用している関数名を読み替えてしまえば，lme4 パッケージの結果として読み進めてもなんの問題もありま せん。 *2 他に使用されることが多い（増えてきた）パッケージとしては，brms などもあります。ただし brms パッケージ はベイズ統計に基づく方法なので，結果を正しく理解するためにはまずはベイズ統計の勉強が必要となります。本 Chapter では説明していませんが，実は階層線形モデルはベイズ統計の事前分布の考え方と非常に相性が良いの で，マルチレベルモデルを多用する場合には，こちらを検討しても良いかもしれません。 1

• https://creativecommons.org/licenses/by-nc/4.0/
• https://www2.kobe-u.ac.jp/~bunji/
• #p1

9.1 マルチレベルデータとは？ 2 事前準備 1 2 3 4 # 別のパッケージを用いるので，別途インストールが必要です # install.packages('TMB', type = 'source') # install.packages("glmmTMB") library(glmmTMB) 9.1 マルチレベルデータとは？ マルチレベルデータ（階層データ）とは，異なる階層レベルを含む構造を持ったデータのこと を指します。社会科学の多くの研究分野では，個人が何らかの集団に所属しているという自然な 階層構造が存在します。教育研究では生徒が学校に，医療研究では患者が病院に，経済研究では 従業員が企業に所属するといった具合です。 まずは，「データに階層性がある」ということの具体的な意味を詳細に説明した上で，なぜそ のようなデータに対しては特別な分析法が必要なのかを直感的および数理的に示していきます。 9.1.1 マルチレベルデータの例（使用するデータ） 本 Chapter では，これまでとは異なるデータを使用します（さすがにこれまで使ってきたもの では無理でした……） 。 ↓本 Chapter で使用するファイルのダウンロードはこちらから chapter09.rds データの読み込み 1 2 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 dat <- readRDS("chapter09.rds") head(dat) school_id student_id read_score wants_univ belong1 belong2 belong3 001 0462 704.541 1 3 2 3 001 0850 569.687 1 4 3 4 001 0893 647.678 1 4 3 4 001 1063 672.170 1 4 4 4 001 1234 671.836 1 3 2 3 belong4 belong5 belong6 teach1 teach2 teach3 teach4 escs 1 3 3 3 4 2 2 4 1.2045 2 4 4 4 4 4 3 4 -0.0486 3 4 3 4 4 4 4 4 -0.2250 4 3 3 1 4 4 2 3 0.4586 5 4 2 3 2 2 2 2 -0.3454 sch_escs_mean s_t_ratio 1 0.4668657 15.5 2 0.4668657 15.5 3 0.4668657 15.5 1 2 3 4 5

• https://www2.kobe-u.ac.jp/~bunji/files/lecture/MVA/chapter09.rds

9.1 マルチレベルデータとは？ 17 18 19 3 4 0.4668657 15.5 5 0.4668657 15.5 [ reached 'max' / getOption("max.print") -- omitted 1 rows ] このデータは，経済協力開発機構（OECD）がおよそ 3 年に 1 度実施している生徒の学習到達 度調査（PISA）の 2018 年実施分の日本のデータを加工したものです。表 9.1 に，各変数の意味 をまとめました。 表 9.1: chapter09.rds の変数 変数名 説明 student_id 回答者（生徒）の ID school_id 回答者（生徒）が所属する学校の ID read_score PISA 読解力の得点 wants_univ 予想する最終学歴（進学希望の代理指標として） 「あなたは，自分がど の教育段階まで終えると思いますか。：短期大学・高等専門学校あるい は大学・大学院」 belong1 所属感「学校ではよそ者だ（またはのけ者にされている）と感じる」 belong2 所属感「学校ではすぐに友達ができる」 belong3 所属感「学校の一員だと感じている」 belong4 所属感「学校は気後れがして居心地が悪い」 belong5 所属感「他の生徒たちは私をよく思ってくれている」 belong6 所属感「学校にいると，さみしい」 teach1 授業方法「先生は，私たちの学習の目標をはっきりと示す」 teach2 授業方法「先生は，私たちが学んだことを理解しているかどうか、確認 するための質問を出す」 teach3 授業方法「先生は，授業の始めに、前回の授業のまとめをする」 teach4 授業方法「先生は，学習する内容を私たちに話す」 escs 回答者（生徒）の社会経済的地位 sch_escs_mean s_t_ratio 学校ごとの escs の平均値 ST 比（教員 1 人あたりの生徒の数） なお，本 Chapter では基本的に，「読解力に影響を与える要因」の検討を目的とします。した がって，被説明変数は一貫して read_score です。 PISA では，（層化）二段階抽出によってサンプリングを行っています。これは，全国の高校生 から， 1.（学校区分ごとに）対象となる高校を無作為に選ぶ 2. 選ばれた高校の中から，受検する学生をランダムに（クラス単位で）選ぶ

• #p3

9.1 マルチレベルデータとは？ 4 という手順で抽出する方法です。したがって，このデータの分析単位（各行の単位）は生徒一 人ひとりですが，同時に各生徒は特定の学校に所属しており，複数の生徒が同じ学校に所属して いるという構造のデータになっています*3 。 図 9.1: 階層的なデータの構造 INFO データセット作成のコード 興味がある人もいるかも知れないので，本 Chapter で使用するデータセットの作成に使用 した R コードを掲載しておきます。あくまでも補足なので，本編では封印していた dplyr の記法を使いますがご了承ください。 まずは，PISA データをダウンロードします。R には EdSurvey というパッケージがあり， これを使うと PISA をはじめとした大規模調査データを簡単に取得できます。 *3 厳密に言えば，ある生徒はある学校の中のあるクラスに所属しているので，データには 3 つの階層があると言えま す。ただし PISA の場合，基本的に 1 つの学校からは 1 クラスだけが抽出されているようなので，2 階層と考えて OK です。

• #p4

9.1 マルチレベルデータとは？ PISA データの取得 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 # install.packages("EdSurvey") library(EdSurvey) # PISAをはじめとした大規模調査データの取得用 library(dplyr) # データフレームの操作用 library(stringr) # 文字列の操作用 # PISA2018のデータのダウンロード # かなり大きい＆時間がかかるので要注意！ downloadPISA(years = 2018, root = "./") # 日本のデータだけ使うので準備 pisa_jpn_edsurvey <- readPISA(path = "./PISA/2018", countries = "JPN") # 使用する変数の選択 selected_vars <- c( "cntstuid", "cntschid", "pv1read", "escs", "st225q05ha", "st225q06ha", # 進学希望 paste0("st034q", sprintf("%02i", 1:6), "ta"), # 所属感の項目 paste0("st102q", sprintf("%02i", 1:4), "ta"), # 授業方法の項目 "stratio" ) # データの抽出 pisa_df_raw <- getData( data = pisa_jpn_edsurvey, varnames = selected_vars, addAttributes = FALSE ) ここまででデータの準備ができたので，あとは分析しやすいように色々と整形していき ます。 5

9.1 マルチレベルデータとは？

データセットの整形
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38

pisa_final <- pisa_df_raw |>
rename( # 分かりやすい変数名に変更
school_id = cntschid, student_id = cntstuid,
read_score = pv1read, wants_univ1 = st225q05ha, wants_univ2 =
st225q06ha,
belong1 = st034q01ta, belong2 = st034q02ta, belong3 = st034q03ta,
belong4 = st034q04ta, belong5 = st034q05ta, belong6 = st034q06ta,
teach1 = st102q01ta, teach2 = st102q02ta, teach3 = st102q03ta,
teach4 = st102q04ta,
s_t_ratio = stratio
) |>
# 進学希望有無を二値変数に変換
mutate(wants_univ = as.numeric(wants_univ1 == "CHECKED" |
wants_univ2 == "CHECKED")) |>
# 欠損値を持つ行を削除 (簡単化のため)
na.omit() |>
# 所属感の項目を数値に変換し，逆転項目の向きを反転
mutate(across(starts_with("belong"), as.numeric)) |>
mutate(across(c(belong2, belong3, belong5), function(x) 5 - x)) |>
# 先生の指導に関する項目を数値に変換し，すべて逆転
mutate(across(starts_with("teach"), as.numeric)) |>
mutate(across(starts_with("teach"), function(x) 5 - x)) |>
# レベル2の変数（学校平均ESCS）を作成
group_by(school_id) |>
mutate(sch_escs_mean = mean(escs, na.rm = TRUE)) |>
ungroup() |>
# IDの桁数を削る（必須ではない）
mutate(
school_id = sprintf("%03s", str_sub(school_id, -3, -1)),
student_id = sprintf("%04s", str_sub(student_id, -4, -1))
) |>
select( # 不要な変数を削除し，列の順番を整理
school_id, student_id, read_score, wants_univ,
belong1:belong6, teach1:teach4, escs, sch_escs_mean, s_t_ratio
) |>
# 並び替え
arrange(school_id, student_id) |>
# data.frameとして保存（tibbleでも良いが，資料中の一貫性から）
as.data.frame()
saveRDS(pisa_final, "chapter09.rds")

6

9.1 マルチレベルデータとは？ 9.1.2 階層性が生じるメカニズム 階層性が生じる理由は大きく分けて以下の 3 つです。 選択効果（Selection Effect） 似たような特徴を持つ個人が同じ集団に集まる傾向です。例え ば，公立の学校では，家庭の社会経済的地位が似た生徒は同じ地域（学区）に住むことが 多いため，同じ学校に通う傾向が見られるでしょう。 処遇効果（Treatment Effect） 同じ集団に属する個人は，共通の処遇や環境を経験することで 結果的に似たような特徴を持つようになることがあります。同じ学校の生徒は，共通の教 員，カリキュラム，設備の影響を受けるために，学力や進路希望なども（学校ごとに）似 たものになるでしょう。あるいは，同じ会社に勤務している人は，仕事に対する考え方な どが似てくるかもしれません。 相互作用効果（Interaction Effect：ピア効果とも） 同じ集団に属する個人同士は，行動などを 共にする機会が多いことで相互に影響し合うことがあります。その結果として，集団内で 特徴が似てくることもあるでしょう。例えば学校では，同級生同士の学習態度や動機が相 互に影響し合うはずです。 このように，データの階層性（集団内で似ている傾向）は，事前的にも事後的にも発生しうる ものです。どのように発生したものにせよ，階層性がある場合にはこれを考慮して分析する必要 があります。 その中でも，特に階層性の因果関係をはっきりさせたい場合には，階層性のメカニズム（どの 時点で発生したものであるか）の区別が非常に重要です。例えば，学校において「相互作用効果 によって学習意欲が向上するか」を検証することはかなり難しいとされています。これは，階層 データでは本質的に「クラスメイトが頑張っているから自分も頑張ろう，となる（ピア効果） 」の か「もともと同程度に頑張る＝同程度の学力の人たちが同じ学校に所属しやすい（選択効果） 」の かが区別できないためです。つまり， 「類は友を呼ぶ」のか「友が類になる」のかが区別できない と，因果関係の方向性を特定することができないのです。 9.1.3 階層性を考慮する必要性 階層データの根本的な特徴は，観測単位間の依存性にあります。分析の対象となる変数につい て，観測単位に依存性がある場合，普通の回帰分析や分散分析で分析すると，いくつかの問題が 生じます。まずはその問題を直感的に理解するため，簡単な「母平均の推定」を例に考えてみま しょう。 シンプルな例 PISA の目的の中には，「世界各国の高校 1 年生の学習到達度」の評価があります。日本の高 校 1 年生の読解力の平均値（母平均）を知るために最も適切な方法がランダムサンプリングであ ることは明らかです。しかし，高校生一人ひとりに個別にお願いをするのはかなり大変なので， PISA では先に説明した二段階抽出を行っています。では，「ある学校のある 1 つのクラス（40 7

9.1 マルチレベルデータとは？ 8 人）をランダムに選ぶ」場合， 「完全ランダムに 40 人をサンプリングする」理想的な状況と比べ て，母平均の推定はどうなるでしょうか。 PISA の得点は，平均 500，標準偏差 100 になるように調整された値なので，まずは理想的な ランダムサンプリングを想定して，試しに正規分布 𝑁 (500, 1002 ) から 40 個の乱数を 2 回ほどサ 0.004 0.004 0.003 0.003 確率密度 確率密度 ンプリングしてみましょう。すると，図 9.2 のような結果が得られました。 0.002 0.001 0.000 0.002 0.001 0.000 200 300 400 500 600 700 800 得点 200 300 400 500 600 700 800 得点 図 9.2: 理想的なサンプリング（𝑛 = 40） 各図には，正規分布 𝑁 (500, 1002 ) の確率密度関数と，下のほうに実際にサンプリングされた 40 個の値が描かれています。また，黒い直線は 𝑥 = 500 を，赤い点線は標本平均を表していま す。このように，毎回のサンプリングは異なっていても，結果として得られる標本平均は，サン プルサイズに応じて母平均の周辺に集まる，という性質がありました（大数の法則） 。 続いては，「ある学校のある 1 つのクラス（40 人）をランダムに選ぶ」場合を考えてみます。 この場合，たまたま優秀な学校が選ばれる可能性もあれば，そうでもない学校が選ばれる可能性 もあります。図 9.3 の左は，たまたま優秀な学校が選ばれた場合を，右は優秀ではない学校が選 0.004 確率密度 確率密度 ばれた場合を表しています。 0.002 0.000 0.004 0.002 0.000 200 300 400 500 600 700 800 得点 200 300 400 500 600 700 800 得点 図 9.3: 二段階抽出（𝑛 = 40） この場合，あるクラスが抽出されると，そのクラスの中での学力レベルは全体の 𝑁 (500, 1002 ) よりも凝集していると考えられるため，その確率分布を線で表しています*4 。その結果，図 9.2 *4 詳細には，左は 𝑁(570, 702 )，右は 𝑁(430, 702 ) と設定しています。

• #p8

9.1 マルチレベルデータとは？ 9 と比べると，どのクラスが選ばれるかによって，標本平均は大きく変動することがわかります。 図 9.2 と 図 9.3 の対比は，データに階層性がある場合，理想的な状況と比べてサンプリングの 効率が低下することを意味しています。ここで，標本平均の標本分布は，サンプルサイズを用い て，正規分布 𝑁 (𝜇, 𝜎𝑛 ) と表せることを思い出してください。この式に基づくと，𝑛 = 40 の場 2 2 合（ 図 9.2 ）の標本平均の標本分布は，𝑁 (500, 100 40 ) ≈ 𝑁 (500, 15.81 ) となります。そして， 2 二段階抽出の場合（ 図 9.3 ）には，どうやら標本平均の標本分布の分散は，これよりも大きくな りそうなので，𝑁 (𝜇, 𝜎𝑛 ) に基づいて標本分布を構成してしまうと，色々と問題がありそうだと 2 分かるのです*5 。 以上は，母平均の推定においてデータの階層性に注意して分析を行うべきであることの簡単な 説明でした。ほかの分析手法においても同様に，完全なランダムサンプリングを前提に構築され た手法を，階層性のあるデータに適用すべきではないことが多々あるわけです。 生態学的誤謬 ここでもう一つ，データの階層性を無視することが明確に誤った結論を導く有名な例を紹介し ておきます。 ある研究者が，「教育熱心な地域ほど学力が高い」という仮説を立てました。これを検証する ため，（ 「教育熱心度」の代理指標として）学校の授業以外の学習時間（塾・補習など）が長いほ ど学力が高いかを調べるために，5 つの地域からそれぞれ 60 人ずつのデータを収集しました。 図 9.4 は，地域ごとに計算した平均値に基づいて回帰分析を行った結果です。 テストの得点 80 70 60 50 40 2 3 補習時間 4 図 9.4: 補習時間と学力の関係（地域レベル） この結果を見ると，補習時間と学力の間にはかなり強い正の相関がありそうです。ただし，こ の結果は「補習時間が長い個人ほど学力が高い」ということは意味しません。実際に，個人レベ ルで見ても 2 つの変数に正の相関があるかは場合によります。実際に，地域（散布図の点の色） ごとにそれぞれ回帰分析を行ってみると，個人レベルでは，補習時間が長いほどむしろテストの 得点が低いことがわかります（図 9.6 ） 。 このように，集団レベルで見られた関係性が，個人レベルにも自動的に当てはまる，というこ とは決してありません。にも関わらず，個人と集団をごっちゃに考えてしまい誤った推論を行っ *5 具体的には，標本分布を使用して行う区間推定の幅を過度に小さく見積もってしまったり，統計的仮説検定におい て第一種の過誤の確率が有意水準 𝛼 よりも大きくなってしまいます。

• #p8
• #p9
• #p10

9.1 マルチレベルデータとは？ 10 テストの得点 100 80 60 40 20 0 2 4 補習時間 6 図 9.5: 補習時間と学力の関係（地域ごとに） てしまうことを，生態学的誤謬（ecological fallacy: Robinson, 1950）と呼びます。データの階 層性を無視して分析を行うことは，生態学的誤謬の餌食になってしまう可能性があるわけです。 ちなみにこのデータに関しては，集団平均を使わずに個人レベルのデータでそのまま回帰分析 を行った場合も，正の傾きが見られます（図 9.6 ） 。 テストの得点 100 80 60 40 20 0 2 4 補習時間 6 図 9.6: 補習時間と学力の関係（個人レベル） このように，データ全体を個人レベルで分析した場合と，集団ごとに分析した場合に全く異 なる結論が導き出されることは，生態学的誤謬の中でもシンプソンのパラドックス（Simpson, 1951）などと呼ばれています。 生態学的誤謬およびシンプソンのパラドックスに関して厄介なのは，この場合どちらのメカニ ズムもある程度妥当な解釈が可能である，という点です。図 9.5 に示されているように，補習時 間が長いほどテストの得点が高くなる，というのは直感的に有り得そうですし，図 9.5 のように 集団内では負の関係が見られる，というのも，「もともとの学力が低い生徒ほど補習させられて いる」と考えると納得が行きます。 このため，階層データに対しては，データの階層性を正しく理解して適切な分析手法を適用す るだけでなく，集団レベル・個人レベルの変数がどのように影響するかを考えることが重要とな ります。

• #p128
• #p10

9.1 マルチレベルデータとは？ 11 9.1.4 階層構造の表現 ここで，これ以降の説明のために，階層構造の基本的な表記を説明しておきます。必然的に添 え字が複数になるので，混乱しないように気をつけてください。本資料では，階層データのレベ ルに合わせて添字を以下のように表します*6 。 • レベル 1（個人 [𝑝erson] レベル）: 𝑝 = 1, 2, … , 𝑛𝑔 （第 𝑔 集団内の個人） • レベル 2（集団 [𝑔roup] レベル）: 𝑔 = 1, 2, … , 𝐺（集団） 例えば 𝑥𝑝𝑔 は， 「第 𝑔 集団の中の 𝑝 番目の人の 𝑥 の値」を表しているわけです。 なお，レベル 1 が「個人」 ，レベル 2 が「集団」を表す，というのは，あくまでも本 Chapter で使用する PISA のデータに関する話です。これ以外にも，例えば同じ人から定期的に何度も測 定を行うことで変化を観察する（縦断的な）測定の場合には，レベル 1 が「時点」，レベル 2 が 「個人」となります。 また，理論的には階層はいくつでも考えることができます。例えば PISA データの場合には， 国 → 学校 → 個人という 3 つの階層を考えることもできますし，アメリカであれば州ごとにも教 育政策が異なるため，国 → 州 → 学校 → 個人という 4 つの階層を考えることもできるでしょう。 もちろん階層を増やすほど，分析のモデルは複雑になり，必要なサンプルサイズも増加しま す。ただ，理論的には考えることはできるので，本当に必要な時が来たら考えてみてください。 9.1.5 変動の分解 データの階層性を考慮するためには，まずある変数の値のばらつきが複数の要素に分解される という考え方を理解する必要があります。例えば，PISA の平均点が 570 点のとあるクラスの生 徒が 577 点を獲得した場合，これは 全体平均とクラス平均の差 𝑥𝑝𝑔 = 500 + ⏞ 70 クラス平均との差 + 7⏞ = 577 (9.1) と表すことができます（ 図 9.7 ） 。このとき， 「全体平均とクラス平均の差」は，言わば集団レベ ルの変動を意味しています。一方「クラス平均との差」は，集団内での個人レベルの変動を意味 します。 図 9.7: 変動の分解 *6 一般的には，階層データに対する添字は 𝑖, 𝑗 が使われるのですが，本資料では前の Chapter との一貫性から 𝑝(, 𝑔) を使用します。

• #p11

9.1 マルチレベルデータとは？ 12 分解に基づく回帰分析の表現 このように変数を「全体平均と集団の平均の差」と「集団の平均と個人の値の差」に分解する と，単回帰分析は 𝑦𝑝𝑔 = 𝛽0 +𝛽1 𝑥𝑝𝑔 + 𝑢𝑝𝑔 (9.2) = 𝛽0 +𝛽1 [(𝑥𝑝𝑔 − 𝑥⋅𝑔 ̄ ) + 𝑥⋅𝑔 ̄ ] + 𝑢𝑝𝑔 と表すことができます。ここで，𝑥⋅𝑔 ̄ は集団 𝑔 の平均値 𝑛𝑔 1 𝑥⋅𝑔 ̄ = ∑𝑥 𝑛𝑔 𝑝=1 𝑝𝑔 (9.3) を表しています。(9.2) 式からは，回帰分析における傾き 𝛽1 が集団レベルと個人レベルの両方の 変動に対して影響する係数であることが分かります。これは，例えば 𝛽1 > 0 であった場合に， • (𝑥𝑝𝑔 − 𝑥⋅𝑔 ̄ ) の値が大きい，すなわち集団内で相対的に値が大きい個人ほど 𝑦𝑝𝑔 の値も大 きい • 𝑥⋅𝑔 ̄ の値が大きい集団ほど 𝑦𝑝𝑔 の値も大きい という 2 つの効果が混ざっていることを意味します。したがって，階層性を考慮したモデルで テストの得点 推定しない限り，𝛽1 の効果を正しく解釈することは非常に難しいのです。 90 60 30 0 2 4 補習時間 6 図 9.8: 回帰係数に混ざった効果 図 9.8 は，生態学的誤謬の例として示したプロットです。集団（学校）ごとに求めた回帰係数 は負の値となっている一方で，集団の平均値（黒丸）に基づいて求めた回帰直線は正の値となっ ていました。ここでのポイントは，個人のデータレベルで求めた回帰直線（赤い線）が，集団ご とに求めた回帰直線と，集団平均に基づいて求めた回帰直線の傾きの中間になっているというこ とです。これこそが， 「2 つの効果が混ざっている」ことを示しています。

• #p12

9.2 マルチレベル分析の出発点：分散分析
9.2 マルチレベル分析の出発点：分散分析
Section 9.1.5 で見たように，階層性のあるデータの分析では，ある変数の値の変動を「集団レ
ベル」と「個人レベル」のようにレベル毎に分解して考えます。そのような分析の代表例として，
（マルチレベルモデルなどは聞いたことがない人でもきっとご存知の）分散分析というものがあ
ります。
分散分析自体の説明はここでは省略しますが，R では，aov() という関数によって，以下のよ
うに一要因の分散分析は簡単に実行可能です*7 。
ただの分散分析
1

summary(aov(read_score ~ school_id, data = dat))

1
2
3
4
5

Df
Sum Sq Mean Sq F value Pr(>F)
school_id
182 21708859 119279
21.38 <2e-16 ***
Residuals
5583 31148843
5579
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

分散分析では，「すべての集団の平均値が等しい」という帰無仮説を設定し統計的仮説検定を
行います。この際に使用する検定統計量 𝐹（F value，今回は 21.38）は，簡単に言えば「集団
レベルの変動（図 9.7 の緑の矢印の長さ）」と「個人レベルの変動（オレンジ色の矢印の長さ）」
の比に基づいており，集団レベルの変動が十分に大きければ「集団ごとに平均値が異なる」と判
断しています。したがって，とりあえずまずは分散分析を行えば，集団ごとに平均に差がある＝
データの階層性を考慮した分析手法を採用すべきか，が分かりそうな気がします。
このように，マルチレベル（階層線形）モデルは，分散分析を拡張したような形になっている
のですが，実際にはもう少し考えなければいけないことがあります。マルチレベルモデルの適用
に際しては，集団ごとの変動に関する重要な考え方の違いを理解しておく必要があるのです。

9.2.1 固定効果と変量効果
分散分析が行っているのは，実際に観測された各学校の間に平均的な差があるかの検証です。
これは，各学校の差を詳細に検討したいような状況を想定しています（例：同じ市内の中学校の
間に差があるか）。したがって，分散分析から分かることは「そのデータの中にある学校間では
平均値に差がある」ということです。
一方で，PISA データの分析では，抽出された学校が具体的にどの学校であるかは問題ではあ
りません。たまたま無作為抽出でその学校が選ばれたからデータに含まれているだけで，何らか
の理由でその学校が別の学校に変わったとしても，基本的には何も問題ないでしょう。このよう
に，一つ一つの集団には具体的な関心がなく，一般論としての「学校ごとの違い」などに関心が
*7 要因数が複数であったり，混合計画（被験者間要因と被験者内要因が両方ある場合）では，aov() 関数は非対応と

されています。このような場合，R ならば afex や rstatix といったパッケージを使うと良いでしょう。

13

• #p11
• #p13

9.2 マルチレベル分析の出発点：分散分析 14 あるような場合，分散分析では結果が「そのデータの中」に限定されてしまうため，別のアプ ローチのほうが良いと考えられます。そこで，集団の平均値自体を確率変数とみなして，観測値 はその実現値だと考えるのです。 このように，データの階層構造を考えるときには，レベル 2 以上の要素について「一つ一つの 具体的な値に関心があるか」を明確に区別して考える必要があります。具体的には，説明変数の 効果は固定効果（fixed effects）と変量効果（random effects）のいずれかに分類されます。 固定効果（Fixed Effects） 固定効果とは，母集団の中で値が固定されている（決まっている）と見なされる効果のことで す。 「固定」された値があると見なすならば，その値自体に関心があるわけで，そのために特定の 集団を名指しで指定してデータを収集しているのです。例えば， 「性別による学力の差」を分析す る場合，性別の効果は固定効果として扱います。これは，男性と女性という 2 つのカテゴリが明 確に定まっており，その効果の大きさ（回帰係数）が母集団全体で一定であると考えるためです。 各学校の平均値差を固定効果と見なして行う分散分析は，実は回帰分析の形で以下のように表 すことができます。 𝑦𝑝𝑔 = 𝛽0 + 𝛽02 𝑥𝑔=2 + 𝛽03 𝑥𝑔=3 + ⋯ + 𝛽0𝐺 𝑥𝑔=𝐺 + 𝑢𝑝𝑔 (9.4) ここで 𝑥𝑔=𝑔 は，その生徒が学校 𝑔 に所属している場合は 1 をとり，それ以外では 0 となるダ ミー変数です。したがって，上の式は集団 𝑔 ごとに 𝑦𝑝1 = 𝛽0 + 𝑢𝑝1 (𝑔 = 1) 𝑦𝑝2 = 𝛽0 + 𝛽02 + 𝑢𝑝2 (𝑔 = 2) 𝑦𝑝3 = 𝛽0 + 𝛽03 + 𝑢𝑝3 ⋮ (𝑔 = 3) 𝑦𝑝𝐺 = 𝛽0 + 𝛽0𝐺 + 𝑢𝑝𝐺 (𝑔 = 𝐺) (9.5) と書き分けることができます。つまり，各ダミー変数に関する回帰係数 𝛽0𝑔 (𝑔 = 2, 3, ⋯ , 𝐺) は， 基準となる集団（上の式は 𝑔 = 1）との平均値差を表している，と言えます。 そしてこのとき，分散分析の検定は，𝛽0𝑔 (𝑔 = 2, 3, ⋯ , 𝐺) がすべて 0 であるかを評価するこ とと，数学的には同じことなのです。実際に，school_id についてダミー変数化した回帰分析を 行ってみましょう。回帰分析を行う lm() 関数では，説明変数が名義尺度（character 型など） の場合，自動的にダミー変数化して分析を実行してくれます。 ダミー変数を用いた回帰分析 1 summary(lm(read_score ~ school_id, data = dat)) 1 2 3 4 Call: lm(formula = read_score ~ school_id, data = dat)

9.2 マルチレベル分析の出発点：分散分析

5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

Residuals:
Min
1Q
-323.86 -49.34

Median
0.37

3Q
50.13

15

Max
275.00

Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept)
621.2408
12.6256 49.205 < 2e-16 ***
school_id002 -148.3601
17.9861 -8.249 < 2e-16 ***
school_id003 -159.6712
18.9384 -8.431 < 2e-16 ***
school_id004 -115.5121
18.1239 -6.373 2.00e-10 ***
school_id005 -212.7595
18.4223 -11.549 < 2e-16 ***
school_id006
-9.3313
18.1239 -0.515 0.606669
[ reached getOption("max.print") -- omitted 177 rows ]
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 74.69 on 5583 degrees of freedom
Multiple R-squared: 0.4107,
Adjusted R-squared: 0.3915
F-statistic: 21.38 on 182 and 5583 DF, p-value: < 2.2e-16

出力の (Intercept) は (9.4) 式の 𝛽0 ，すなわち school_id==001 の学校の平均値を表して
います。そして，続く school_id***は，それぞれの学校の school_id==001 との差を表して
いるわけです。最も重要なポイントは，一番下に出力されている検定統計量（F-statistic）の
値が，先程の分散分析のときと同じ（21.38）であるという点です。これが，ダミー変数を用い
た回帰分析と分散分析が数学的には等価であることを示しています。
平均値の違いを固定効果とみなした分析の結果は，例えば分散分析であれば「そのデータに含
まれる学校の間には，平均値に差がある／ない」というものです。したがって，この結果をもっ
て「一般的に，世の中の学校（母集団全体）において平均値に差がどの程度あるか」までは分か
りません（差があることくらいは分かったとしても）
。また，係数 𝛽0𝑔 は，あくまでもその集団 𝑔
ごとに個別に計算される値なので，複数の集団間の 𝛽0𝑔 を比べるような分析，例えば「どのよう
な特徴を持った集団ほど 𝛽0𝑔 が大きい＝平均値が高いのか」といった分析には不都合です*8 。
変量効果（Random Effects）
変量効果とは，母集団の中で確率的に変動する効果のことです。これは先程説明したように，
個々の集団の具体的な値はただの確率変数の実現値に過ぎず，再び同じようにランダムサンプリ
ングを行えば異なる集団・異なる値になるだろう，と考えることを意味します。PISA データの
例では，学校の効果は変量効果として扱います。これは，データに含まれる具体的な学校（例：

A 高校，B 高校）がたまたま抽出されただけであり，他の学校が抽出されても同様の分析を行い
たいためです。
*8 実際にやるとしたら，まず回帰分析によって 𝛽

0𝑔 を推定し，得られた集団レベルの推定値を被説明変数とした回
帰分析を改めて実行する，という感じになると思います。ただこの場合，𝛽0𝑔 の推定の精度（サンプルサイズに基

づく誤差）が無視されてしまうことが問題となります。

• #p14
• #p15

9.2 マルチレベル分析の出発点：分散分析 16 平均値の差を変量効果として扱う場合，もちろん「（特定の）A 高校と B 高校では具体的に平 均値がどの程度（何点くらい）違うのか」を調べることには興味がありません。代わりに「全体 的に，学校ごとに平均値はどの程度のばらつきを持っているのか」を調べることになります。こ のため数学的には，学校ごとの平均値差を変量効果として扱う場合，もはやパラメータ（𝛽0𝑔 ）で もないため表記を 𝑢𝑝𝑔 に変えて*9 ， 2 𝑢0𝑔 ∼ 𝑁 (0, 𝜎0𝑔 ) (9.6) のように正規分布に従う確率変数であると仮定します。このとき，分散分析のモデル式は (9.5) 式とほぼ同じで良いのですが，少し変えて 𝑦𝑝𝑔 = 𝜇 + 𝑢0𝑔 + 𝑢𝑝𝑔 (9.7) となります。なお，固定効果の場合の分散分析では，𝛽0 は「集団 𝑔 = 1 の平均値」を表していま したが，変量効果の場合の分散分析では，𝑔 = 1 も含めたすべての集団に対して付与される 𝛽0𝑔 が平均 0 と仮定されている (9.6 式) ため，パラメータ 𝜇 はそのまま全体平均を表しています。 判断基準 ある要因を固定効果として扱うか変量効果として扱うかは，慣れないうちはなかなか悩むと思 います。基本的な判断の基準は，以下のような感じです。 固定効果として扱う場合： • カテゴリ数が少ない • 具体的なカテゴリの効果に関心がある（性差・地域差の比較など） • カテゴリが理論的に意味を持つ（その学校を選んだことに必然性がある） 変量効果として扱う場合： • カテゴリ数が多い • 個々のカテゴリよりも変動の大きさに関心がある • カテゴリ自体がランダムサンプリングされている（その学校である必要はない） また，実用的な観点からは，サンプルサイズについても考慮する必要があります。変量効果と して扱うには，各レベルに十分なサンプルが必要です。というのも，変量効果として扱う場合に 2 は，その変量効果のばらつき（𝜎0𝑔 ）が推定の対象となるためです。一般的には，レベル 2 のカテ ゴリ（例：学校）が 30 以上あることが推奨されます。とはいえ，統計的な基準だけでなく，研究 の理論的背景も考慮して決めなくてはいけません。例えば，もしもリソースの都合によって，5 つの学校からしかデータを集めることができなかったとしても，「一般的に学校ごとに差がある か」を評価したいのであれば，やはり（多少無理はあるにせよ）変量効果として分析するほうが 良いかもしれません。 *9 別にどのように表記しても良いのですが，一般的なマルチレベルの文献に少しでも近い表現にしておきます。気持 ちの問題ですが。

• #p16
• #p14

9.3 階層線形モデル 17 9.3 階層線形モデル ここからは，集団ごとの違いを変量効果とみなした分析の実践に入っていきます。まずは，最 も基本的な回帰分析のマルチレベルモデルについて見ていきます。 9.3.1 ランダム切片モデル 階層線形モデル（Hierarchical Linear Model [HLM]）の最も基本的なモデルは，先ほど説明 した分散分析において，集団ごとの平均値差を変量効果に置き換えただけのモデルとされていま す。これを，ランダム切片モデル（random intercept model）と呼びます。すでに部分的にはと ころどころで説明しているのですが，ここでまとめて，改めて「マルチレベルモデルの出発点」 をおさえておきます。 INFO いろいろな呼び方を持つモデル これから紹介するモデルは，分野の慣習や，モデルのどの側面に注目するかによって，マ ルチレベルモデルや階層線形モデル以外にも異なる名称で呼ばれることがあります。 すべてのモデルには，必ず固定効果と変量効果が最低 1 つずつは含まれます。そのため混 合効果モデル（mixed effects model）とも呼ばれることがあります。とはいえ，やはりこの モデルのキモは変量効果にあり，そもそも回帰分析では固定効果がないモデルは存在しな いことから，変量効果モデル（random effects model）やランダム係数モデルと（random coefficient model）いう名称もあります。 特に分野が異なる人と会話するときには，実は同じモデルを指しているのに，異なる名称 で呼ばれている可能性があるので，まずはモデル式を見るようにすると良いかもしれま せん。 モデルの基本構造 ランダム切片モデルの最も基本的な形は，説明変数を含まない切片のみのモデル（null model または unconditional model）です。このモデルは，Section 9.1.5 で説明した変動の分解の考え 方を直接的に表現したものです。 【数学的表現】 マルチレベルモデルでは，基本的に回帰式をレベルごとに作成することを考えま す。基本的なランダム切片モデルを表す場合には， (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 (9.8) という要領です。回帰式っぽく見えないかもしれませんが，これも立派な「説明変数のない回帰 分析」の形です。なお，式中の各項はそれぞれ • 𝑦𝑝𝑔 ：第 𝑔 集団の 𝑝 番目の個人の従属変数の値 • 𝜇：全体の平均

• #p11

9.3 階層線形モデル 18 • 𝑢0𝑔 ：第 𝑔 集団の切片の全体平均との差 • 𝑢𝑝𝑔 ：個人レベルの誤差項（集団平均との差） をそれぞれ表しています。このモデルにおいて，𝑢0𝑔 および 𝑢𝑝𝑔 は変量効果に相当する項であ る一方，全体平均 𝜇 は固定効果に相当します。このように，階層線形モデルには必ず固定効果と 変量効果が含まれています。 もちろん (9.8) の 2 つの式を組み合わせて， (9.9) 𝑦𝑝𝑔 = 𝜇 + 𝑢0𝑔 + 𝑢𝑝𝑔 のように表しても良いのですが，後ほど回帰分析の説明変数が追加されるときに，どちらのレベ ルの説明変数なのかを区別しやすいように，レベルごとに表記するのがおすすめです。 【変量効果の仮定】 変量効果と誤差項については，以下の仮定を置きます。 2 𝑢0𝑔 ∼ 𝑁 (0, 𝜎0𝑔 ) (9.10) 2 𝑢𝑝𝑔 ∼ 𝑁 (0, 𝜎𝑝𝑔 ) 𝜎𝑢0𝑔 ,𝑢𝑝𝑔 = 0 上 2 つの仮定は単に，集団レベル・個人レベルの変動を，それぞれ異なる正規分布に従う確率変 数（変量効果）と見なすことを意味しています。また，一番下の仮定は，集団レベルと個人レベ ルの変動が無相関であることを意味します。 以上の仮定のもとでは，𝑦𝑝𝑔 の分布は (9.11) 2 𝑦𝑝𝑔 ∼ 𝑁 (𝛽0𝑔 , 𝜎𝑝𝑔 ) という形で表すことも可能であり，これが尤度関数を形作ります。つまり，集団 𝑔 に属する個人 𝑝 の値 𝑦𝑝𝑔 は，集団 𝑔 の平均 𝛽0𝑔 を中心に，個人レベルの誤差項 𝑢𝑝𝑔 に従う正規分布に従うと考 えるわけです。これにより，各集団 𝑔 の尤度関数は単純に正規分布の掛け算として表現されます。 【モデルの意味】 このモデルは，被説明変数の値の変動を， 集団平均と全体平均の差 全体平均 𝑦𝑝𝑔 = 𝜇 ⏞ + 𝑢⏞ 0𝑔 個人値と集団平均の差 + 𝑢⏞ 𝑝𝑔 (9.12) つまり， 「全体平均」 「集団効果」 「個人効果」の 3 つの成分に分解したものです。そして，(9.10) 式の仮定のもとでは，被説明変数の総分散は以下のように分解されます。 2 2 𝜎𝑦2 = 𝜎0𝑔 + 𝜎𝑝𝑔 (9.13) 図 9.9 は，ランダム切片モデルのイメージ図です。全体平均を表す赤い点線（𝜇）と，各グルー プの平均値（𝛽0𝑔 ）を表す青い実線の間の距離（矢印の長さ）が 𝑢0𝑔 に相当し，この長さの母分 2 散が 𝜎0𝑔 となります。 このモデルは，マルチレベル分析の出発点となる最も基本的なモデルです。後ほど説明変数を 追加していきますが，まずはこのモデルでデータの階層構造と変動の分解を理解しましょう。

• #p17
• #p18
• #p19

9.3 階層線形モデル

19

ランダム切片モデルの構造
赤破線：全体平均，青実線：各集団の平均

読解力スコア

600

500

400
学校A

学校B

学校C

学校D

集団（学校）

図 9.9: ランダム切片モデル（説明変数なし）の概念図

R でのランダム切片モデルの実装
R でマルチレベルモデルを推定するには，パッケージと同名の glmmTMB() 関数を使用します。
切片のみのランダム切片モデル
1
2

model0 <- glmmTMB(read_score ~ (1 | school_id), data = dat)
summary(model0)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

Family: gaussian ( identity )
Formula:
read_score ~ (1 | school_id)
Data: dat
AIC
66670.7

BIC
66690.7

logLik -2*log(L)
-33332.3
66664.7

df.resid
5763

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 3624
60.2
Residual
5579
74.7
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.58e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 503.699
4.562
110.4
<2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

9.3 階層線形モデル 20 glmmTMB() 関数は，通常の回帰分析の関数 lm() と似たような構文 formula を取ります。た だし，固定効果と変量効果を明確に区別するために，少し特殊な記法を使用します。 通常の（school_id の効果を固定効果とした）lm() では，read_score ~ school_id と記 述していました。変量効果とする場合，この右辺の school_id の部分を (1|school_id) に書 き換えます。このように，カッコの中の縦棒（|）の右側には，変量効果として扱う説明変数を書 きます。そして左側には，「レベル 2 の回帰分析の説明変数」を書きます（詳細は Section 9.3.5 にて）。とりあえず現時点では，そのような説明変数はまだ考えていないので，school_id によ る変量効果の平均値（切片）を表す 1 だけを書いておきます。 INFO lme4 パッケージの場合の解説   上記の分析を lme4 パッケージで実行する場合には，lmer() 関数を使用します。ただし引 数は基本的に glmmTMB() 関数と同じなので，パッケージを読み込んでいれば，関数名を変 えるだけで OK です。 切片のみのランダム切片モデル（lme4） 1 2 3 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 library(lme4) model0_lmer <- lmer(read_score ~ (1 | school_id), data = dat, REML = FALSE) summary(model0_lmer) Linear mixed model fit by maximum likelihood Formula: read_score ~ (1 | school_id) Data: dat AIC 66670.7 ['lmerMod'] BIC logLik deviance df.resid 66690.7 -33332.3 66664.7 5763 Scaled residuals: Min 1Q Median -4.3531 -0.6575 0.0101 3Q 0.6729 Max 3.6592 Random effects: Groups Name Variance Std.Dev. school_id (Intercept) 3624 60.2 Residual 5579 74.7 Number of obs: 5766, groups: school_id, 183 Fixed effects: Estimate Std. Error t value (Intercept) 503.699 4.562 110.4 ただし，lmer() 関数には，少し注意点があります。まず，lmer() 関数では少なくとも 1

• #p47

9.3 階層線形モデル 21 つは変量効果が必ず含まれていないと実行できません。したがって，間違えて school_id を固定効果のように書いてしまった以下のコードではエラーとなります。変量効果がない ならば，素直に lm() を使っておけ，ということですね。 間違えて固定効果にしてしまうと 1 lmer(read_score ~ school_id, data = dat) 1 Error: No random effects terms specified in formula なお glmmTMB() 関数では，変量効果がない場合でも推定を行ってくれます（つまり通常の lm() 関数も内包している）。 また，lmer() 関数では，デフォルトで制限付き最尤法（REstricted Maximum Like- lihood [REML]）による推定が行われます。細かい説明は省略するのですが，実は Section 9.3.6 で説明するモデル比較においては，多くの場合で REML = FALSE として通 常の最尤法（ML）に変更しておかないと正しくない（川端，2019）ので，この引数の意味 が分からなくても，こだわりが無ければ基本的に REML = FALSE をつけて実行するように してください。 なお glmmTMB() 関数にも引数 REML は用意されているのですが，上述の理由からかデフォ ルトが false になっています。したがって，glmmTMB() 関数を使用する場合は REML を明示的に使用したい場合だけ設定する必要があるということです。 改めて結果を見ると，Random effects: と Conditional model: という形で，変量効果と 固定効果が別々に記載されていることがわかります。 18 19 20 Conditional model: Estimate Std. Error z value Pr(>|z|) (Intercept) 503.699 4.562 110.4 <2e-16 *** まず，Conditional model: には，固定効果として，ここではレベル 2 の回帰分析（9.8 式） の結果が示されています。といっても現時点では説明変数は何もないので，(Intercept) すな わち切片（全体平均）のみが示されています。Estimate の 503.699 という値は，各集団の平均 値（𝛽0𝑔 ）の期待値（𝜇）が 503.699 点，ということを意味します。注意が必要な点として，これ は個人レベルの全体平均の推定値とは異なる統計量です。実際に，分析に使用しているデータに ついて read_score の平均値を計算すると，以下のようになります。 標本平均の計算 1 mean(dat$read_score)   

• #p66
• #p127
• #p17

9.3 階層線形モデル 1 22 [1] 506.1703 いま計算した個人レベルの標本平均は，集団のサンプルサイズの違いの影響を強く受けます。 極端な例を上げると，𝑛𝑔 = 10000 の学校 1 つと，𝑛𝑔 = 10 の学校 99 校のデータを混ぜた場合， 個人レベルの標本平均は，ほぼ 𝑛𝑔 = 10000 の学校の平均値によって決まるでしょう。一方で， 集団平均の期待値は，100 校のデータをまんべんなく使用して算出されるべきです。もちろんサ ンプルサイズの違いによって集団平均の推定精度が異なるため多少の重み付けは必要なのです が，このあたりをうまく調整した推定が行われるために，やや異なる値が得られるのです。 8 9 10 11 12 13 14 Random effects: Conditional model: Groups Name Variance Std.Dev. school_id (Intercept) 3624 60.2 Residual 5579 74.7 Number of obs: 5766, groups: school_id, 183 Random effects: には，変量効果の分散および標準偏差が示されています。 Groups には formula のカッコ内の右側に書いた変数名（集団レベルの変数）が，Name には左側に書いた変数 名（レベル 2 の回帰分析の説明変数）が記されています。したがって，school_id (Intercept) 2 と記された行の値が，集団平均の分散（𝜎0𝑔 ）および標準偏差を表しています。同様に，Residual 2 は残差を表しているので，これが個人レベルの分散（𝜎𝑝𝑔 ）および標準偏差を意味します。 以上の結果をランダム切片モデルの回帰式（9.8 および 9.10 式）に代入すると， (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝑢𝑝𝑔 , 𝑢𝑝𝑔 ∼ 𝑁 (0, 74.72 ) (レベル 2) 𝛽0𝑔 = 503.699 + 𝑢0𝑔 , 𝑢0𝑔 ∼ 𝑁 (0, 60.22 ) (9.14) という形になります。 なお，(9.13) 式では，𝑦𝑝𝑔 の総変動 𝜎𝑦2 を 2 つの変量効果の分散の和に分解できると説明しま した。これも，全体平均 𝜇 のときと同様に，観測された標本分散および不偏分散とは異なる値と なります。これは，データの階層構造を考慮しているか，そして計算方法の違いによって当然起 こる違いです。 分散の計算 1 2 var(dat$read_score) # 不偏分散 60.2^2 + 74.7^2 # 推定値をもとに計算した分散 1 2 [1] 9168.725 [1] 9204.13                                 集団ごとの切片（𝛽0𝑔 ）は変量効果として扱われているため，モデルの中で直接推定されるこ

• #p17
• #p18

9.3 階層線形モデル 23 とはありません。ただし，（制限付き）最尤法による推定の副産物として，事後的に各グループ の切片（𝛽0𝑔 ）を計算することはできます。 集団ごとの平均値の計算 1 coef(model0)$cond$school_id 1 2 3 4 5 6 7 8 9 10 (Intercept) 001 616.2887 002 474.2156 003 463.7651 004 505.6382 005 412.9860 006 607.0865 007 584.1363 008 416.8365 [ reached 'max' / getOption("max.print") -- omitted 175 rows ]   coef() 関数は，回帰係数を取得する関数ですが，glmmTMB() の結果に対しては，変量効果の 平均値（切片）を集団ごとに計算してくれます。この結果から，例えば school_id == 001 の 学校の切片は 616.2887 と高く，この学校が相対的に他の学校よりも数学の学力が高いことなど がわかります。 9.3.2 階層性を考慮すべきか ここまでに説明してきたランダム切片モデルがマルチレベルの出発点である理由は，このモデ ルによってそもそも階層性を考慮して分析する必要のあるデータなのかを検討できるためです。 社会科学におけるデータの多くには，何らかの形で階層性があると考えられます。しかし，必 ずしもその階層性を踏まえた分析を行わなくても良いケースもあります。例えば，「数学の学力」 を被説明変数とする場合にデータの階層性を意識する必要があるのは，「数学の学力」自体が学 校ごとに平均的に異なると考えられるためです。したがって，同じようにいくつかの学校から二 段階抽出によってサンプリングされたデータであっても，例えば「運動の頻度」などの，学校 （レベル 2）よりは個人・家庭（レベル 1）によって決まるような変数に関心がある場合には，わ ざわざマルチレベルモデルを使う必要は無いかもしれません*10 。そこで，マルチレベルモデルの 必要性をある程度統計的に判断するための具体的な基準を示します。 級内相関係数 Section 9.1.5 で示した形で，変数の変動を「個人レベル」と「集団レベル」に分解すると，回 帰係数に個人・集団レベルの効果が混ざること（図 9.8 ）や標本平均の計算における二段階抽出 *10 もちろん， 「家庭での運動を推奨する」程度などが学校レベルの施策として規定されるならば， 「運動の頻度」を対 象とした分析であってもマルチレベルモデルが必要になる可能性はあります。

• #p23
• #p11
• #p12

9.3 階層線形モデル 24 の影響（ 図 9.3 ）は，総変動に占める集団レベルの変動の割合によって決まるということが見え てきます。 テストの得点 変動：小 変動：中 変動：大 750 500 250 A B C A B 集団 (学校ID) C A B C 図 9.10: 集団レベルの変動の割合の違い 図 9.10 には，3 つの学校からサンプリングされたテストの得点について，学校ごとに作成した バイオリンプロットが描かれています。3 つのプロットのいずれについても，3 つの学校のデー タをくっつけてテストの得点の分布を求めると，平均 500，標準偏差 100 になるように設計され ています。図 9.7 にあるように，変動を分解して考えると，集団間の変動が大きいほど集団内の 変動は小さくなります。 図 9.10 の左は，集団レベルの変動がほとんどないケースです。この場合，各学校の平均値 𝑥⋅𝑔 ̄ は，すべて全体平均 𝑥̄ と近い値になります。そこで， 𝑥⋅𝑔 ̄ = 𝑥̄ として (9.2) 式を少し変形させ ると， 𝑦𝑝𝑔 = 𝜇 =𝜇 +𝛽1 [(𝑥𝑝𝑔 − 𝑥⋅𝑔 ̄ ) + 𝑥⋅𝑔 ̄ ] +𝑢𝑝𝑔 +𝛽1 [(𝑥𝑝𝑔 − 𝑥)̄ + 𝑥]̄ +𝑢𝑝𝑔 = 𝜇 + 𝛽1 𝑥̄ +𝛽1 (𝑥𝑝𝑔 − 𝑥)̄ +𝑢𝑝𝑔 = 𝜇∗ +𝑢𝑝𝑔 +𝛽1 (𝑥𝑝𝑔 − 𝑥)̄ (9.15) と書き換えることができます。したがって，単純に説明変数を全体平均で中心化して切片を調整 しただけの普通の回帰分析の形になることから，わざわざマルチレベルの分析を行う必要が無い ことがわかります。 同様に，標本平均の計算（母平均の推定）を考えた場合も，集団ごとの違いが見られない場合 は，仮に単一の学校からサンプリングを行ったとしても，あるいは学校にとらわれずに全体から ランダムサンプリングしたとしても，同じような結果が得られると考えられます。したがって， わざわざ階層性を考慮せずとも，普通に個人レベルで分析を行えば良いでしょう。 一方 図 9.10 の右は，集団レベルの変動が大きい場合です。このときには，明らかに，𝑥⋅𝑔 ̄ = 𝑥̄ ではないことから，(9.15) 式のように変換することはできず，結果として 𝛽1 には個人レベルと 集団レベルの効果が混ざることになります。したがって，マルチレベルの分析が必要となりま す。これは，簡単に言えば (𝑥𝑝𝑔 − 𝑥)̄ に対する回帰係数と 𝑥̄ に対する回帰係数を別々に設定して 𝑦𝑝𝑔 = 𝛽0 + 𝛽1 (𝑥𝑝𝑔 − 𝑥⋅𝑔 ̄ ) + 𝛽2 𝑥⋅𝑔 ̄ + 𝜀𝑝𝑔 としてあげると良さそうです（詳細は後ほど）。マルチレベルな分析の本質は，このように集団 レベルの変数 𝑥̄ と個人レベルの変数 (𝑥𝑝𝑔 − 𝑥)̄ を同時に用いて，個別に効果を評価することにあ

• #p8
• #p24
• #p11
• #p12

9.3 階層線形モデル 25 ると言えます。 以上に基づき，マルチレベルな分析手法を採用すべきかどうかを判断するための定量的な指標 を，集団レベルの変動の割合に基づいて定義していきましょう。 (9.13) 式に示されていたように，ランダム切片モデルのもとでは，ある変数 𝑦𝑝𝑔 の全体の分散 2 2 は 𝜎0𝑔 + 𝜎𝑝𝑔 と単純な和の形に分解することができました。したがって，全体の変動に占める集 団レベルの変動の割合は，単純に ICC = 2 𝜎0𝑔 2 + 𝜎2 𝜎0𝑔 𝑝𝑔 (9.16) と定義できます。この値のことを級内相関係数（inter-class correlation coefficient [ICC]）と呼 びます。ICC がどの程度の大きさであればマルチレベルな分析が必要とされるかには諸説あるよ うですが，一説には • ICC < 0.05: マルチレベルモデルの必要性は低い • 0.05 ≤ ICC < 0.10: マルチレベルモデルを検討する価値がある • ICC ≥ 0.10: マルチレベルモデルが強く推奨される などと考えられているようです。 INFO デザインエフェクト 階層性を考慮した分析を行うべき理由は，図 9.3 に示されていたように，二段階抽出を行 うと，見かけのサンプルサイズよりも有効なサンプルサイズが小さいために，標準誤差が 過小評価されてしまうことにありました。これは，二段階抽出が行われると，サンプリン グの効率が悪化してしまうことを意味しています。 このサンプリングの効率悪化の程度を示す指標として用いられることがあるのが，デザイ ン効果 (design effect) と呼ばれる指標です。デザイン効果は Deff = 二段階抽出における標準誤差 無作為抽出における標準誤差 (9.17) と定義される値で，そのまま二段階抽出によってどれだけ推定の精度が悪化したかを表し ています。そして，このデザイン効果は，(9.16) 式で定義された ICC を用いると， Deff = 1 + (𝑛𝑔̄ − 1)ICC (9.18) と表せることが知られています。すなわち，ICC が大きいほどサンプリングの効率が悪化 するのです。 そして一説によれば，Deff の値が 2 を超えてくると，マルチレベルな分析をしたほうが良 いかも，と考えられたりするそうです。

• #p18
• #p8
• #p25

9.3 階層線形モデル R で ICC の計算 ICC を計算するための材料は，すでに glmmTMB() 関数によって出力されていました。表示さ れた値（𝜎0𝑔 = 60.22 , 𝜎𝑝𝑔 = 74.72 ）を用いて手計算しても良いのですが，よりシステマティッ クに，そして小数点以下の細かい値まで計算したい場合のために，関数を用いた計算方法も紹介 しておきます。 performance というパッケージには，回帰分析に関する様々な性能チェック（決定係数 𝑅2 や RMSE などをはじめ，かなりいろいろな種類）の関数が用意されています。その中に icc() と いう関数があり，これを使えば簡単に計算可能です。 performance パッケージで ICC の計算 1 2 3 # install.packages("performance") library(performance) icc(model0) 1 2 3 4 # Intraclass Correlation Coefficient Adjusted ICC: 0.394 Unadjusted ICC: 0.394 今回のデータでは，ICC はおよそ 0.394 とかなり大きな値となりました。したがって，マルチ レベルな分析を行う必要性が高いと言えるでしょう。 INFO 出力から直接 ICC を計算する方法 以 下 の 内 容 を 書 い た あ と で performance パ ッ ケ ー ジ の 存 在 に 気 づ い た の で す が， performance パッケージが使えなくなったときのためにこちら説明も残しておきます。 分散成分の取得 1 2 variance_components <- VarCorr(model0) variance_components 1 2 3 4 5 Conditional model: Groups Name Std.Dev. school_id (Intercept) 60.203 Residual 74.696 VarCorr() 関数を使うと，推定された結果の中から分散成分のみを取り出すことができま す。あとは，頑張って各成分の数値を取り出せば，ICC が計算可能です。 26

• https://easystats.github.io/performance/

9.3 階層線形モデル 27 モデル結果からの ICC 計算 1 2 3 sigma2_0g <- as.numeric(variance_components$school_id[1]) # 学校間分散 sigma2_pg <- attr(variance_components, "sc")^2 # 個人レベル分散 sigma2_0g / (sigma2_0g + sigma2_pg) 1 numeric(0)                                               きちんと performance::icc() 関数と（丸め誤差を除けば）同じ値が得られました。 Exclamation-Triangle ICC パッケージによる ICC の計算について   ICC を計算するためのパッケージとして，実は ICC というものも用意されています。 ICC パッケージの準備 1 2 # install.packages("ICC") library(ICC) ICC という統計量自体は，マルチレベルモデル以外の文脈でも用いられるものです。例え ば，複数人が同じ人のパフォーマンスを採点するような場合， ICC が高いということは 「採点者間で評価が一致している」とみなすことができます。そのような用途で ICC を計 算することを想定しているので，ICC パッケージは，もともとマルチレベルモデルのため に作られたものではないはずです。 実際に ICC パッケージでは，（集団レベルの変動を固定効果とみなした）分散分析の考え 方に基づいて，観測されたある変数の分散を「群間変動」と「群内変動」に分解して ICC を求めます。具体的には， 「群間変動の総和（𝑆𝑆𝐵 ） 」と「群内変動（𝑆𝑆𝑊 ） 」をそれぞれの 自由度で割った値をそれぞれ 𝑀 𝑆𝐵 , 𝑀 𝑆𝑊 と表したとき， 𝐼𝐶𝐶 = 𝑀 𝑆𝐵 − 𝑀 𝑆𝑊 𝑀 𝑆𝐵 + (𝑛𝑔 − 1)𝑀 𝑆𝑊 (9.19) という形で計算しています（McGraw & Wong, 1996, 細かい話は無視します） 。ICCest() 関数は，ICC の点推定値および 95% 信頼区間を算出してくれる関数です。 被説明変数の ICC を計算 1 2 3 # x: 集団を表す変数の列名（本来はfactor型にする必要あり） # y: ICCの計算対象の変数の列名 ICCest(x = school_id, y = read_score, data = dat)

• #p127

9.3 階層線形モデル 28 1 Warning in ICCest(x = school_id, y = read_score, data = dat): 'x' has 2 been coerced to a factor 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 $ICC [1] 0.3927772       $LowerCI [1] 0.3440108 $UpperCI [1] 0.4486052       $N [1] 183 $k [1] 31.50568       $varw [1] 5579.23 $vara [1] 3608.88       結果を見ると，glmmTMB() の出力とはやや異なる値が出力されています。これは，そもそ ものモデルの考え方が異なるためであり，マルチレベルモデルを実行すべきかを判断する， という意味では，glmmTMB() の出力に基づいて計算するほうが良いと考えられます。 ただし，もちろん ICCest() にも使い所は色々とあります。一つは，ランダム切片モデル における ICC のラフな見積もりとして，簡単に信頼区間まで計算してくれる，という点で す。そのため，説明変数の ICC を計算する場合にはとりあえず ICCest() を使うと良いか もしれません。 ここまでは被説明変数の ICC を計算してきました。というのも，そもそもマルチレベルな 分析を行うのは，被説明変数の変動（分散）に関する集団レベル・個人レベルの要因を同 時に考慮するためです。一方でマルチレベルな分析では，個人レベルの変数と集団レベル の変数を同時に使用します。したがって，例えば回帰分析を行う場合には，被説明変数だ けでなく各説明変数についても，集団レベルの変数として扱うべきかを検討すると良いか もしれません。このような目的の場合には，説明変数に関しても ICC を計算してみると良 いでしょう。

9.3 階層線形モデル 29 説明変数の ICC を計算（escs） 1 2 # ESCS（社会経済的地位）は学校ごとに異なるはず ICCest(x = school_id, y = escs, data = dat) 1 2 Warning in ICCest(x = school_id, y = escs, data = dat): 'x' has been coerced to a factor 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 $ICC [1] 0.2265669       $LowerCI [1] 0.1898636 $UpperCI [1] 0.2715172       $N [1] 183 $k [1] 31.50568       $varw [1] 0.4076527 $vara [1] 0.1194164       escs（社会経済的地位）の ICC がおよそ 0.23 であることから，これは学校ごとに平均 が異なる変数と言えます。したがって，説明変数として使用する場合には，集団レベルの ESCS（集団の平均値）と個人レベルの ESCS をそれぞれ異なる説明変数として使用する ことができそうです。 説明変数の ICC を計算（belong1） 1 2 # 所属感はあまり学校ごとに変わらないかな？ ICCest(x = school_id, y = belong1, data = dat) 1 2 Warning in ICCest(x = school_id, y = belong1, data = dat): 'x' has been coerced to a factor

9.3 階層線形モデル 1 2 3 30 $ICC [1] 0.02574239    4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20    $LowerCI [1] 0.01567935 $UpperCI [1] 0.03912149       $N [1] 183 $k [1] 31.50568       $varw [1] 0.5587736 $vara [1] 0.01476423       所属感の ICC はおよそ 0.026 と非常に低く，学校ごとに平均的に差があるとは言えなさそ う（どの学校でも分布は概ね同じ）です。したがって，この変数を説明変数として使用す る場合には，集団レベルの変数として使う意味は薄く，個人レベルの変数として使用する のが良いでしょう。 9.3.3 変量効果として分析するメリット ランダム切片モデルは，単に分散分析を変量効果に変更しただけのモデルです。本来各集団 の平均値には関心は無いのですが，計算すること自体は可能なので，先ほど紹介した coef() 関数を使って算出した集団平均（𝛽0𝑔 ）と，固定効果の分散分析の結果に基づく各学校の平均値 （𝛽0 + 𝛽0𝑔 ）を比較してみましょう。 固定効果と変量効果の比較 1 2 3 4 5 6 7 8 # 固定効果の係数を取得 result_anova <- aov(read_score ~ school_id, data = dat) intercept <- result_anova$coefficients[1] # group1の平均はInterceptなので0を頭につける group_diff <- c(0, result_anova$coefficients[-1]) coef_fixed <- intercept + group_diff # 変量効果の係数を取得 coef_random <- coef(model0)$cond$school_id$`(Intercept)`                                      

9.3 階層線形モデル 9 10 11 12 13 14 15 31 plot(coef_fixed, coef_random, xlab = "固定効果の学校平均", ylab = "変量効果の学校平均", main = "固定効果と変量効果の比較" ) abline(a = 0, b = 1, col = "red") # y=xの直線を追加                                                                                                      図 9.11: 固定効果と変量効果の比較 図 9.11 には，固定効果の分散分析の結果から得られた各学校の平均値と，ランダム切片モデ ルの結果から得られた各学校の平均値を比較した散布図が描かれています。基本的にはほぼ同じ 値になっているのですが，𝑦 = 𝑥 の直線と比べると，わずかに傾きが小さくなっていることがわ かります。これは，変量効果の推定で行われている縮退推定（shrinkage estimation）を表した ものです。 変量効果に関しては，その分布が何かしらの正規分布に従う（9.10 式）と仮定していました。 したがって，変量効果の尤度の部分には，とりあえず全体平均 𝜇 に近いほうが尤度が大きくなる という性質があります。そして，ある集団の平均値 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 を推定する際，ざっくり言え ば「変量効果の背後にある正規分布」と「その集団内のデータの尤度」の掛け算 集団内のデータの尤度 変量効果の尤度 𝑛𝑔 ⏞⏞⏞⏞⏞⏞⏞ ⏞⏞⏞⏞⏞ ⏞⏞ 2 ) ⋅ 𝑓(𝛽 |𝜇, 𝜎 2 ) 𝐿(x𝑔 ) = ∏ 𝑓(𝑥𝑝𝑔 |𝛽0𝑔 , 𝜎𝑝𝑔 0𝑔 0𝑔 (9.20) 𝑝=1 を最大化するように求めています*11 。したがって，変量効果として推定する際には，集団ごとの 平均値を単にサンプリングした値として扱うのではなく，全体の平均に近づけるように調整され *11 ただし実際には 𝛽 0𝑔 の具体的な値を求める必要はないので，この式を変量効果パラメータ 𝛽0𝑔 について積分（周 辺化）したものを最大化することになります。

• #p31
• #p18

9.3 階層線形モデル 32 た値が得られます。そして，これは (9.20) 式からわかるように，その集団のサンプルサイズ 𝑛𝑔 が小さいほど，より強く全体平均に近づけられることになります。 この「縮退推定」が，結果的に集団平均の推定を真の値に近づけるのか遠ざけるのかは場合 によります。ただし，縮退推定は特にサンプルサイズが小さい集団がある場合には役に立つ可 能性が高くなります。例えば，ある学校（school_id == "001"）では予算か何かの都合により 𝑛𝑔 = 3 人しかサンプリングできなかったとします。 サンプルサイズ 3 の学校があったとさ 1 2 3 4 5 6 7 # school_id == "001"の学校からは恣意的に3人だけを選ぶ dat_s1_all <- subset(dat, school_id == "001") dat_s1 <- subset(dat_s1_all, student_id %in% c("1263", "5521", "1993")) # その他の学校はそのまま dat_use <- rbind(dat_s1, subset(dat, school_id != "001")) 1 2 3 4 5 6 7 head(dat_use[, c("school_id", "student_id", "read_score")]) 6 12 31 36 37 38 school_id student_id read_score 001 1263 770.257 001 1993 710.876 001 5521 722.404 002 0030 407.067 002 0071 516.066 002 0340 476.785 この場合，その学校の平均値は，たった 3 人のサンプルから計算されるため，その学校の真の 平均値から大きく外れる可能性があります*12 。 サンプルサイズ 3 の学校の平均値推定 1 2 3 4 # school_id == "001"の全員の平均値 mean(dat_s1_all$read_score) # 選ばれた3人の平均値 mean(dat_s1$read_score) 1 2 [1] 621.2408 [1] 734.5123                     もちろん固定効果の分散分析の場合には，この観測された平均値（734.5123）をそのまま学 校の平均値として扱うことになります。 *12 ちなみにここでは，恣意的に「school_id == "001"の中で read_score が最も高かった 3 人」を選んでいます。

• #p31
• #p32

9.3 階層線形モデル

33

固定効果の分散分析（ダミー変数の回帰）
1
2
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

# 係数の(Intercept)が，school_id == "001"の切片でした
summary(lm(read_score ~ school_id, data = dat_use))

Call:
lm(formula = read_score ~ school_id, data = dat_use)
Residuals:
Min
1Q
-323.86 -49.15

Median
0.35

3Q
49.89

Max
275.00

Coefficients:
Estimate Std. Error t value Pr(>|t|)
(Intercept)
734.51
43.13 17.028 < 2e-16 ***
school_id002 -261.63
45.00 -5.814 6.42e-09 ***
school_id003 -272.94
45.39 -6.014 1.93e-09 ***
[ reached getOption("max.print") -- omitted 180 rows ]
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Residual standard error: 74.71 on 5551 degrees of freedom
Multiple R-squared: 0.4085,
Adjusted R-squared: 0.3891
F-statistic: 21.07 on 182 and 5551 DF, p-value: < 2.2e-16

しかしこのとき，ランダム切片モデルを用いて集団平均を推定すると，どうなるでしょうか。
ランダム切片モデル
1
2
3
4
5

result <- glmmTMB(read_score ~ (1 | school_id), data = dat_use)
# 学校1の推定値を取得
coef(result)$cond$school_id[1, ]
# 全体平均も出してみると
result$fit$par["beta"]

1
2
3

[1] 657.2806
beta
503.9291









このように，ランダム切片モデルを用いると，集団平均の推定値は（変量効果として）全体平
均に近づいた値になるのです。イメージとしては，サンプルサイズが小さい集団の平均値が他の
集団から著しく離れている場合に，「他の集団の平均値から考えると，そんなに異常な値という
ことはないだろう」という感じで調整をしていると言えます。
したがって，変量効果を用いることで，集団ごとの平均値の推定がより安定する可能性がある

9.3 階層線形モデル 34 のです。試しに， 1. school_id == "001"の学校からランダムに 3 人をサンプリングする 2. 他の学校のデータはすべて使用する 3. ダミー変数を用いた回帰分析とランダム切片モデルでそれぞれパラメータを推定する 4. この操作を 100 回繰り返して，散布図を描く というシミュレーションをしてみました。 図 9.12: サンプルサイズ 3 の学校の平均値推定の比較 図 9.12 を見ると，すべての点が赤い直線（𝑦 = 𝑥）よりも下にあります。school_id == "001" の学校はもともと優秀な学校なので，どの 3 人を選んでも全体平均以下になることはないのです が，それでもランダム切片モデルを用いると，その学校の平均値は全体平均（緑の実線あたり） に近づくように調整されていることが分かります。その結果，ランダム切片モデルでは，𝑛𝑔 = 3 の割に，集団平均の推定値のばらつきが小さくなっています。これが，変量効果として分析する 直接的なメリットの一つなのです。 なお，図 9.12 の青い点線は，school_id == "001"の学校の全体平均（母集団平均）を表し ています。つまり本来サンプルサイズが十分に大きければこの値に収束するはずなのですが，縮 退推定では，この「本来の平均値」に近づくわけではなく，他の集団も含めた全体の平均値（緑 の実線）に近づいていきます。したがって，school_id == "001"の学校のように，もともと全 体平均から離れた集団において，サンプリングが逆方向に偏ってしまった場合には，むしろその 集団の本来の平均値から更に離れてしまうこともあり得るという点は注意が必要です。 9.3.4 説明変数を含むランダム切片モデル ランダム切片モデルによって ICC がそれなりに大きい値になることが分かったら，次は回帰 分析のように説明変数を含むモデルに拡張していきましょう。ここでは，まず「社会経済的地位 （ESCS）が高い生徒ほど読解力が高いのか」を検証する回帰モデルを考えてみます。まずシンプ

• #p34

9.3 階層線形モデル

35

ルに説明変数を追加することを考えると，

𝑦𝑝𝑔 = 𝜇 + 𝛽ESCS ESCS𝑝𝑔 + 𝑢0𝑔 + 𝑢𝑝𝑔

(9.21)

という形になります。ESCS は個人ごとに異なる値をとる（個人レベルの変数である）ため，上
の式をレベルごとに表すならば

(レベル 1)

𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS ESCS𝑝𝑔 + 𝑢𝑝𝑔

(レベル 2)

𝛽0𝑔 = 𝜇 + 𝑢0𝑔

(9.22)

と表記できます。
このモデルは，glmmTMB() 関数を使うと以下のように実装可能です。単純に説明変数を追加す
るだけであれば，lm() 関数のときと同じように formula の右辺に変数名を書くだけです。

ESCS を含むランダム切片モデル
1
2

model1 <- glmmTMB(read_score ~ escs + (1 | school_id), data = dat)
summary(model1)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

Family: gaussian ( identity )
Formula:
read_score ~ escs + (1 | school_id)
Data: dat
AIC
66636.0

BIC
66662.6

logLik -2*log(L)
-33314.0
66628.0

df.resid
5762

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 3313
57.56
Residual
5558
74.56
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.56e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 504.791
4.375 115.38 < 2e-16 ***
escs
9.478
1.564
6.06 1.36e-09 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

出力の Conditional model: のところを見ると， escs の推定値が 9.478 となっています。
したがって，
「escs が高い生徒ほど，read_score の値も高い」と言えそうです。

9.3 階層線形モデル

36

LIGHTBULB lme4 パッケージは検定をしてくれない




実は変量効果がある場合には，検定に必要な自由度の正確な定義が難しく，どうやら lme4
パッケージの作者の思想として，不正確な可能性があるくらいなら表示しない，という
スタンスを取っているようです。そうは言ってもやはり固定効果の検定の結果が欲しい
場面はあるでしょう。lmer() の結果に対して検定結果（𝑝 値）を出してほしい場合には，

lmerTest というパッケージをロードしてから lmer() 関数を実行するだけです。
固定効果の仮説検定（lme4）
1
2
3
4
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

# install.packages("lmerTest")
library(lmerTest)
model1_lmer <- lmer(read_score ~ escs + (1 | school_id), data = dat,
REML = FALSE)
summary(model1_lmer)

Linear mixed model fit by maximum likelihood . t-tests use
Satterthwaite's method [lmerModLmerTest]
Formula: read_score ~ escs + (1 | school_id)
Data: dat
AIC
66636.0

BIC
logLik deviance df.resid
66662.6 -33314.0 66628.0
5762

Scaled residuals:
Min
1Q Median
-4.3224 -0.6498 0.0124

3Q
0.6705

Max
3.6257

Random effects:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 3313
57.56
Residual
5558
74.56
Number of obs: 5766, groups: school_id, 183
Fixed effects:
Estimate Std. Error
df t value Pr(>|t|)
(Intercept) 504.791
4.375 179.861 115.388 < 2e-16 ***
escs
9.478
1.549 5724.542
6.117 1.02e-09 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1
Correlation of Fixed Effects:
(Intr)
escs 0.040

9.3 階層線形モデル 37 lmerTest パッケージは，lme4::lmer() 関数の出力に対して，近似的に計算された自由 度を用いて 𝑝 値を表示してくれるようになります。「じゃあ最初から lmerTest パッケー ジを使えばいいじゃないか」と思われるかもしれません。正直それでも良いと思います。 そして glmmTMB() パッケージはデフォルトで検定結果を出してくれます。ただし，2 つの 関数で算出される標準誤差（Std. Error）の値が異なるので，どうやら自由度の定義が異 なっているようです。 ということで，得られた推定値を (9.22) 式に代入すると， (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 9.478ESCS𝑝𝑔 + 𝑢𝑝𝑔 , 𝑢𝑝𝑔 ∼ 𝑁 (0, 74.562 ) (レベル 2) 𝛽0𝑔 = 504.791 + 𝑢0𝑔 , 𝑢0𝑔 ∼ 𝑁 (0, 57.562 ) (9.23) となります。図 9.13 は，このモデルを可視化したものです。青い点線は切片の全体平均（𝜇）に 基づいて引いた回帰直線を，また赤い実線は各集団（学校）の 𝛽0𝑔 の推定値に基づいて引いた回 帰直線を表しています。(9.22) 式に示されているように，ランダム切片モデルでは傾き 𝛽ESCS は すべての集団で同じ値となっています。 800 読解力得点 600 400 200 -4 -2 0 社会経済的地位（ESCS） 2 図 9.13: ランダム切片モデルの視覚化 また，黒い実線は切片の変量効果を含めない通常の回帰分析によって得られる回帰直線です。 ランダム切片モデルにおける回帰直線の傾きと比べると，わずかに傾きが大きいことが分かりま す。これは，ランダム切片モデルでは集団レベルの効果が多少は変量効果（𝑢0𝑔 ）の方に分離さ れていることを示しています。 改めてこのモデルの回帰係数 𝛽ESCS が意味するところを考えてみると，Section 9.1.5 で見た ように，これは集団レベルの効果と個人レベルの効果が混ざったものになっています（9.2 式） 。 すなわち， • (ESCS𝑝𝑔 − ESCS⋅𝑔 ) の値が大きい，すなわち集団内で相対的に値が大きい個人ほど 𝑦𝑝𝑔 の 値も大きい • ESCS⋅𝑔 の値が大きい集団ほど 𝑦𝑝𝑔 の値も大きい

• #p35
• #p37
• #p11
• #p12

9.3 階層線形モデル 38 という 2 つの効果が混ざった値になっているのです。このままでは，「ESCS が読解力に与え る効果」の解釈は非常にややこしくなってしまいます。このような場合には，説明変数を個人レ ベルと集団レベルに分解するのが良いでしょう。 集団レベルの説明変数を含むランダム切片モデル まずは，集団レベルの説明変数を含むモデルを考えてみます。これは，先ほど見たように， ESCS の集団平均である ESCS⋅𝑔 を代わりに使用するだけです。 𝑦𝑝𝑔 = 𝜇 + 𝛽ESCS ESCS⋅𝑔 + 𝑢0𝑔 + 𝑢𝑝𝑔 (9.24) この場合，ESCS⋅𝑔 は集団内では同じ値をとる（集団レベルの変数である）ため，上の式をレベ ルごとに表すならば (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽ESCS ESCS⋅𝑔 + 𝑢0𝑔 (9.25) と表記されます。 今回のデータには，たまたま escs の集団平均が sch_escs_mean 列に入っていたので，これ を使いましょう。 集団レベルの説明変数を追加 1 2 model2 <- glmmTMB(read_score ~ sch_escs_mean + (1 | school_id), data = dat) summary(model2) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 Family: gaussian ( identity ) Formula: read_score ~ sch_escs_mean + (1 | school_id) Data: dat AIC 66518.6 BIC 66545.3 logLik -2*log(L) -33255.3 66510.6 df.resid 5762 Random effects: Conditional model: Groups Name Variance Std.Dev. school_id (Intercept) 1461 38.22 Residual 5579 74.69 Number of obs: 5766, groups: school_id, 183 Dispersion estimate for gaussian family (sigma^2): 5.58e+03 Conditional model: Estimate Std. Error z value Pr(>|z|) (Intercept) 518.060 3.131 165.44 <2e-16 *** sch_escs_mean 126.570 8.153 15.52 <2e-16 ***

9.3 階層線形モデル 22 23 39 --Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1 得られた係数を (9.25) 式に代入すると， (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝑢𝑝𝑔 , 𝑢𝑝𝑔 ∼ 𝑁 (0, 74.692 ) (レベル 2) 𝛽0𝑔 = 518.060 + 126.570ESCS⋅𝑔 + 𝑢0𝑔 , 𝑢0𝑔 ∼ 𝑁 (0, 38.222 ) (9.26) となります。 LIGHTBULB 集団ごとの平均値の計算方法 そんなわけで，マルチレベルモデルを使用する場合には集団レベルの平均値の計算を行う ことが多々あります。わかりやすい方法としては，dplyr パッケージの group_by() 関数 を利用する方法です。 集団平均の計算 1 2 3 4 dat |> group_by(school_id) |> # これ以降の処理はグループごとに行われる mutate(group_mean = mean(escs)) |> ungroup() # グループ化の解除 あるいは，R にデフォルトで入っている ave() 関数もシンプルに使いやすい関数です。こ の関数は，指定した変数の値でグループを作成し，そのグループごとに平均値を計算して くれます。 集団ごとに特定の処理を行う: ave() 1 ave(dat$escs, dat$school_id)     

• #p38

9.3 階層線形モデル

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

[1] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[6] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[11] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[16] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[21] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[26] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[31] 0.466865714 0.466865714 0.466865714 0.466865714 0.466865714
[36] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.386726471
[41] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.386726471
[46] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.386726471
[51] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.386726471
[56] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.386726471
[61] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.386726471
[66] -0.386726471 -0.386726471 -0.386726471 -0.386726471 -0.003253571
[71] -0.003253571 -0.003253571 -0.003253571 -0.003253571 -0.003253571
[76] -0.003253571 -0.003253571 -0.003253571 -0.003253571 -0.003253571
[81] -0.003253571 -0.003253571 -0.003253571 -0.003253571 -0.003253571
[86] -0.003253571 -0.003253571 -0.003253571 -0.003253571 -0.003253571
[91] -0.003253571 -0.003253571 -0.003253571 -0.003253571 -0.003253571
[96] -0.003253571 -0.003253571 -0.490621212 -0.490621212 -0.490621212
[ reached getOption("max.print") -- omitted 5666 entries ]

あるいは別の方法として，これも R にデフォルトで入っている aggregate() 関数を使う
のも一つの手です。
集団ごとに特定の処理を行う: aggregate()
1
2

group_mean <- aggregate(escs ~ school_id, data = dat, mean)
group_mean

1
2
3
4
5
6
7
8
9
10

school_id
escs
1
001 0.466865714
2
002 -0.386726471
3
003 -0.003253571
4
004 -0.490621212
5
005 -0.789919355
6
006 0.415739394
7
007 0.254032353
8
008 -0.219987500
[ reached 'max' / getOption("max.print") -- omitted 175 rows ]

40

9.3 階層線形モデル 41 もとのデータフレームにくっつける 1 2 # 引数byをキーに2つのデータフレームを結合 dat <- merge(dat, group_mean, by = "school_id") ここで，集団レベルの説明変数を含むランダム切片モデルの特徴を視覚的に確認してみましょ う。図 9.14 には，集団ごとの平均値を緑の点で示し，これに基づいて求めた回帰直線を緑の実 線で示しています。この回帰直線の切片および傾きは，先ほど求めた Conditional model: に 示された値と一致しています。 1000 読解力得点 750 500 250 0 -4 -2 0 社会経済的地位（ESCS） 2 図 9.14: 集団平均を入れたモデルの視覚化 この緑の回帰直線は，各集団の切片（𝛽0𝑔 ）の予測値を表しており，例えば ESCS の集団平均 が 0 の学校の切片は，おおよそ 518.060 くらいになるだろう，ということを表します。 また，もとの escs を説明変数に入れた通常の回帰分析における回帰直線が黒い実線で示され ています。これと比べると，明らかに回帰係数が大きくなっていることが分かります*13 。 いま実行したモデルによって得られる回帰係数 𝛽ESCS は，「生徒の平均的な ESCS が高い学 校ほど，読解力の平均値が高いか」を表しています。すなわち，この分析は学校間の切片の違い が何によって説明できるのかを明らかにできるわけです。しかし，このままでは個人レベルの効 果，つまり「ESCS が高い生徒ほど…」と言えるかは全くわかりません。 個人レベルの説明変数も加えたランダム切片モデル (9.2) 式で見たように，個人と集団の両レベルの効果を含んだ説明変数 𝑥𝑝𝑔 を分解する場合 には， 𝑥𝑝𝑔 = (𝑥𝑝𝑔 − 𝑥⋅𝑔 ̄ ) + 𝑥⋅𝑔 ̄ , (9.27) *13 必ず回帰係数が大きくなるとも限らないのですが，そうなることが多いと考えられます。その理由は，例えば文脈 効果（もともと優秀な人が同じ学校に集まり，更にその学校で成長していく）や，相関の希薄化（平均値レベルで は，個人の測定値に含まれる誤差が相殺されるようになる）などが考えられます。

• #p41
• #p12

9.3 階層線形モデル 42 すなわち集団レベルの変数として平均値 𝑥⋅𝑔 ̄ ，そして個人レベルの変数として集団平均を引いた 値 𝑥𝑝𝑔 − 𝑥⋅𝑔 ̄ に分解する必要があります。このように，レベル 1 の変数をモデルに含める際には， 集団平均中心化（centering within cluster [CWC]）という操作が非常に重要となります。 そして，集団平均中心化した説明変数を加えることで，モデル式は 𝑦𝑝𝑔 = 𝜇 + 𝛽ESCS (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝛽ESCS ESCS⋅𝑔 + 𝑢0𝑔 + 𝑢𝑝𝑔 (9.28) となり，レベルごとに表すならば (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (9.29) (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽ESCS ESCS⋅𝑔 + 𝑢0𝑔 と表記されます。Section 9.3.4 の最初のモデル (9.21 式) との違いとして，本来単一の説明変数 を，中心化を挟むことで 2 つのレベルの説明変数に分解し，それぞれに異なる回帰係数を推定す るというのが重要なポイントです。 集団平均中心化した説明変数を作成するのは，集団平均が先に用意されているならば簡単です。 集団平均中心化 1 2 3 4 5 # データフレームの列単位で引き算するだけ dat$escs_cwc <- dat$escs - dat$sch_escs_mean        # 確認 head(dat[, c("student_id", "school_id", "escs", "sch_escs_mean", "escs_cwc")])          1 2 3 4 5 6 7  1 2 3 4 5 6                       student_id school_id escs sch_escs_mean escs_cwc 0462 001 1.2045 0.4668657 0.737634286 0850 001 -0.0486 0.4668657 -0.515465714 0893 001 -0.2250 0.4668657 -0.691865714 1063 001 0.4586 0.4668657 -0.008265714 1234 001 -0.3454 0.4668657 -0.812265714 1263 001 0.9209 0.4668657 0.454034286 こうして作成された「集団平均中心化後の説明変数」の値 escs_cwc は， 「その集団（学校）の 中で相対的に ESCS がどの程度高い／低いか」を表す値となっています。 それでは，集団平均中心化した変数と集団平均を同時にモデルに含めて分析してみましょう。 集団レベル変数を含むモデル 1 model3 <- glmmTMB(read_score ~ escs_cwc + sch_escs_mean + (1 | school_id), 2 data = dat) summary(model3)

• #p34
• #p35

9.3 階層線形モデル

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

43

Family: gaussian ( identity )
Formula:
read_score ~ escs_cwc + sch_escs_mean + (1 | school_id)
Data: dat
AIC
66498.0

BIC
66531.3

logLik -2*log(L)
-33244.0
66488.0

df.resid
5761

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 1461
38.23
Residual
5557
74.54
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.56e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
518.060
3.132 165.43 < 2e-16 ***
escs_cwc
7.446
1.563
4.77 1.88e-06 ***
sch_escs_mean 126.569
8.153
15.53 < 2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

集団レベルの効果の推定値（Conditional model:）は先程とほぼ同じ 126.569 になってい
ます。この点は変わらないまま，集団平均中心化した説明変数を加えたことで，ESCS のもたら
す個人レベル・集団レベルの両方の効果が評価できるようになりました。
得られた係数を (9.29) 式に代入すると，

(レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 7.446(ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 ,

𝑢𝑝𝑔 ∼ 𝑁 (0, 74.542 )

(レベル 2) 𝛽0𝑔 = 518.060 + 126.569ESCS⋅𝑔 + 𝑢0𝑔 ,

𝑢0𝑔 ∼ 𝑁 (0, 38.232 )

(9.30)

となります。
ここまでの分析の集大成となるモデルについて，結果を可視化してみましょう。
図 9.15 には，

• 青い点線： 切片の全体平均（𝜇）に基づいて引いた回帰直線
• 赤い線：各集団（学校）の 𝛽0𝑔 の推定値に基づいて引いた回帰直線
• 緑の線：各学校の集団平均（ESCS）と読解力得点の平均値（緑の点）に基づいて引いた
回帰直線

• 黒い線：集団平均中心化した説明変数を含めない通常の回帰分析によって得られる回帰
直線
がそれぞれ描かれています。したがって，青い点線の傾きが「（集団内の）個人レベルの効果

• #p42
• #p44

9.3 階層線形モデル 44 1000 読解力得点 750 500 250 0 -4 -2 0 社会経済的地位（ESCS） 2 図 9.15: 集団平均中心化した説明変数を含むモデルの視覚化 の大きさ」を，緑の線の傾きが「集団レベルの効果の大きさ」を，それぞれ表しています。 【実質的な意味】 2 つのレベルに分解した説明変数を加えたランダム切片モデルによって，ESCS が読解力に及ぼす効果の大きさが分かりました。推定値はそれぞれ，集団レベルの回帰係数が 126.568，個人レベルの回帰係数が 7.446 でした。この結果をまとめると，以下のようなことが 言えます。 1. 集団内効果：同じ学校内でも社会経済的地位が高い生徒ほど読解力得点が高い 2. 集団間効果：社会経済的地位が高い生徒が多い学校ほど，その学校の生徒全体の読解力得 点が高い 3. 効果の大きさの比較：多くの場合，集団間効果の方が集団内効果よりも大きくなる傾向が ある 特に 3 点目は，説明変数（escs）を個人レベルと集団レベルに分解したとしてもそのスケール は変わらないことから，これらの係数を直接比較可能と見なして得られる知見です。とはいえ， 本当に個人レベルの効果と集団レベルの効果の大きさを直接比較することに意味があるかはまた 別の話です。 いずれにしても，これは教育社会学における重要な知見であり，学校の文脈効果（同じ能力の 生徒でも，どの学校に通うかによって成果が変わる）を示したものと言えます。 変動の説明 マルチレベルモデルに限らず，回帰分析では分散説明率が重要な指標となります。そこで，分 散説明率に相当するものとして，これまでに実行してきたモデルについて，ランダム切片やレベ ル 1,2 の説明変数を入れたことで，それぞれのレベルの変動のうちどの程度の割合が説明された か（分散説明率: proportion of variance explained [PVE]）を確認してみましょう。 まずは，各モデルの分散成分を取得する関数を定義します。

9.3 階層線形モデル

45

各モデルの分散成分を取り出す
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

models <- list(model0, model1, model2, model3)
model_names <- c("model0", "model1", "model2", "model3")
model_var <- c(
"(Intercept)", # model0
"escs", # model1
"mean", # model2
"cwc + mean" # model3
)
# 分散成分の取得
get_variance_components <- function(model) {
vc <- VarCorr(model)$cond # 分散だけ取り出す
school_var <- as.numeric(vc$school_id[1]) # 集団レベルの分散
residual_var <- attr(vc, "sc")^2 # 個人レベル（残差）の分散
return(c(school_var = school_var, residual_var = residual_var))
}


















































そして，これを各モデルに適用して，分散成分を比較してみましょう。
各モデルの分散成分を比較
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

# sapply()関数を使って，先ほど作成したmodelsリストの各要素に適用する
variance_table <- data.frame(
Model = model_names,
var = model_var,
t(sapply(models, get_variance_components))
)
# 変動の減少率を計算
# 集団レベルの総変動
baseline_school_var <- variance_table$school_var[1]
# 個人レベルの総変動
baseline_residual_var <- variance_table$residual_var[1]
# 集団レベルについてどれだけ変動が減少したか
variance_table$PVE_school <(baseline_school_var - variance_table$school_var) / baseline_school_var
# 個人レベルについてどれだけ変動が減少したか
variance_table$PVE_residual <(baseline_residual_var - variance_table$residual_var) /
baseline_residual_var
















































































print(variance_table)















9.3 階層線形モデル 1 2 3 4 5 46 Model var school_var residual_var PVE_school PVE_residual 1 model0 (Intercept) 3624.409 5579.465 0.0000000 0.000000e+00 2 model1 escs 3312.673 5558.490 0.0860102 3.759375e-03 3 model2 mean 1460.623 5579.128 0.5970038 6.035356e-05 4 model3 cwc + mean 1461.381 5556.519 0.5967948 4.112504e-03 個人レベルの回帰係数（𝛽ESCS ）があまり大きな値ではなかったことからも示唆されるように， 今回のデータにおいて ESCS は，個人レベルの変動にはほとんど寄与していない（どのモデルに ついても PVE_residual がほぼゼロである）ことが分かります。一方で，集団レベルの PVE は 大きな値（model2, 3 では PVE_school が 0.6 程度）となっており，集団レベルの変動の説明 変数として重要な役割を果たしていることが分かります。このように，分散説明率 PVE は，通 常の回帰分析と同じように，ある説明変数を（場合によってはどちらのレベルに）投入すべきか を判断するのに役に立つ指標となります。 さらなる集団レベル変数の追加 もちろんモデルは更に拡張可能です。例えば，レベル 2 の説明変数を追加することで，集団レ ベルの変数が平均値に及ぼす影響をさらに考慮することができます。ここでは，既にデータに含 まれている ST 比（生徒教員比）も集団レベルの変数として追加してみましょう。これは，少人 数学級のほうが生徒の学力が高いのか，という仮説を検証するようなイメージです。 この場合，レベル 2 の説明変数が追加されるので，モデル式は 𝑦𝑝𝑔 = 𝜇 + 𝛽ESCS (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝛽ESCS ESCS⋅𝑔 + 𝛽ST ST⋅𝑔 + 𝑢0𝑔 + 𝑢𝑝𝑔 (9.31) となり，レベルごとに表すならば (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽ESCS ESCS⋅𝑔 + 𝛽ST ST⋅𝑔 + 𝑢0𝑔 と表記されます。 複数の集団レベル変数を含むモデル 1 model4 <- glmmTMB(read_score ~ escs_cwc + sch_escs_mean + s_t_ratio + (1 | 2 school_id), data = dat) summary(model4) 1 2 3 4 5 6 7 Family: gaussian ( identity ) Formula: read_score ~ escs_cwc + sch_escs_mean + s_t_ratio + (1 | school_id) Data: dat AIC 66494.9 BIC 66534.9 logLik -2*log(L) -33241.5 66482.9 df.resid 5760 (9.32)

9.3 階層線形モデル

8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

47

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 1416
37.63
Residual
5557
74.54
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.56e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
500.0671
8.5274
58.64 < 2e-16 ***
escs_cwc
7.4461
1.5625
4.77 1.88e-06 ***
sch_escs_mean 122.4814
8.2412
14.86 < 2e-16 ***
s_t_ratio
1.4621
0.6458
2.26
0.0236 *
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

得られた係数を (9.33) 式に代入すると，

(レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 7.4461(ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 ,

𝑢𝑝𝑔 ∼ 𝑁 (0, 74.542 )

(レベル 2) 𝛽0𝑔 = 500.0671 + 122.4814ESCS⋅𝑔 + 1.4621ST⋅𝑔 + 𝑢0𝑔 ,

𝑢0𝑔 ∼ 𝑁 (0, 37.632 )
(9.33)

となります。
結果を見ると，s_t_ratio の係数は正となっていることから，どうやらむしろ ST 比の高い
学校のほうが生徒の読解力がやや高い傾向があるようです。ただこの結果が少人数教育を否定す
るものであるかは分かりません。一応集団レベルにはすでに sch_escs_mean が含まれているた
め，この効果は統制された偏回帰係数として算出されて入るのですが，ESCS に含まれない別の
要因が影響している可能性は否定できないためです。

9.3.5 ランダム切片・傾きモデル
これまでに紹介してきたランダム切片モデルはいずれも，レベル 1 説明変数（escs あるいは

escs_cwc）の回帰係数は集団ごとに同じ値となっていました。しかし，場合によっては集団ごと
に回帰係数が異なることもあります。例えば，レベル 1 説明変数として「勉強時間」を考えた場
合，
「正しい勉強のしかた」を教えてくれる学校では勉強時間の効果が大きい一方で，そうでない
学校では勉強時間が学力にあまり結びつかない（回帰係数が小さい）可能性もあるでしょう。ま
た ESCS についても，私立学校ではそもそもの ESCS のばらつきが小さいために回帰係数が小さ
い一方で，公立学校では ESCS のばらつきが大きく，回帰係数も大きい可能性が考えられます。
このような場合には，傾きが集団ごとに異なることを許容した拡張であるランダム傾きモデル
（random slopes model）を使用します。なお，ICC の計算で見たように，マルチレベルモデルの

• #p47

9.3 階層線形モデル 48 基本は集団間の切片の差に起因します。そのためランダム傾きモデルも，ほとんどの場合にはラ ンダム切片も同時に適用する，ランダム切片モデルの拡張と位置づけられます。 傾きを固定効果とみなすモデル 本題に入る前に，まずは傾きを固定効果とみなすモデルを考えてみましょう。これは，個人レ ベルの説明変数をそのままモデルに入れる通常の回帰分析と同じです。ただし，分散分析のダ ミー変数と同じように，傾きを集団の数だけ設定する必要があります。したがって，モデル式と しては 𝐺−1個だけ足す 𝑦𝑝𝑔 = 𝛽0 + 𝛽ESCS ESCS𝑝𝑔 + ⏞⏞⏞⏞⏞⏞⏞⏞⏞⏞⏞⏞⏞⏞⏞ (𝛽0𝑔 + 𝛽ESCS,𝑔 ESCS𝑝𝑔 )𝑥𝑔=𝑔 + ⋯ +𝑢𝑝𝑔 (9.34) となります。これだとわかりにくいので，再び集団 𝑔 ごとに分解すると， 𝑦𝑝1 = 𝛽0 +𝛽ESCS ESCS𝑝1 +𝑢𝑝1 (𝑔 = 1) 𝑦𝑝2 = 𝛽0 + 𝛽02 +(𝛽ESCS + 𝛽ESCS,2 )ESCS𝑝2 +𝑢𝑝2 (𝑔 = 2) 𝑦𝑝3 = 𝛽0 + 𝛽03 +(𝛽ESCS + 𝛽ESCS,3 )ESCS𝑝3 +𝑢𝑝3 (𝑔 = 3) 𝑦𝑝𝐺 = 𝛽0 + 𝛽0𝐺 +(𝛽ESCS + 𝛽ESCS,𝐺 )ESCS𝑝𝐺 +𝑢𝑝𝐺 (𝑔 = 𝐺) (9.35) ⋮ という要領で，(9.5) 式と同じように，集団ごとに切片と傾きそれぞれについて「𝑔 = 1 との違 い」の係数を設定することに相当します。このモデルは，lm() 関数を使えば以下のように実行 可能です。 交互作用を追加した回帰分析 1 summary(lm(read_score ~ school_id * escs, data = dat)) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 （前略） Coefficients: (Intercept) school_id002 school_id003 school_id004 Estimate Std. Error t value Pr(>|t|) 6.170e+02 1.657e+01 37.234 < 2e-16 *** -1.458e+02 2.225e+01 -6.554 6.13e-11 *** -1.552e+02 2.172e+01 -7.149 9.91e-13 *** -1.075e+02 2.266e+01 -4.744 2.15e-06 *** （中略） school_id185 -1.484e+02 escs 9.096e+00 school_id002:escs -1.346e+01 school_id003:escs 4.823e+01 school_id004:escs -1.421e+00 （後略） 2.295e+01 2.317e+01 3.043e+01 2.779e+01 2.890e+01 -6.468 1.08e-10 *** 0.393 0.694693 -0.442 0.658330 1.736 0.082693 . -0.049 0.960792

• #p14

9.3 階層線形モデル 49 この結果から，例えば school_id が 001，002 の学校の回帰直線はそれぞれおよそ (学校 1) 𝑦𝑝1 = 617.0 + 9.096ESCS𝑝1 + 𝑢𝑝1 (学校 2) 𝑦𝑝2 = (617.0 − 145.8) + (9.096 − 13.46)ESCS𝑝2 + 𝑢𝑝2 = 471.2 − 4.364ESCS𝑝2 (9.36) + 𝑢𝑝2 という要領で，具体的に各集団ごとの回帰直線を個別に求めることができます。 しかし，このモデルは集団ごとに傾きを設定するため，集団の数だけ回帰係数が必要となり， 集団の数が多い場合には非常に多くのパラメータを推定することになります。また，集団の数が 多い場合には，その解釈は非常に大変になってしまうでしょう。ということで，紹介はしました が，集団の数が多い場合にはこのモデルはあまり実用的ではありません。 基本的なランダム傾きモデル ということで，個人レベルの説明変数の傾きを変量効果とみなすランダム傾きモデルを考えて みましょう。考え方は今までと同じで，集団ごとに異なる傾き 𝛽ESCS,𝑔 を何かしらの正規分布に 従う確率変数と考えるだけです。 (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 (9.37) (レベル 2) 𝛽ESCS,𝑔 = 𝛽ESCS + 𝑢ESCS,𝑔 変量効果が複数になる場合には，それぞれの変量効果に対して，レベル 2 の回帰式が設定される ことになります。これは，後ほど「切片の説明変数」と「傾きの説明変数」がそれぞれ投入され るときに，しっかりと区別するうえで重要な書き方です。 このとき，それぞれの変量効果に対して，以下の仮定を置きます。 （レベル 1） 𝑢𝑝𝑔 （レベル 2）[ 2 ∼ 𝑁 (0, 𝜎𝑝𝑔 ) 𝑢0𝑔 𝑢ESCS,𝑔 ] ∼ 𝑀 𝑉 𝑁 ([ 2 𝜎0𝑔 0 ],[ 𝜎(0𝑔)(ESCS,𝑔) 0 𝜎(0𝑔)(ESCS,𝑔) ]) 2 𝜎ESCS,𝑔 (9.38) これまでと同様に，基本的に各変量効果は正規分布に従い，また異なるレベル間の変量効果は 相関しないと仮定します。ただし，同じレベルの変量効果（今回で言えば 𝑢0𝑔 と 𝑢ESCS,𝑔 ）には 多変量正規分布 𝑀 𝑉 𝑁 (𝜇, Σ) を仮定します。簡単に言えば，これは同じレベルの変量効果の間 には相関関係を認める，ということです。その具体的な意味は後ほど確認するとして，まずは glmmTMB() 関数でこのモデルを実行してみましょう。 傾きに変量効果を持たせるためには，まず普通にその説明変数を formula の右辺に入れます。 これによって， 「傾きの全体平均（𝛽ESCS ） 」を推定できるようになります。 ランダム傾きモデル 1 model5 <- glmmTMB(read_score ~ escs_cwc + (escs_cwc | school_id), data = 2 dat) summary(model5)

9.3 階層線形モデル

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

50

Family: gaussian ( identity )
Formula:
read_score ~ escs_cwc + (escs_cwc | school_id)
Data: dat
AIC
66648.6

BIC
66688.6

logLik -2*log(L)
-33318.3
66636.6

df.resid
5760

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev. Corr
school_id (Intercept) 3626.8
60.22
escs_cwc
106.9
10.34
-0.09
Residual
5512.9
74.25
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.51e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 503.695
4.563 110.40 < 2e-16 ***
escs_cwc
7.396
1.751
4.22 2.4e-05 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

傾きの変量効果の情報は，出力の Random effects: の部分に記載されています。Groups が

school_id で Name が escs_cwc となっている行が，傾きの変量効果に関する情報です。また，
一番右には Corr という列が追加されています。これは，変量効果の相関係数

𝜌(0𝑔)(ESCS,𝑔) =

𝜎(0𝑔)(ESCS,𝑔)
2
2
√𝜎0𝑔
√𝜎ESCS,𝑔

(9.39)

を表しています。したがって，得られた係数を (9.37) 式に代入すると，

(レベル 1) 𝑦𝑝𝑔

= 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔

(レベル 2) 𝛽0𝑔

= 503.695 + 𝑢0𝑔

(9.40)

(レベル 2) 𝛽ESCS,𝑔 = 7.396 + 𝑢ESCS,𝑔
また変量効果は
（レベル 1）
𝑢𝑝𝑔
（レベル 2）[

∼ 𝑁 (0, 74.252 )
𝑢0𝑔

𝑢ESCS,𝑔

] ∼ 𝑀 𝑉 𝑁 ([

0
60.222 −56.05
],[
])
0
−56.05 10.342

となります*14 。
*14 𝜎
(0𝑔)(ESCS,𝑔) = 𝜌(0𝑔)(ESCS,𝑔) 𝜎0𝑔 𝜎ESCS,𝑔 で求められます。

(9.41)

• #p49
• #p50

9.3 階層線形モデル 51 固定効果 escs_cwc の値が正であることから，個人レベルの効果は，平均的には正の値を持つ ことが分かります。ただし，その変量効果の標準偏差が 10.34 と大きな値であることから，集 団ごとに傾きが大きく異なり，場合によっては負の値になりうることも見えてきます。実際に， データに含まれている集団（学校）ごとの係数を見てみましょう。 集団ごとの平均値と回帰係数の計算 1 coef(model5)$cond$school_id 1 2 3 4 5 6 7 8 9 10 11 12 (Intercept) escs_cwc 001 616.3353 6.187427 002 474.2600 5.242309 003 463.3115 23.355328 004 505.6372 7.446572 005 413.0458 4.324954 006 607.0751 8.663129 007 584.1511 7.371261 008 416.7438 10.494779 009 503.3077 6.174089 010 379.0714 10.940293 [ reached 'max' / getOption("max.print") -- omitted 173 rows ]   最初の 10 校には傾きが負になっている学校はありませんでしたが，係数が大きいところでは 20 を超えている一方で 1 桁の学校も多く，確かに学校ごとに傾きが大きく異なっていることが 分かります。 図 9.16 は，集団ごとの傾きの変量効果を視覚化したものです。read_score の値のスケール が大きいのでやや分かりにくいですが，集団ごとに求めた回帰直線は，確かに傾きが微妙に異 なっているようです。試しに，傾きが正の場合は赤，負の場合は緑で色分けしてみると，一部の 集団では傾きが負の値になっていることが分かります。 800 読解力得点 600 400 200 -4 -2 0 社会経済的地位（ESCS） 2 図 9.16: ランダム傾きモデルの視覚化

• #p51

9.3 階層線形モデル 52 Exclamation-Triangle formula に固定効果を入れ忘れてしまうと   そろそろ分かってきたかもしれませんが，glmmTMB() 関数（や lmer() 関数）の formula では，カッコに入れない説明変数は固定効果（すべての集団で共通の係数）を表し，カッ コの中にある説明変数が変量効果を表します。そのため，傾きの変量効果を推定する場合 には，ほとんど全ての場合において，カッコの中と外にそれぞれ同じ説明変数を指定する 必要があるのです。 これを忘れてしまうと，モデルとしては以下のようになります。 (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 (レベル 2) 𝛽ESCS,𝑔 = 𝑢ESCS,𝑔 (9.42) つまり，各集団の傾き 𝛽ESCS,𝑔 は，全体平均が 0 になるように推定されてしまうのです。 もちろん，事前に「傾きの全体平均は 0 である」という確固たる信念や自負や証拠がある ならば，このように設定しても問題ありません。むしろ推定するパラメータを 1 つ減らす ことができるので良いかもしれません。しかし，ほとんどの場合ではそのようなことが事 前に分かっていることはないでしょう。ということで，基本的には常に formula の右辺に 説明変数を 2 回書くことを忘れないようにしましょう。 以下は，実際に固定効果に指定するのを忘れて実行してしまった場合の結果です。 固定効果を入れ忘れたランダム傾きモデル 1 model5_wrong <- glmmTMB(read_score ~ (escs_cwc | school_id), data = 2 dat) summary(model5_wrong)

9.3 階層線形モデル

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

53

Family: gaussian ( identity )
Formula:
read_score ~ (escs_cwc | school_id)
Data: dat
AIC
66663.7

BIC
66697.0

logLik -2*log(L)
-33326.8
66653.7

df.resid
5761

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev. Corr
school_id (Intercept) 3627.8
60.23
escs_cwc
157.6
12.56
-0.12
Residual
5514.4
74.26
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.51e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 504.812
4.774
105.7
<2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

固定効果を入れ忘れた場合の回帰係数
1

coef(model5_wrong)$cond$school_id

1
2
3
4
5
6
7
8
9
10
11
12

escs_cwc (Intercept)
001 -0.1697830
616.3282
002 -0.6870569
474.2846
003 23.4385752
463.1085
004 2.6156933
505.6190
005 -1.3208036
413.0862
006 2.9982828
607.0461
007 2.0129289
584.1247
008 6.2975992
416.7272
009 0.5201487
503.3150
010 7.3494200
379.0455
[ reached 'max' / getOption("max.print") -- omitted 173 rows ]





実際に回帰直線を引いてみると，図 9.16 よりも緑の線（負の傾きになる集団）の割合が大
きいことが分かります。

• #p51

9.3 階層線形モデル 54 800 読解力得点 600 400 200 -4 -2 0 社会経済的地位（ESCS） 2 図 9.17: 固定効果を入れ忘れた場合の回帰直線 ちなみに，切片（1）に関しては，説明変数が 1 つでもある場合には，特に除外の指定をし ない限り自動的に固定効果にも変量効果にも含まれるため，わざわざ書かなくても問題あ りません。 続いて，集団レベルの変量効果間の相関係数が負の値になっていることの意味を確認してみま しょう。一言で言えば，これは切片が大きい集団ほど，escs_cwc が read_score に与える正の 効果が小さくなっていくことを意味します。図 9.18 は，切片と傾きの変量効果の散布図です。 20 傾き 15 10 5 0 -5 400 450 500 切片 550 600 図 9.18: 変量効果（切片と傾き）の散布図 このような負の相関が生じるメカニズムまではさすがにこの結果からは分かりませんが，想像 すると以下のような現象などが考えられそうです。 • 切片が大きい＝学力が高い学校は，もともと入試の時点である程度選抜されているため に，生徒の ESCS のばらつきが小さく，ESCS の効果が小さくなる。 • 切片が小さい＝学力が高くない集団は，入試での選抜が相対的に強くないために，個人レ

• #p54

9.3 階層線形モデル 55 ベルの ESCS の効果がまだ残っている。 これ以上の議論は領域の専門家に任せるとして，とりあえずはこのような解釈が可能になりそ うな分析ができました。 説明変数を含むランダム切片モデル ランダム切片モデルでは，escs_cwc の傾きが集団（学校）ごとに異なることを確認しました。 そうすると，次は「傾きの差異の原因は何か」を明らかにしたくなるものです。図 9.18 では，事 後的に推定された傾きと切片の散布図に対して回帰直線を引いて，負の関係を示しました。続い ては，この関係をモデル式の中に組み込んでいきましょう。ということで，切片と傾きの両方に 対して，ESCS𝑝𝑔 の集団平均である ESCS⋅𝑔 を説明変数として投入します。 (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽0,ESCS ESCS⋅𝑔 + 𝑢0𝑔 (9.43) (レベル 2) 𝛽ESCS,𝑔 = 𝛽ESCS + 𝛽1,ESCS ESCS⋅𝑔 + 𝑢ESCS,𝑔 このモデルには，合計 3 つの固定効果が含まれています： • 𝛽0,ESCS ：切片の集団平均に対する効果 • 𝛽ESCS ：傾きの全体平均 • 𝛽1,ESCS ：傾きの集団平均に対する効果 そして，それぞれの固定効果に対応する説明変数を考えるために，3 つの式を 1 つにまとめて みると， 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 = (𝜇 + 𝛽0,ESCS ESCS⋅𝑔 + 𝑢0𝑔 ) + (𝛽ESCS + 𝛽1,ESCS ESCS⋅𝑔 + 𝑢ESCS,𝑔 )(ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 = 𝜇 + 𝛽0,ESCS ESCS ⋅𝑔 +𝛽ESCS (ESCS 𝑝𝑔 − ESCS ⋅𝑔 ) +𝛽1,ESCS ESCS ⋅𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) ⏟ ⏟⏟⏟⏟⏟⏟ ⏟⏟⏟ ⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟ 集団レベル 個人レベル 交互作用 +𝑢 0𝑔 + 𝑢ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 ⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟⏟ 変量効果 (9.44) という形になっています。すなわち，個人レベルの説明変数 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) と集団レベル の説明変数 ESCS⋅𝑔 ，そしてこれらの交互作用項に対して，固定効果の回帰係数が 1 つずつ推定 されることになります。 それでは，このモデルも glmmTMB() 関数で実行してみましょう。変量効果の部分はすでに (escs_cwc|school_id) で指定しているので，説明変数を formula の右辺に追加するだけで実 行できます。交互作用項を追加する場合には，+ の代わりに*を使って繋げましょう。*を使うと， 説明変数の主効果と交互作用項の両方が自動的に追加されます。

• #p54

9.3 階層線形モデル

56

説明変数を含むランダム傾きモデル
1

model6 <- glmmTMB(read_score ~ escs_cwc * sch_escs_mean + (escs_cwc |

2

school_id), data = dat)
summary(model6)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27

Family: gaussian ( identity )
Formula:
read_score ~ escs_cwc * sch_escs_mean + (escs_cwc | school_id)
Data: dat
AIC
66498.0

BIC
66551.3

logLik -2*log(L)
-33241.0
66482.0

df.resid
5758

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev. Corr
school_id (Intercept) 1463
38.24
escs_cwc
107
10.34
-0.17
Residual
5513
74.25
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.51e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
518.0581
3.1314 165.44 < 2e-16 ***
escs_cwc
7.4769
1.8728
3.99 6.54e-05 ***
sch_escs_mean
126.5833
8.1517
15.53 < 2e-16 ***
escs_cwc:sch_escs_mean
0.4573
4.8602
0.09
0.925
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

得られた推定値を (9.43) 式に代入すると，

(レベル 1) 𝑦𝑝𝑔

= 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔

(レベル 2) 𝛽0𝑔

= 518.0581 + 126.5833ESCS⋅𝑔 + 𝑢0𝑔

(9.45)

(レベル 2) 𝛽ESCS,𝑔 = 7.4769 + 0.4573ESCS⋅𝑔 + 𝑢ESCS,𝑔
となります（変量効果の部分は省略）
。一番下の式から，このモデルにおいては，ESCS の集団平
均（ESCS⋅𝑔 ）が大きい集団ほど，個人レベルの ESCS の正の効果が大きくなることが示されま
した。ただし，係数が小さく，また 𝑝 値も大きいことから，基本的には「ESCS の集団平均によ
る違いはほとんどない」と言っても良さそうです。

• #p55

9.3 階層線形モデル 【単純傾斜分析】 今回の分析では見られなかったのですが，（クロスレベル）交互作用がある場 合には，ある説明変数（ESCS𝑝𝑔 − ESCS⋅𝑔 ）回帰係数の傾きが，別の説明変数（ESCS⋅𝑔 ）の値 によって変わることになります。これを視覚的に表すために用いられることがあるのが，単純傾 斜分析（simple slope analysis）です。R で実行する方法はいくつかあると思いますが，ここで は modelbased パッケージを使って，単純傾斜分析を行う方法を紹介します*15 。 単純傾斜分析では，傾きを検討したい説明変数（ここでは escs_mean）に対する交互作用項 （ここでは sch_escs_mean）が平均 ±1 標準偏差などの特定の値を取るときに，回帰係数の値に ついて検定を行います。 単純傾斜分析 1 2 3 4 # install.packages("modelbased") library(modelbased) slopes <- estimate_slopes(model6, trend = "escs_cwc", by = "sch_escs_mean") slopes 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 Estimated Marginal Effects sch_escs_mean | Slope | SE | 95% CI | z | p -------------------------------------------------------------1.11 | 6.97 | 5.04 | [-2.92, 16.86] | 1.38 | 0.167 -0.89 | 7.07 | 4.05 | [-0.86, 15.00] | 1.75 | 0.081 -0.68 | 7.17 | 3.21 | [ 0.88, 13.45] | 2.23 | 0.025 -0.46 | 7.27 | 2.38 | [ 2.61, 11.92] | 3.06 | 0.002 -0.25 | 7.36 | 1.83 | [ 3.79, 10.94] | 4.03 | < .001 -0.03 | 7.46 | 1.80 | [ 3.93, 10.99] | 4.14 | < .001 0.18 | 7.56 | 2.39 | [ 2.87, 12.25] | 3.16 | 0.002 0.40 | 7.66 | 3.13 | [ 1.52, 13.80] | 2.45 | 0.014 0.61 | 7.76 | 3.96 | [-0.01, 15.53] | 1.96 | 0.050 0.83 | 7.86 | 5.07 | [-2.08, 17.79] | 1.55 | 0.121 Marginal effects estimated for escs_cwc Type of slope was dY/dX estimate_slopes() 関数では，trend に与えた変数（escs_cwc）を説明変数とした回帰直 線の傾きが，by に与えた変数（sch_escs_mean）の値によってどう変化するかを表示してくれ ます。デフォルトでは，by に与えた変数について，データ内に存在する範囲を 10 等分した値の 場合の傾きをそれぞれ表示しています。また，以下のように引数 by の書き方を変えると，特定 の値における結果を表示することも可能です。 *15 他にも，interactions パッケージなどは使いやすいパッケージなのですが，glmmTMB() 関数の出力に一部非対 応なため，modelbased パッケージをメインに紹介します。 57

• https://easystats.github.io/modelbased/index.html
• #p57
• https://cran.r-project.org/web/packages/interactions/vignettes/interactions.html

9.3 階層線形モデル 単純傾斜分析（細かい指定 1） 1 2 # 特定の値での結果を出したい場合 estimate_slopes(model6, trend = "escs_cwc", by = "sch_escs_mean = c(-0.5, 0, 0.5)") 1 2 3 4 5 6 7 8 9 10 Estimated Marginal Effects sch_escs_mean | Slope | SE | 95% CI | z | p ------------------------------------------------------------0.50 | 7.25 | 2.46 | [2.43, 12.07] | 2.95 | 0.003 0.00 | 7.48 | 1.87 | [3.80, 11.15] | 3.99 | < .001 0.50 | 7.71 | 3.54 | [0.77, 14.64] | 2.18 | 0.029 Marginal effects estimated for escs_cwc Type of slope was dY/dX 単純傾斜分析（細かい指定 2） 1 2 # 平均値プラスマイナス1標準偏差での結果を出したい場合 estimate_slopes(model6, trend = "escs_cwc", by = "sch_escs_mean = [sd]") 1 2 3 4 5 6 7 8 9 10 Estimated Marginal Effects sch_escs_mean | Slope | SE | 95% CI | z | p ------------------------------------------------------------0.46 | 7.27 | 2.37 | [2.61, 11.92] | 3.06 | 0.002 -0.10 | 7.43 | 1.76 | [3.98, 10.88] | 4.22 | < .001 0.26 | 7.60 | 2.75 | [2.22, 12.98] | 2.77 | 0.006 Marginal effects estimated for escs_cwc Type of slope was dY/dX 今回の分析においては，そもそも交互作用が有意でないため，±1 標準偏差の間では傾きはほ ぼ同じになっており，検定もすべて有意となっています。 単純傾斜検定においてよく用いられるのが，特定の条件における回帰直線を実際に引いてみ る，というものです。このためには，まず説明変数の値で条件づけた期待値を計算する必要があ ります。 単純傾斜分析のプロット 1 2 3 # 条件付き期待値の計算 means <- estimate_means(model6, by = c("escs_cwc", "sch_escs_mean = [sd]")) plot(means) 58

9.3 階層線形モデル

59

Mean of read_score

600

550

sch_escs_mean
-0.46
500

-0.10
0.26

450

-2

0

2

escs_cwc

図 9.19: 単純傾斜分析のプロット

引数 by の中で，最初に指定した変数を 𝑋 軸に置き，2 つめに指定した変数の値ごとにそれぞ
れ回帰直線をプロットします。今回の場合は，傾きのクロスレベル交互作用がほぼ見られなかっ
たため，傾きはほぼ同じで切片だけが異なる直線となりました。
単純傾斜分析の考え方を拡張すると，
「sch_escs_mean がある値以下の学校では傾きが有意に
なり，ある値を超えると有意ではなくなる」などと考えることができます。これを表すために用
いられるのが，Johnson-Neyman 区間（Bauer & Curran, 2005; Johnson & Fay, 1950）と呼ば
れるものです。

Johnson-Neyman 区間の算出
1
2
3
1
2
3
4
5
6
7
8
9
10

# 引数lengthを大きくすると，傾きを細かく出してくれる
slopes_100 <- estimate_slopes(model6, trend = "escs_cwc", by =
"sch_escs_mean", length = 100)
summary(slopes_100)

Johnson-Neymann Intervals
Start |
End | Direction | Confidence
-------------------------------------------1.11 | -0.82 | positive | Not Significant
-0.80 | 0.56 | positive | Significant
0.58 | 0.83 | positive | Not Significant
Marginal effects estimated for escs_cwc
Type of slope was dY/dX

出力の各行は，by に与えた交互作用の説明変数が Start から End の間の値であるときに有
意（𝑝 < 0.05）であるかをそれぞれあらわしています。したがって 1 行目から順に見ていくと，

sch_escs_mean が [−1.11, −0.82] の範囲では escs_cwc の傾きが有意ではなく，[−0.80, 0.56]

• #p127

9.3 階層線形モデル の範囲では有意，そして 0.58 以上では再び有意ではなくなる，ということです*16 。なおこの結 果は，estimate_slopes() 関数で計算された結果をそのまま使っているだけなので，区間の精 度を上げたい場合には，それだけ引数 length を増やせば OK です。 Exclamation-Triangle 有意かどうか行ったり来たり Johnson-Neyman 区間の精度を上げるために，試しに length を増やしてみましょう。 Johnson-Neyman 区間の精度を上げたい 1 slopes_200 <- estimate_slopes(model6, trend = "escs_cwc", by = 2 "sch_escs_mean", length = 200) summary(slopes_200) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 Johnson-Neymann Intervals Start | End | Direction | Confidence -------------------------------------------1.11 | -0.81 | positive | Not Significant -0.80 | 0.54 | positive | Significant 0.55 | 0.55 | positive | Not Significant 0.56 | 0.56 | positive | Significant 0.57 | 0.58 | positive | Not Significant 0.59 | 0.59 | positive | Significant 0.60 | 0.83 | positive | Not Significant Marginal effects estimated for escs_cwc Type of slope was dY/dX すると，0.55 から 0.60 の間で Not Significant と Significant を行き来しました。こ れは，sch_escs_mean の値が大きくなるにつれて，傾きと標準誤差が同時に大きくなるた めと考えられます。つまり，sch_escs_mean の値が 0.55 から 0.60 の間では 𝑝 値がほぼ 0.05 に近いために起こっています（そんなに頻繁に起こることではないと思います）。 この場合の解釈は悩ましいところですが，基本的にはこのように曖昧なところは，有意で はないものとして解釈しておいたほうが良い気がします。これは，迷った場合には保守的 な態度を取ったほうが安全であり，また Johnson-Neyman 区間を単一の区間として表せ るためです。 estimate_slopes() 関数の出力を plot() にかけると，Johnson-Neyman 区間を図示するこ とが可能です。これは，sch_escs_mean の値が具体的にどの区間にあるときに escs_cwc の傾 *16 sch_escs_mean がさらに大きくなると，傾きがほとんど変わらないどころか徐々に大きくなるにもかかわらず有 意でなくなってしまいます。その理由は，そこまで sch_escs_mean が大きい学校が無いために，傾きの推定値の 標準誤差（塗りつぶされている部分の幅）が大きくなっていくためです。 60

• #p60

9.3 階層線形モデル 61 きが有意になるかを視覚的にわかりやすく示すツールです。 Johnson-Neyman 区間のプロット 1 plot(slopes_100) Slope of escs_cwc 15 p 10 not significant significant 5 0 -1.0 -0.5 0.0 0.5 sch_escs_mean 図 9.20: Johnson-Neyman 区間のプロット このように，単純傾斜分析や Johnson-Neyman プロットを用いることで，クロスレベルの交 互作用がある場合に，どのような状況で傾きが有意になるかを確認することができます。研究仮 説の精緻な検証や，結果の解釈に役立つかもしれません。 LIGHTBULB lme4 と interaction の組み合わせの場合     ここまでの分析は， lme4::lmer() の出力に対しても同じように実行可能です。また， interaction パッケージでも以下のように実行可能です。modelbased パッケージはまだ バージョンが 1 になっていないので，今後使えなくなる可能性を考慮して，interaction パッケージでの実行方法をいかに示します。ただし，以下に示す方法の一部は glmmTMB() 関数の出力に対しては適用できない点にご注意ください。 説明変数を含むランダム傾きモデル 1 model6_lmer <- lmer(read_score ~ escs_cwc * sch_escs_mean + (escs_cwc 2 | school_id), data = dat) # summary(model6_lmer) 単純傾斜分析として，sch_escs_mean の値が特定の状況での escs_cwc の回帰係数（傾 き）を表示するためには，interaction_plot() 関数を使用します。

9.3 階層線形モデル 62 単純傾斜分析（interactions） 1 2 3 # install.packages("interactions") library(interactions) interact_plot(model6_lmer, pred = escs_cwc, modx = sch_escs_mean, interval = TRUE) 600 read_score 550 sch_escs_mean + 1 SD 500 Mean - 1 SD 450 -2 0 2 escs_cwc 図 9.21: 単純傾斜分析の結果（interactions） interact_plot() 関数では，pred に与えた変数（escs_cwc）を説明変数とした回帰直 線の傾きが，modx に与えた変数（sch_escs_mean）の値によってどう変化するかを表示 してくれます。デフォルトでは，modx の値が平均値 ±1 標準偏差の場合の傾きを表示しま す。また，interval = TRUE を指定すると，回帰直線の 95% 信頼区間も表示されます。 さらに，特定の状況における傾きについて，具体的に検定を行うことも可能です。 単純傾斜の検定（interactions） 1 sim_slopes(model6_lmer, pred = escs_cwc, modx = sch_escs_mean)

9.3 階層線形モデル 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 63 JOHNSON-NEYMAN INTERVAL When sch_escs_mean is INSIDE the interval [-0.79, 0.59], the slope of escs_cwc is p < .05. Note: The range of observed values of sch_escs_mean is [-1.11, 0.83] SIMPLE SLOPES ANALYSIS Slope of escs_cwc when sch_escs_mean = -0.46161665 (- 1 SD): Est. S.E. t val. p ------ ------ -------- -----7.26 2.36 3.08 0.00 Slope of escs_cwc when sch_escs_mean = -0.09878821 (Mean): Est. S.E. t val. p ------ ------ -------- -----7.43 1.77 4.21 0.00 Slope of escs_cwc when sch_escs_mean = 0.26404024 (+ 1 SD): Est. S.E. t val. p ------ ------ -------- -----7.60 2.64 2.88 0.00 sim_slopes() 関数は，interact_plot() 関数と同じ引数をとり，特定の状況において 「傾きが 0 である」という帰無仮説に対する検定の結果を表示します。したがって，上の結 果からは，sch_escs_mean が平均値あるいは ±1 標準偏差くらいの範囲にある学校におい ては，いずれも個人レベルの ESCS の効果が有意であることがわかります。 Johnson-Neyman 区間のプロットを出すためには， johnson_neyman() 関数を使用し ます。 Johnson-Neyman プロット 1 2 # 実はsim_slopes()関数でjnplot = TRUEとしても出てくる johnson_neyman(model6_lmer, pred = escs_cwc, modx = sch_escs_mean)

9.3 階層線形モデル 64 Johnson-Neyman plot Slope of escs_cwc 20 Range of observed data 10 n.s. p < .05 0 -1.5 -1.0 -0.5 0.0 0.5 1.0 sch_escs_mean 図 9.22: Johnson-Neyman プロット 1 2 3 4 5 6 JOHNSON-NEYMAN INTERVAL When sch_escs_mean is INSIDE the interval [-0.79, 0.59], the slope of escs_cwc is p < .05. Note: The range of observed values of sch_escs_mean is [-1.11, 0.83] プロットにおいて，青い線が表示されている範囲が，「sch_escs_mean がその値のときに は escs_cwc の傾きが有意になる」範囲です。具体的な値は，同時に出力された中に示さ れており，今回のケースでは [-0.79, 0.59] の範囲であれば有意であると分かります。 さらなる集団レベル変数の追加 もちろんランダム傾きモデルでも，集団レベルのみの説明変数を追加することは可能です。ラ ンダム切片モデルのときと同様に，ST 比を切片および傾きの説明変数に追加した以下のモデル を考えてみましょう。 (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽0,ESCS ESCS⋅𝑔 + 𝛽0,ST ST⋅𝑔 + 𝑢0𝑔 (9.46) (レベル 2) 𝛽ESCS,𝑔 = 𝛽ESCS + 𝛽1,ESCS ESCS⋅𝑔 + 𝛽1,ST ST⋅𝑔 + 𝑢ESCS,𝑔 このモデルにおいて，集団レベルの説明変数である ST 比は，統制変数のような位置づけです。 例えば，ESCS が平均的に高い学校（有名私立など？）では，よりきめ細かい教育を目指して ST 比が小さくなる傾向があるとしたら，ESCS が読解力に与える影響は，部分的には ST 比による ものである可能性があります。統制変数を追加するということは，この ST 比の効果を統制する ことで，集団レベルの ESCS そのもののより純粋な効果を推定するために必要かもしれないので す。このあたりは，マルチレベルモデルであるかに関わらず，回帰分析においては同じように考 えておくと良いでしょう。 それでは，このモデルも glmmTMB() 関数で実行してみましょう。先ほどと同様に，クロスレベル

9.3 階層線形モデル

65

交互作用項の位置に気をつけると，ESCS⋅𝑔 (ESCS𝑝𝑔 −ESCS⋅𝑔 ) に加えて，ST⋅𝑔 (ESCS𝑝𝑔 −ESCS⋅𝑔 )
もあることから，以下のようになります。
説明変数を追加したモデル
1

model7 <- glmmTMB(read_score ~ escs_cwc * (sch_escs_mean + s_t_ratio) +
(escs_cwc | school_id), data = dat)

1
2
3

Warning in finalizeTMB(TMBStruc, obj, fit, h, data.tmb.old): Model
convergence problem; non-positive-definite Hessian matrix. See
vignette('troubleshooting')

1

summary(model7)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

Family: gaussian ( identity )
Formula:
read_score ~ escs_cwc * (sch_escs_mean + s_t_ratio) + (escs_cwc |
school_id)
Data: dat
AIC
NA

BIC
NA

logLik -2*log(L)
NA
NA

df.resid
5756

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev. Corr
school_id (Intercept) 1.416e+03 3.763e+01
escs_cwc
1.329e-09 3.645e-05 -1.00
Residual
5.555e+03 7.453e+01
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.55e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
500.0676
8.5274
58.64 < 2e-16 ***
escs_cwc
12.8474
4.4287
2.90 0.00372 **
sch_escs_mean
122.4814
8.2412
14.86 < 2e-16 ***
s_t_ratio
1.4621
0.6458
2.26 0.02358 *
escs_cwc:sch_escs_mean
1.5242
4.4683
0.34 0.73302
escs_cwc:s_t_ratio
-0.4387
0.3352
-1.31 0.19063
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

9.3 階層線形モデル 66 交互作用の追加は，掛け算の分配法則のように考えていけば OK です。すなわち，固定効果を escs_cwc * (sch_escs_mean+s_t_ratio) と書けば，これは escs_cwc * sch_escs_mean + escs_cwc * s_t_ratio と同じ意味になります。一方で，もしも escs_cwc * sch_escs_mean * s_t_ratio と書いて しまうと，sch_escs_mean と s_t_ratio の間およびこれと escs_cwc の 3 つの組み合わせに もすべて交互作用があるものとして解釈されてしまいます。 2 出力を見ると，Warning が出ており，escs_cwc の傾きの変量効果の分散 𝜎ESCS,𝑔 の値がほぼ ゼロになっています。ということで，今回のデータではうまく変量効果を推定することができま せんでした*17 。 不適解であることに目を瞑って，得られた係数を (9.46) 式に代入すると， (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 500.0676 + 122.4814ESCS⋅𝑔 + 1.4621ST⋅𝑔 + 𝑢0𝑔 (レベル 2) 𝛽ESCS,𝑔 = 12.8474 + 1.5242ESCS⋅𝑔 − 0.4387ST⋅𝑔 + 𝑢ESCS,𝑔 (9.47) となります。 9.3.6 モデル比較 ここまで色々なモデルを実行してきましたが，結局のところどこまでの変量効果を考えるべき か，というのは実用上重要なポイントです。ランダム切片モデルによって求めた ICC では，ま ずデータの階層性を考慮する必要があるかを確認しましたが，それ以上のモデルを考える必要が あるかどうかは，モデル比較によって判断することができます。 まずは，ここまでに実行してきたモデルの formula を一覧にしておきましょう。表 9.2 を見 ると，一部のモデルはネストの関係にあることが分かります。例えば，model0 は，model2 にお いて sch_escs_mean の回帰係数を 0 に固定した（集団レベルの説明変数を削除した）モデル， とみなすことができます。 このように，モデルがネストの関係にある場合には，尤度比検定（Likerlihood ratio test [LRT]）を用いて，モデルの比較を行うことができます。尤度比検定自体は SEM の Chapter で も少しだけ登場しましたが，これは簡単に言えば増やしたパラメータに見合うだけの尤度の改善 が見られるかを評価する方法です*18 。 ということで，明確にネストの関係にある model0，model2，model3，model6 の 4 つのモデ ルを比較してみましょう*19 。これは非常に簡単に，anova() 関数を用いて実行できます*20 。 *17 ただ，lmer() 関数で推定すると問題ない推定値が得られます。したがって，推定のアルゴリズムの細かい違いに よって結果がかなり変動してしまうほど推定が難しい（不安定）のかもしれません。glmmTMB() 関数でうまく推 定できたら教えて下さい。 *18 ここで正確な尤度を用いるので，lme4::lmer() 関数の場合には REML = FALSE でモデルを実行しておく必要が あったのです。 *19 model1 は model3 にネストしているとは言えません。また model4 および model7 は別の変数 s_t_ratio を使 用しているため，ネストの関係にはありません。model5 は model6 にはネストしているものの，model3 を内包 していないため，ここでは除外します。 *20 どうやら glmmTMB() の出力に対しては，そもそもネストの関係にないモデルを入れるとエラーが出てしまうよう です。

• #p66
• #p64
• #p67

9.3 階層線形モデル

67
表 9.2: モデルの式一覧

model

formula の右辺

model0

(1|school_id)

model1

escs + (1|school_id)

model2

sch_escs_mean + (1|school_id)

model3

escs_cwc + sch_escs_mean + (1|school_id)

model4

escs_cwc + sch_escs_mean + s_t_ratio + (1 | school_id)

model5

escs_cwc + (1 + escs_cwc | school_id)

model6

escs_cwc * sch_escs_mean + (1 + escs_cwc | school_id)

model7

escs_cwc * (sch_escs_mean + s_t_ratio) + (1 + escs_cwc | school_id)

モデル比較
1

anova(model0, model2, model3, model6)

1
2
3
4
5

Data: dat
Models:
model0: read_score ~ (1 | school_id), zi=~0, disp=~1
model2: read_score ~ sch_escs_mean + (1 | school_id), zi=~0, disp=~1
model3: read_score ~ escs_cwc + sch_escs_mean + (1 | school_id), zi=~0,
disp=~1
model6: read_score ~ escs_cwc * sch_escs_mean + (escs_cwc | school_id),
zi=~0, disp=~1
Df
AIC
BIC logLik deviance
Chisq Chi Df Pr(>Chisq)
model0 3 66671 66691 -33332
66665
model2 4 66519 66545 -33255
66511 154.0264
1 < 2.2e-16 ***
model3 5 66498 66531 -33244
66488 22.6635
1
1.93e-06 ***
model6 8 66498 66551 -33241
66482
5.9989
3
0.1117
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

6
7
8
9
10
11
12
13

このように，anova() 関数にネストの関係にあるモデルを順番に指定するだけで，モデル比較
ができます。基本的に，パラメータが増えるほど，
（対数）尤度を表す logLik の値は大きくなり
ます。そして，anova() 関数では，この改善した尤度の大きさと追加したパラメータの数（Df に
等しい）を比較して，その改善が有意かどうかを検定してくれます。今回のデータでは，model0
よりも model2 が，また model2 よりも model3 が，それぞれ有意に尤度を改善している一方で，

model6 は model3 と比べて有意な改善が見られなかった，と言えます。したがって，「傾きの変
量効果を追加したこと」あるいは「クロスレベル交互作用を追加したこと」の少なくともいずれ
か（たぶん後者）は，このデータにおいてはあまり意味がなかったのだと言えそうです。ただし，
この結果はもちろんサンプルサイズが大きいほど有意になりやすいので，注意が必要です。

9.4 一般化線形モデル 68 また，anova() 関数では情報量規準（AIC, BIC）も出してくれます。必要に応じてこれらも参 考にすると良いでしょう。その他にも，説明変数を追加したことによる分散説明率を示す PVE や，「推定された変量効果と相関を持つレベル 2 説明変数を入れ忘れていないか」を確認するな ど，説明変数の選択は多角的に行うことが重要とされています（尾崎 et al.，2018） 。 9.4 一般化線形モデル ここまで紹介してきた階層線形モデルの考え方は，一般化線形モデル（GLM）に対しても同 様に適用可能です*21 。そこで，ここからは GLM における変量効果の考え方を紹介するため，被 説明変数を「進学希望（wants_univ） 」としたロジスティック回帰分析をマルチレベルで実行し ていきます。 9.4.1 ランダム切片 GLM まずは，ランダム切片モデルです。変量効果を考える前に，まず学校ごとの切片を固定効果と みなした場合のモデル式は以下のようになります。 𝑔(𝑦𝑝𝑔 ) = log 𝑦𝑝𝑔 = 𝛽0 + 𝛽02 𝑥𝑔=2 + 𝛽03 𝑥𝑔=3 + ⋯ + 𝛽0𝐺 𝑥𝑔=𝐺 + 𝑢𝑝𝑔 1 − 𝑦𝑝𝑔 (9.48) このモデルを glm() 関数で実行する場合には，以下のように書けば良かったですね。 固定効果の GLM 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 summary(glm(wants_univ ~ school_id, data = dat, family = binomial)) Call: glm(formula = wants_univ ~ school_id, family = binomial, data = dat) Coefficients: Estimate Std. Error z value Pr(>|z|) (Intercept) 1.757e+01 6.687e+02 0.026 0.979 school_id002 -1.817e+01 6.687e+02 -0.027 0.978 school_id003 -1.698e+01 6.687e+02 -0.025 0.980 school_id004 -1.775e+01 6.687e+02 -0.027 0.979 school_id005 -1.776e+01 6.687e+02 -0.027 0.979 school_id006 -1.068e-07 9.599e+02 0.000 1.000 school_id007 -1.479e+01 6.687e+02 -0.022 0.982 [ reached getOption("max.print") -- omitted 176 rows ] (Dispersion parameter for binomial family taken to be 1) *21 GLM に混合効果 (mixed effects) モデルが組み合わさっていることから，GLMM (generalized linear mixed model) という略称も広く知られています。

• #p127
• #p68

9.4 一般化線形モデル 17 18 19 20 21 22 69 Null deviance: 6572.3 Residual deviance: 4782.7 AIC: 5148.7 on 5765 on 5583 degrees of freedom degrees of freedom Number of Fisher Scoring iterations: 16 得られた係数から，各学校における wants_univ の期待値 𝑦𝑝𝑔 ̂ を求める場合には，𝑔(𝑦𝑝𝑔 ) を 𝑦𝑝𝑔 に戻すように変換したら良いので， 𝑦𝑝𝑔 ̂ = = exp (𝑔(𝑦𝑝𝑔 )) 1 + exp (𝑔(𝑦𝑝𝑔 )) exp (𝛽0 + 𝛽02 𝑥𝑔=2 + 𝛽03 𝑥𝑔=3 + ⋯ + 𝛽0𝐺 𝑥𝑔=𝐺 ) (9.49) 1 + exp (𝛽0 + 𝛽02 𝑥𝑔=2 + 𝛽03 𝑥𝑔=3 + ⋯ + 𝛽0𝐺 𝑥𝑔=𝐺 ) となります。ここに，先ほど推定された値を代入すると，各学校における平均値はそれぞれ exp(17.57) ≈1 1 + exp(17.57) exp(17.57 − 18.17) 𝑦𝑝2 ̂ = ≈ 0.354 1 + exp(17.57 − 18.17) exp(17.57 − 16.98) 𝑦𝑝3 ̂ = ≈ 0.643 1 + exp(17.57 − 16.98) ⋮ 𝑦𝑝1 ̂ = (9.50) などと求めることができます。 もちろん，このままでは先程と同様に「このデータに含まれる学校の間では進学希望率が異な る」以上のことは言えないので，さっそく変量効果を考えていきましょう。 GLM について変量効果を考える場合，線形予測子の部分に対して正規分布に従うものがあると 考えます。GLM では，(9.48) 式にあるように，被説明変数のタイプにかかわらず， 「被説明変数を何 らかの形に変換したもの（𝑔(𝑦)） 」が「説明変数と回帰係数の線形和（𝑋𝛽 = 𝛽0 +𝛽1 𝑥1 +𝛽2 𝑥2 +⋯） 」 で表されると考えます。したがって，切片を変量効果としたランダム切片 GLM は，以下のよう に書くことができます。 𝑔(𝑦𝑝𝑔 ) = log 𝑦𝑝𝑔 = 𝜇 + 𝑢0𝑔 1 − 𝑦𝑝𝑔 (9.51) あるいはレベルごとに分割すると， (レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 (9.52) という形になります。通常の線形モデルとの違いとして，ロジスティック回帰（やポアソン回帰） では，レベル 1 の変量効果（𝑢𝑝𝑔 ）が存在しません。ロジスティック回帰の場合，𝑦𝑝𝑔 の確率分布

• #p68

9.4 一般化線形モデル 70 （尤度関数）は 𝑦𝑝𝑔 ∼ Bernoulli(𝑝𝑝𝑔 ) with 𝑝𝑝𝑔 = exp (𝑔(𝑦𝑝𝑔 )) 1 + exp (𝑔(𝑦𝑝𝑔 )) (9.53) と，ベルヌーイ分布として表されます。そして，ベルヌーイ分布の分散は，この 𝑝𝑝𝑔 の関数 𝑝𝑝𝑔 (1 − 𝑝𝑝𝑔 ) であることから，レベル 1 の要素として独立に分散を考えることが出来ないので す*22 。これに対して正規分布（通常の階層線形モデル）の場合には，期待値と分散は無関係であ ることから， 「期待値に影響する」レベル 2 変量効果と， 「分散に影響する」レベル 1 変量効果と いう形で，異なるレベルの変量効果がそれぞれ規定できるのです。 以上より，変量効果に関する仮定は，以下のように設定されます。 (レベル 2) 2 𝑢0𝑔 ∼ 𝑁 (0, 𝜎0𝑔 ) (9.54) レベル 1（個人レベル）の変量効果こそないものの，GLM においても変量効果を考える場合に は，線形予測子の部分に対して正規分布に従うものがあると考えれば良いのです。ただし，この 2 場合変量効果の分散 𝜎0𝑔 は，𝑦 の分散を表したものではない点には注意してください。この解釈 はやや複雑なので，後ほど数値例とともに紹介していくことにします。 ということで， R で上記のモデルを実行してみましょう。といっても，使用する関数は glmmTMB() のままで OK です。この関数は GLM にも対応しています。ただし glm() 関数と同 じように，被説明変数が従う確率分布と，必要に応じてリンク関数を指定する必要があります。 ランダム切片 GLM 1 model1_glm <- glmmTMB(wants_univ ~ (1 | school_id), data = dat, family = 2 binomial(link = "logit")) summary(model1_glm) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 Family: binomial ( logit ) Formula: wants_univ ~ (1 | school_id) Data: dat AIC 5374.7 BIC 5388.0 logLik -2*log(L) -2685.3 5370.7 df.resid 5764 Random effects: Conditional model: Groups Name Variance Std.Dev. school_id (Intercept) 2.164 1.471 Number of obs: 5766, groups: school_id, 183 *22 ポアソン回帰の場合には，𝑦 𝑝𝑔 の分布はポアソン分布であり，平均と分散が等しいことから，レベル 1 の変量効果 を考えることができません。

• #p70

9.4 一般化線形モデル

15
16
17
18
19

71

Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
1.449
0.118
12.28
<2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

LIGHTBULB lme4 パッケージの場合




lm() 関数に対して glm() 関数が用意されていたように，lme4 パッケージでは lmer() 関
数に対しても glmer() という関数が用意されています。
ランダム切片 GLM
1
2
3
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

# REMLもありません
model1_glmer <- glmer(wants_univ ~ (1 | school_id), data = dat, family
= binomial(link = "logit"))
summary(model1_glmer)

Generalized linear mixed model fit by maximum likelihood (Laplace
Approximation) [glmerMod]
Family: binomial ( logit )
Formula: wants_univ ~ (1 | school_id)
Data: dat
AIC
5374.7

BIC
5388.0

logLik deviance df.resid
-2685.3
5370.7
5764

Scaled residuals:
Min
1Q Median
-4.4188 -0.5060 0.2857

3Q
0.4988

Max
2.0516

Random effects:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 2.161
1.47
Number of obs: 5766, groups: school_id, 183
Fixed effects:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
1.448
0.117
12.37
<2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

9.4 一般化線形モデル 72 得られた推定値を (9.52) 式に代入すると， (レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 (レベル 2) 𝛽0𝑔 = 1.449 + 𝑢0𝑔 , 𝑢0𝑔 ∼ 𝑁 (0, 1.4712 ) (9.55) となります。𝜇 = 1.449 ということは，ある意味で最も「平均的な」学校における進学希望率は， 𝑦𝑝𝑔 ̂ = exp(1.449) ≈ 0.810 1 + exp(1.449) (9.56) となることを意味します。 LIGHTBULB 過分散への対応 ロジスティック回帰やポアソン回帰では，期待値に応じて分散が自動的に決定してしまい ます。しかし，この「分散が期待値の関数で表される」という仮定は，実際のデータでは かなり強い制約となることがあります。先ほど実行したモデルでは，進学希望率が学校ご とに異なることを考慮していた一方で，実際にはそれ以外の要因（個人のやる気など）に よってもさらなるばらつきが発生する可能性があります。もちろん，そのような要因は後 ほど行うようにモデルの中に説明変数として加えてしまえば良いのですが，もちろんすべ ての要因を説明変数として加えることはできません。 そこで， 「レベル 2 の変量効果および説明変数では説明できない個人のばらつき」に起因す る過分散（ovedispersion）に対応するために，以下のような方法を取ることがあります。 確率分布を変える 同じデータに適用可能な確率分布の中で，パラメータが多いものを用いることで，分散を 期待値の関数から切り離す，というのがもっともよく用いられる方法です。ベルヌーイ分 布（二項分布）に対しては，ベータ二項分布という分布がよく用いられます。これは残念な がら lme4 パッケージでは対応できないのですが，以下のように glmmTMB パッケージ（や brms パッケージ）を用いることで，ベータ二項分布を用いたマルチレベルモデルを実行す ることができます。 ベータ二項回帰で過分散に対応 1 glmmTMB(wants_univ ~ (1 | school_id), data = dat, family = betabinomial(link = "logit")) 同様に，ポアソン分布に対しては負の二項分布（negative binomial distribution）を用い ることができます。 負の二項回帰で過分散に対応 1 glmmTMB(wants_univ ~ (1 | school_id), data = dat, family = nbinom2)

• #p69

9.4 一般化線形モデル 73 ちなみに負の二項回帰は，lme4 パッケージにある glmer.nb() という関数でも実行可能 です。 レベル 1 の変量効果をあえて追加する 言うまでもなく，レベル 1 の固定効果を加えてしまうと，それだけでサンプルサイズと同 数のパラメータが追加されてしまうので，これは不可能です。一方で変量効果の場合，モ デル上は個人ごとのばらつきの具体的な値ではなく，その分散だけを推定するため，観測 レベル変量効果（Observation-level random effects [OLRE]: Harrison, 2014）を指定する ことも可能なようです。 この場合，レベル 1 変量効果が追加されることからモデル式は (9.8) 式とほぼ同じ形の (レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 (9.57) 2 となります。このとき，𝑢𝑝𝑔 の分散 𝜎𝑝𝑔 を追加で推定するために，過分散に対応できるよ うになるようです。 OLRE は， glmmTMB() で の 実 装 も 非 常 に 簡 単 で す。 変 量 効 果 に 関 す る 記 述 を (1|school_id) + (1|student_id) とすることで，個人レベルの変量効果も考慮するこ とができます。 レベル 1 変量効果を追加したランダム切片 GLM 1 model1_OLRE <- glmmTMB(wants_univ ~ (1 | school_id) + (1 | 2 student_id), data = dat, family = binomial(link = "logit")) summary(model1_OLRE)

• #p127
• #p17

9.4 一般化線形モデル

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

74

Family: binomial ( logit )
Formula:
wants_univ ~ (1 | school_id) + (1 | student_id)
Data: dat
AIC
5376.7

BIC
5396.7

logLik -2*log(L)
-2685.3
5370.7

df.resid
5763

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 2.164e+00 1.4710382
student_id (Intercept) 2.261e-08 0.0001504
Number of obs: 5766, groups: school_id, 183; student_id, 5766
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
1.449
0.118
12.28
<2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

図 9.23 は，モデルで推定された各学校の 𝛽0𝑔 の値に基づく進学希望割合と，実際にその学
校で観測された進学希望割合の散布図です。実は今回のデータでは，過分散がほとんど発
生していないため，student_id の Random effects の分散はほぼゼロになっています。
このような場合には，わざわざレベル 1 変量効果を追加する必要はないのですが，方法だ
け紹介しておきました。

観測された分散

0.3

0.2

0.1

0.0
0.05

0.10
0.15
モデルに基づく分散

0.20

0.25

図 9.23: モデルに基づく分散と観測された分散の散布図

ちなみに，過分散であるかどうかを確認する関数も，performance パッケージに用意さ

• #p74

9.4 一般化線形モデル 75 れています。すごいですね。check_overdispersion() 関数では，「過分散度」に当たる dispersion ratio が 1 であるという帰無仮説に対して検定を行ってくれます。したがって， この値が 1 より大きい場合には過分散が発生していると考えられるわけです。 過分散の確認 1 check_overdispersion(model1_glm) 1 2 3 4 # Overdispersion test dispersion ratio = 0.994 p-value = 0.848 変量効果の解釈 𝑢0𝑔 の分散が 1.472 と出ましたが，これが実際に「学校ごとの進学希望率のばらつき」として はどの程度になるのでしょうか。これを確認する直感的な方法は，以下のように「データ内に存 在する学校でのモデル上の予測値」の分布を見たり分散を計算することでしょう。 ランダム切片 GLM の予測値 g_y <- coef(model1_glm)$cond$school_id[, 1] p <- exp(g_y) / (1 + exp(g_y)) # 実は exp(g_y)/(1+exp(g_y)) は plogis(g_y) でも計算可能 # p <- plogis(g_y) hist(p)   0 10 20 30 40 50 60 Histogram of p Frequency 1 2 3 4 5 0.2 0.4 0.6 0.8 p 図 9.24: ランダム切片 GLM の予測値 1.0

9.4 一般化線形モデル ランダム切片 GLM の予測値の標準偏差 1 sd(p) 1 [1] 0.2220955 この方法でも，実際に学校ごとにばらつきがあることは分かりますが，わざわざ変量効果にし た意味が無くなってしまいます。図 9.24 は，あくまでも母集団からランダムサンプリングされ た学校におけるばらつきを示すものです。あまりきれいな分布にはなっていませんが，本来はス ケールを変えたら正規分布に従うような分布になっているはずです。 ということで，変量効果を考慮したモデルベースで学校ごとのばらつきを示す方法としては， 以下のように「母集団の 𝑋% の学校が含まれる区間」を示す，というやり方が考えられます（e.g., Austin & Merlo, 2017; Devine, 2024）。まず，𝑢0𝑔 ∼ 𝑁 (0, 1.4712 ) ということは，正規分布の性 質から，𝑋% の確率で含まれる値の範囲を求めることは容易です。実際に，𝛽0𝑔 が従う正規分布 𝑁 (1.449, 1.4712 ) における平均値周りの 95% の範囲は，R では以下のように求めることができ ます。 正規分布の 95% 区間 1 qnorm(c(0.025, 0.975), mean = 1.449, sd = 1.471) 1 [1] -1.434107 4.332107 qnorm() は，指定した分位点（quantile）における正規分布の値を求める関数です。したがっ て，いま算出された [−1.434, 4.332] という区間は，母集団全体の 95% の学校の 𝛽0𝑔 が含まれる 範囲を表しています。あとはこれを 𝑦 のスケールに戻してあげると，母集団全体の 95% の学校 の進学希望率が含まれる範囲を求めることができます。 ランダム切片 GLM の 95% 区間 1 plogis(qnorm(c(0.025, 0.975), mean = 1.449, sd = 1.471)) 1 [1] 0.1924596 0.9870306 このように，ランダム切片 GLM においては，変量効果を考慮することで，母集団全体の学校 の進学希望率のばらつきを示すことができるのです。ただし今回の場合，95% 区間はあまりに広 すぎるようなので，例えば 50% 区間などを求めてみても良いのかもしれません*23 。 別の方法としては，推定された変量効果の正規分布から乱数を生成する，というやり方も考え られます。 *23 それでも，50% 区間は [0.612, 0.920] と，けっこう広い範囲になってしまいます。進学希望率はそれくらいピン キリということなのでしょう。 76

• #p75
• #p127
• #p76

9.4 一般化線形モデル 77 正規分布から乱数を生成 1 2 3 g_y_r <- rnorm(100000, mean = 1.449, sd = 1.471) p <- plogis(g_y_r) hist(p) 10000 5000 0 Frequency 15000 Histogram of p 0.0 0.2 0.4 0.6 0.8 1.0 p 図 9.25: 生成された乱数に基づくヒストグラム rnorm(n) 関数は，正規分布から n 個の乱数（random number）を生成してくれる関数です。 これを用いて「母集団に含まれる（仮想的な）学校の 𝛽0𝑔 」を 10 万個生成し，それを 𝑦 のスケー ルに戻してヒストグラムを描画したものが図 9.25 です。こうして見ても，やはり進学希望率が 学校ごとにかなりばらついていることがよく分かります。 9.4.2 級内相関係数の確認 ランダム切片 GLM においても，級内相関係数（ICC）を求めることができます。ただし， (9.16) 式の定義では 2 つのレベルの変量効果の分散の割合を用いていたため，レベル 1 の変量効 果がない GLM では，そのままでは求めることができません。そのため，ロジスティック回帰分 析においては，レベル 1 変量効果の大きさを仮定するために，ポリコリック相関のときのように 二値反応の背後に連続量が存在し，その連続量が標準ロジスティック分布（標準正規分布のよう なもの）に従うと仮定します（Snijders & Bosker, 2012） 。この仮定のもとでは，母集団全体に おけるレベル 1 変量効果の分散（個人レベルのばらつき）は，標準ロジスティックの分散 𝜋3 と 2 おいて考えることに一定の正当性が生まれます。 最終的に，ロジスティック回帰分析における級内相関係数は，以下のように定義されます。 ICC = 2 𝜎0𝑔 𝜋2 2 + 𝜎0𝑔 3 ≈ 2 𝜎0𝑔 2 + 3.29 𝜎0𝑔 (9.58) となります*24 。 *24 もちろん，この仮定はあくまでも「ロジスティック回帰分析においては」成り立つものです。同様にプロビット回

• #p77
• #p25
• #p128

9.4 一般化線形モデル 78 実際に，推定された変量効果の分散を用いて ICC を求めてみましょう。 ランダム切片 GLM の級内相関係数 1 2 # performanceパッケージはglmmTMBにも対応しています performance::icc(model1_glm) 1 2 3 4 # Intraclass Correlation Coefficient Adjusted ICC: 0.397 Unadjusted ICC: 0.397 今回のデータに対する ICC は，およそ 0.397 と大きく， （図 9.25 などからも明らかですが）や はりマルチレベルな分析を行ったほうが良いと言えそうです。 INFO 推定値から直接 ICC を計算する方法 performance パッケージの icc() 関数が使えないときのために，モデルの出力から直接 ICC を計算する方法も載せておきます。 ランダム切片 GLM の級内相関係数 1 2 sigma2_0g <- as.numeric(VarCorr(model1_glm)$cond$school_id[1, 1]) sigma2_0g / (sigma2_0g + pi^2 / 3) 1 [1] 0.3967775   9.4.3 説明変数を追加したランダム切片 GLM これ以降は，通常の階層線形モデルと同じように説明変数を色々と追加していくだけです。ま ずは，ESCS（社会経済的地位）を説明変数として追加してみましょう。個人レベルおよび集団 レベルの効果をそれぞれ説明変数として投入した場合，モデルは以下のようになります。 (レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 𝛽ESCS (ESCS𝑝𝑔 − ESCS⋅𝑔 ) (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽ESCS ESCS⋅𝑔 + 𝑢0𝑔 (9.59) glmmTMB() で実行する場合は，以下のとおりです。 説明変数を加えたランダム切片 GLM 1 model2_glm <- glmmTMB(wants_univ ~ escs_cwc + sch_escs_mean + (1 | school_id), data = dat, family = binomial(link = "logit")) 帰の場合には，背後の連続量に標準正規分布を仮定するため，レベル 1 変量効果の分散は 1 と考えられます。

• #p77

9.4 一般化線形モデル

79

2

summary(model2_glm)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

Family: binomial ( logit )
Formula:
wants_univ ~ escs_cwc + sch_escs_mean + (1 | school_id)
Data: dat
AIC
5122.7

BIC
5149.3

logLik -2*log(L)
-2557.3
5114.7

df.resid
5762

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 0.5417
0.736
Number of obs: 5766, groups: school_id, 183
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
1.88638
0.07958 23.703 < 2e-16 ***
escs_cwc
0.38946
0.05521
7.054 1.74e-12 ***
sch_escs_mean 3.58849
0.20254 17.717 < 2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

得られた推定値を (9.59) 式に代入すると，

(レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 0.38946(ESCS𝑝𝑔 − ESCS⋅𝑔 )
(レベル 2) 𝛽0𝑔

= 1.88638 + 3.58849ESCS⋅𝑔 + 𝑢0𝑔 ,

𝑢0𝑔 ∼ 𝑁 (0, 0.7362 )

(9.60)

となります。推定値を見ると，escs_cwc（個人レベルの ESCS）と sch_escs_mean（学校ごと
の平均 ESCS）の両方の係数（固定効果）が有意であることが分かります。したがって，ESCS
が高い学校の生徒ほど，また同じ学校内でも相対的に ESCS が高い生徒ほど進学希望率が高くな
る，と言えそうです。
次に，ランダム切片 GLM を可視化してみましょう。図 9.26 は，coef() 関数を用いて取得し
た学校ごとの切片をもとに回帰の線を引いたものです。赤い線が各学校の回帰線を，青い点線が
全体の平均的な回帰線を表しています。
ランダム切片モデルでは，傾きはすべての学校で共通（0.38946）です。したがって，図では
ややわかりにくいですが，赤い実線や青い点線はいずれも，左右に平行移動させたら完全に重な
る線です。

• #p78
• #p80

9.4 一般化線形モデル 80 1.00 進学希望 0.75 0.50 0.25 0.00 -4 -2 0 社会経済的地位（escs_cwc） 2 4 図 9.26: ランダム切片 GLM の視覚化 9.4.4 ランダム傾き GLM 続いては，ランダム傾きモデルもロジスティック回帰で実行してみましょう。ランダム傾きモ デルでは，レベル 2 の変量効果が切片だけでなく傾きにも影響を与えます。まず，レベル 2 説明 変数のないランダム傾き GLM のモデル式は以下のようになります。 (レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) (レベル 2) 𝛽0𝑔 (レベル 2) 𝛽ESCS,𝑔 = 𝛽ESCS + 𝑢ESCS,𝑔 (9.61) = 𝜇 + 𝑢0𝑔 また，変量効果は以下のようになります。 （レベル 2）[ 𝑢0𝑔 𝑢ESCS,𝑔 ] ∼ 𝑀 𝑉 𝑁 ([ 2 𝜎0𝑔 0 ],[ 𝜎(0𝑔)(ESCS,𝑔) 0 𝜎(0𝑔)(ESCS,𝑔) ]) 2 𝜎ESCS,𝑔 (9.62) レベル 1 の回帰式が 𝑦𝑝𝑔 そのものではなく 𝑔(𝑦𝑝𝑔 ) であること，またレベル 1 の変量効果がない ことを除けば，通常の階層線形モデルと同じということです。GLM であっても，やはりレベル 2 の変量効果（切片・傾き）の間には相関関係を許容することができます。 上記のモデルを R で実行する際も，glmmTMB() を使えば簡単です。 ランダム傾き GLM 1 model3_glm <- glmmTMB(wants_univ ~ escs_cwc + (escs_cwc | school_id), data 2 = dat, family = binomial(link = "logit")) summary(model3_glm) 1 2 3 4 Family: binomial ( logit ) Formula: wants_univ ~ escs_cwc + (escs_cwc | school_id) Data: dat

9.4 一般化線形モデル

5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

AIC
5327.4

81

BIC
5360.7

logLik -2*log(L)
-2658.7
5317.4

df.resid
5761

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev. Corr
school_id (Intercept) 2.21612 1.4887
escs_cwc
0.07018 0.2649
-0.28
Number of obs: 5766, groups: school_id, 183
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 1.46466
0.11965 12.241 < 2e-16 ***
escs_cwc
0.35556
0.07242
4.909 9.13e-07 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

得られた推定値を (9.61) 式に代入すると，

(レベル 1)

𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 )

(レベル 2)

𝛽0𝑔

(レベル 2)

𝛽ESCS,𝑔 = 0.35556 + 𝑢ESCS,𝑔

= 1.46466 + 𝑢0𝑔

(9.63)

また変量効果は
（レベル 2）[

𝑢0𝑔
𝑢ESCS,𝑔

] ∼ 𝑀 𝑉 𝑁 ([

0
1.48872 −0.1104
],[
])
0
−0.1104 0.26492

(9.64)

となります。
図 9.27 は，ランダム傾き GLM の回帰線を可視化したものです。赤い線が各学校の回帰線を，
青い点線が全体の平均的な回帰線を表しています。この図を見ると，学校内での相対的な ESCS
（escs_cwc）が高い生徒は，所属している高校によらず進学希望率が高い傾向にある一方で，相
対的な ESCS が低い生徒の進学希望率は高校によってかなりばらつきがあることが分かります。
また，切片と傾きの変量効果の間に負の相関があったことも図で改めて確認しておきましょう。
切片（学校単位の進学希望率）が高い高校ほど escs_cwc の回帰係数が小さい（傾きが緩やか
である）どころか負になっていくことが分かります。このメカニズムとしては，例えば

• 進学希望率の高い進学校などでは，ESCS の高い生徒も低い生徒も進学希望率が高くなる
ため，傾きが緩やかになる

• 逆に，進学希望率の低い高校では，相対的に ESCS の高い生徒でないと進学希望が出せな
いために，傾きが急になる
といったことが考えられるかもしれません。

• #p80
• #p82

9.4 一般化線形モデル 82 1.00 進学希望 0.75 0.50 0.25 0.00 -4 -2 0 社会経済的地位（escs_cwc） 2 4 図 9.27: ランダム傾き GLM の視覚化 0.3 0.2 傾き 0.1 0.0 -0.1 -0.2 -3 -2 -1 0 1 2 切片 図 9.28: 変量効果（切片と傾き）の散布図 Exclamation-Triangle ロジスティック回帰は難しい lmer::glmer() の実行時に，下記のようなメッセージや警告が出てきた場合は要注意 です。 1 boundary (singular) fit: see help('isSingular') 1 2 Warning: Warning in checkConv(attr(opt, "derivs"), opt\$par, ctrl = control\$checkConv, : Model failed to converge with max|grad| = 0.00483982 (tol = 0.002, component 1) 3 こ の よ う な と き に summary(model) の 出 力 を よ く 見 て み る と， 例 え ば 2 つ の

9.4 一般化線形モデル 83 Random effects の相関係数（Corr）の絶対値が 1 に近い値になっているなど，常識 的に考えておかしな推定値が出ていることがあります。これは，ロジスティック回帰の推 定がうまくいっていないことを示しています。 ロジスティック回帰において推定がうまくいかない代表的なケースとして，図 9.29 の左の ように，すべてのケースの被説明変数の値が同じになっている場合や，右のように，説明変 数の値が完全に分離している場合が挙げられます。というのも，ロジスティック回帰の目 的は，（図 9.26 に示されているように），「説明変数の値が大きくなるほど 𝑦 = 1 となる確 率がどれだけ変化するか」を推定することです。しかし，被説明変数の値が全員同じ場合， 説明変数の値が変化しても 𝑦 の値は変化しないため，S 字の曲線が上か下に貼り付いてし まい，係数の推定が発散してしまいます。同様に，説明変数の値が完全に分離している場 合には，ロジスティック曲線の傾きが無限大に発散してしまい，やはりうまくいかないの です。マルチレベルの場合，このような学校が一つでもあると，このデータも含めて変量 効果 𝑢0𝑔 , 𝑢ESCS,𝑔 の分散を推定することになるため，計算がおかしくなってしまいます。 0.8 進学希望 進学希望 0.8 0.4 0.0 0.4 0.0 -4 -2 0 2 社会経済的地位（escs_cwc） 4 -4 -2 0 2 社会経済的地位（escs_cwc） 4 図 9.29: ロジスティック回帰の推定がうまくいかない例 データ内に被説明変数の値が全員同じ集団がある場合は，まずそもそもランダム傾きモデ ルを適用するべきかを考えましょう。特にそのような集団の割合が大きい場合には，いわ ば「傾きがゼロ」の集団が無視できないほど多いわけなので，その傾きの大きさの違いを 議論することは本質的ではない可能性があります*25 。 そして，もしたまたまサンプルサイズの小さい集団でたまたまそのようなことが起こって いただけなど，外れ値的に無視しても良さそうと判断できるならば，対策を講じていくこ とになります。最もシンプルな対策は，そのような学校を一時的に除外してしまうことで す*26 。もちろん，そのような学校を除外してしまうことは，固定効果の推定にも影響を与 えるため，慎重に行う必要があります。例えば，全員が 𝑦𝑝𝑔 = 0 の学校を除外してしまう ことは，大学進学を希望しない生徒のデータを選択的にゴッソリ除外してしまうことにな ります。もしも進学希望と ESCS に相関があるならば，これは同時に ESCS の低い生徒の データも除外してしまうことになります。その結果，使用するデータは「ESCS が比較的 高い生徒・学校」のデータのみになってしまう，といった可能性があるわけです。

• #p83
• #p80
• #p128
• #p84

9.4 一般化線形モデル 84 9.4.5 説明変数を含むランダム傾き GLM 先程の分析では，進学希望率が高い学校ほど，個人レベルの ESCS と進学希望率の関係が弱く なる可能性が示されました。ということで，最後にレベル 2 説明変数を追加したランダム傾きモ デルで，sch_escs_mean が傾きの説明変数として機能するかを確認してみましょう。 (レベル 1) 𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 ) (レベル 2) 𝛽0𝑔 = 𝜇 + 𝛽0,ESCS ESCS⋅𝑔 + 𝑢0𝑔 (9.65) (レベル 2) 𝛽ESCS,𝑔 = 𝛽ESCS + 𝛽1,ESCS ESCS⋅𝑔 + 𝑢ESCS,𝑔 このモデルを glmmTMB() で実行する場合も，クロスレベル交互作用に気をつけて formula を 正しく指定してください。 説明変数を含むランダム傾き GLM 1 model4_glm <- glmmTMB(wants_univ ~ escs_cwc * sch_escs_mean + (escs_cwc | 2 school_id), data = dat, family = binomial) summary(model4_glm) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 Family: binomial ( logit ) Formula: wants_univ ~ escs_cwc * sch_escs_mean + (escs_cwc | school_id) Data: dat AIC 5117.2 BIC 5163.8 logLik -2*log(L) -2551.6 5103.2 df.resid 5759 Random effects: Conditional model: Groups Name Variance Std.Dev. Corr school_id (Intercept) 0.54961 0.7414 escs_cwc 0.05358 0.2315 0.50 Number of obs: 5766, groups: school_id, 183 Conditional model: (Intercept) escs_cwc sch_escs_mean Estimate Std. Error z value Pr(>|z|) 1.88564 0.08027 23.493 < 2e-16 *** 0.26730 0.08712 3.068 0.00215 ** 3.57660 0.20388 17.543 < 2e-16 *** *26 もしもっと複雑なモデリングができるならば，例えばまず「𝑦 「𝑦𝑝𝑔 が全員 1」「それ以外」の 3 つの 𝑝𝑔 が全員 0」 グループに分けて，それぞれに対して別々のモデルを当てはめたり，どのグループに含まれるかを別の説明変数で 回帰する，という方法も考えられるかもしれません。 *26 別の対策としては，ベイズ推定を用いて，事前分布を設定するというやり方もあります。これは，brms などのパッ ケージを用いると実行可能ですが，まずベイズ統計を勉強しないといけないのでここでは省略します。

9.4 一般化線形モデル

22
23
24

85

escs_cwc:sch_escs_mean -0.50243
0.20912 -2.403 0.01628 *
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

得られた推定値を (9.66) 式に代入すると，

(レベル 1)

𝑔(𝑦𝑝𝑔 ) = 𝛽0𝑔 + 𝛽ESCS,𝑔 (ESCS𝑝𝑔 − ESCS⋅𝑔 )

(レベル 2)

𝛽0𝑔

(レベル 2)

𝛽ESCS,𝑔 = 0.26730 − 0.50243ESCS⋅𝑔 + 𝑢ESCS,𝑔

= 1.88564 + 3.57660ESCS⋅𝑔 + 𝑢0𝑔

(9.66)

となります。
単純傾斜分析
クロスレベル交互作用がある場合，単純傾斜分析を行うことで， escs_cwc （個人レベルの

ESCS）と sch_escs_mean（学校ごとの平均 ESCS）の組み合わせごとに，進学希望率の変化を
確認することができます。
単純傾斜分析のプロット
1

means <- estimate_means(model4_glm, by = c("escs_cwc", "sch_escs_mean =

2

[sd]"))
plot(means)

Probability of wants_univ

100%

80%

sch_escs_mean
60%

-0.46
-0.10
0.26

40%

20%

-2

0

2

escs_cwc

図 9.30: 単純傾斜分析のプロット
この図からは，ESCS が高い学校（青）では，個人の相対的な ESCS に関わらず進学希望率が
高いこと，反対に ESCS が低い学校（赤）では，進学希望率が個人の相対的な ESCS に強く影響
を受けていることがはっきりと分かります。
ということで，単純傾斜の検定も行ってみると，sch_escs_mean が 0.06 以下の学校では，個
人レベルの ESCS（escs_cwc）が進学希望率に有意な影響を与えていることが分かりました。

• #p85

9.4 一般化線形モデル 単純傾斜の検定 1 estimate_slopes(model4_glm, trend = "escs_cwc", by = "sch_escs_mean = [sd]") 1 2 3 4 5 6 7 8 9 10 Estimated Marginal Effects sch_escs_mean | Slope | SE | 95% CI | z | p -------------------------------------------------------------------0.46 | 0.11 | 0.02 | [ 0.08, 0.14] | 7.08 | < .001 -0.10 | 0.04 | 0.01 | [ 0.02, 0.06] | 3.86 | < .001 0.26 | 4.72e-03 | 7.94e-03 | [-0.01, 0.02] | 0.60 | 0.552 Marginal effects estimated for escs_cwc Type of slope was dY/dX 単純傾斜の Johnson-Neyman 区間 1 slopes_300 <- estimate_slopes(model4_glm, trend = "escs_cwc", by = 2 "sch_escs_mean", length = 300) summary(slopes_300) 1 2 3 4 5 6 7 8 9 10 Johnson-Neymann Intervals Start | End | Direction | Confidence ------------------------------------------1.11 | 0.06 | positive | Significant 0.06 | 0.41 | positive | Not Significant 0.42 | 0.83 | negative | Not Significant Marginal effects estimated for escs_cwc Type of slope was dY/dX Johnson-Neyman 区間のプロット 1 plot(slopes_300) 変量効果の相関 なお，model4_glm では，切片と傾きの変量効果の間に，model3_glm とは反対に正の相関が 見られています。これは変量効果が，通常の回帰分析における誤差項と同じように「 （そのレベル の）説明変数によって説明できなかった残りの変動」に相当するためです。sch_escs_mean と いう説明変数は，本来（model4_glm）の推定結果が示すように「切片とは正の相関」 「傾きとは 負の相関」が見られるものでした。そんな説明変数が model3_glm には含まれていなかったため に， 「説明変数によって説明できなかった残りの変動」に相当する変量効果の間には負の相関が見 86

9.5 マルチレベル SEM 87 Slope of escs_cwc 0.15 p 0.10 not significant significant 0.05 0.00 -1.0 -0.5 0.0 0.5 sch_escs_mean 図 9.31: Johnson-Neyman 区間のプロット られたのです。model4_glm の変量効果には正の相関が見られたということは，sch_escs_mean の影響を取り除いたあとでなお，傾きと切片に対して同じ方向に働くまだ見ぬ説明変数がある可 能性を示唆しているのかもしれません*27 。 0.2 0.1 傾き 0.0 -0.1 -0.2 -0.3 -1 0 1 切片 図 9.32: 変量効果（切片と傾き）の散布図 9.5 マルチレベル SEM SEM の Chapter で説明したように，回帰分析は SEM の下位モデルとして位置づけることが できました。そこで，階層線形モデルを拡張して，マルチレベルな SEM を考えていきましょう。 *27 自分では何も思いつかなかったので Gemini に聞いてみたところ， 「同じくらいの平均 ESCS を持つ学校でも、一 方は『全ての生徒に高い学力を要求し、進学を強く推奨する』という指導文化が教師陣全体で共有されているかも しれません。このような『高い期待をかける文化』という観測されていない要因は、生徒全体の進学意識を底上げ します（切片を高くする） 。しかし同時に、その高い要求に応えるための準備（学習習慣、文化資本）ができている 高 ESCS の生徒がより有利になり、結果として校内格差を広げてしまう（傾きを急にする）可能性があります。」 といった可能性が考えられるそうです。信じるか信じないかはあなた次第です。

• #p87

9.5 マルチレベル SEM 88 9.5.1 マルチレベル相関係数 SEM は，変数間の共分散行列について，「モデル上の共分散行列 𝚺」と「実際に観測された共 分散行列 𝐒」のズレが最小になるようにパラメータを推定する手法でした。ということで，まず はデータに階層性がある場合の相関係数（共分散）について考えてみましょう。 まずは，データの階層性を無視して， 「生徒の ESCS の高さと読解力（read_score）の間の相 関」を確認してみます。 階層性を無視した相関 1 cor(dat$escs, dat$read_score) 1 [1] 0.2837814      この値は，生徒の ESCS が高いほど読解力も高い傾向があることを示しています。ただし，前 半で見てきたように，この結果は • ESCS が高い生徒ほど読解力が高い（個人レベル） • ESCS が高い学校に所属している生徒ほど読解力が高い（集団レベル） の両方の効果が混ざっている，と考えられます。ということで前半では，ある変数の個人ごと の値の違い（変動）を，2 つのレベルに分解する考え方（ 図 9.7 ）に基づいて階層線形モデルを 実施していました。 図 9.33: 変動の分解（2 変数） 図 9.33 は，図 9.7 と同じ考え方で 2 変数の（共）変動をイメージしたものです。共分散を計 算する際には，2 変数それぞれについて平均値からの偏差を求めて，その平均値を取っていまし た。そのため，集団レベルの共分散は「その集団の平均の，全体平均からの偏差（緑の矢印） 」 ，

• #p11
• #p88

9.5 マルチレベル SEM
また個人レベルの共分散は「集団平均からの偏差（オレンジの矢印）
」に分解することができそ
うです。実際に，Section 9.1.3 の「生態学的誤謬」の例で見たように，階層性を考慮せずに求め
た 2 変数の相関は，個人レベルの相関と集団レベルの相関の効果が組み合わさった形になってい
ました（図 9.8 ）
。
…ということで，階層線形モデルではこのように，単純に変動をレベルごとに分割していたの
ですが，よく考えると，この分割には少し注意点があります。それは，集団平均には，厳密には
個人レベルの要因の影響が含まれているということです。ある学校の ESCS の平均値が高いと
き，それは「ESCS が高い生徒が集まった結果」として観測されたものであるとも考えられるで
しょう。
マルチレベル SEM では，相関係数をレベル別に分解するとき，具体的には集団レベルの相関
係数を算出する際に，個人レベルの影響を完全に取り除いた純粋な相関係数（Kenny & La Voie,

1985; 日本語での解説は清水，2014 を参照）を使用します。
マルチレベル相関係数を求める
ということで，ここまでの内容を実際に確認しつつ，マルチレベル SEM を lavaan で実行す
るための準備をしていきましょう。まずは，1 変数の分散が個人レベルと集団レベルに分解でき
ることを確認するため，ランダム切片モデル（変量効果の分散分析）を行ってみます。
ランダム切片モデルのモデル式の定義
1
2
3
4
5
6
7
8
9
10
11

library(lavaan)
model <- "
# レベル1
level: 1
read_score ~~ read_score
# レベル2
level: 2
read_score ~~ read_score
"

lavaan には，level: というキーワードが設定されており，これによって階層ごとにモデルを
指定することができます。したがって，上の model の書き方によって，

• level: 1（個人レベル）における read_score の分散を推定する
• level: 2（集団レベル）における read_score の分散を推定する
という 2 つの計算を指定しているわけです。あとは，いつもと同じように sem() 関数を用い
てパラメータ推定を行いましょう。引数 cluster に，レベル 2 の集団を表す列の名前を与えて
あげることで，マルチレベルの推定を行うことができます。

89

• #p7
• #p12
• #p127
• #p128

9.5 マルチレベル SEM

90

ランダム切片モデルの推定
1
2

model0_lav <- sem(model, data = dat, cluster = "school_id")
summary(model0_lav)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

lavaan 0.6-19 ended normally after 11 iterations
Estimator
Optimization method
Number of model parameters

ML
NLMINB
3

Number of observations
Number of clusters [school_id]

5766
183

Model Test User Model:
Test statistic
Degrees of freedom

0.000
0

Parameter Estimates:
Standard errors
Information
Observed information based on

Standard
Observed
Hessian

Level 1 [within]:
Variances:
read_score

Estimate
5579.473

Std.Err
105.605

z-value
52.833

P(>|z|)
0.000

Estimate
503.699

Std.Err
4.562

z-value
110.401

P(>|z|)
0.000

Estimate
3624.389

Std.Err
398.532

z-value
9.094

P(>|z|)
0.000

Level 2 [school_id]:
Intercepts:
read_score
Variances:
read_score

summary を見ると，Level 1 [within]: と Level 2 [school_id]: という 2 つの出力が得
られています。これが，それぞれ個人レベルと集団レベルの推定値を表しているのです。
ということで，read_score の分散は，個人レベルが 5579.473，また集団レベルが 3624.389

9.5 マルチレベル SEM

91

となりました。もちろんこれは，glmmTMB() で得られた結果とも完全に一致しています。

glmmTMB() 関数によるランダム切片モデルの結果
1

summary(model0)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

Family: gaussian ( identity )
Formula:
read_score ~ (1 | school_id)
Data: dat
AIC
66670.7

BIC
66690.7

logLik -2*log(L)
-33332.3
66664.7

df.resid
5763

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 3624
60.2
Residual
5579
74.7
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.58e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 503.699
4.562
110.4
<2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Random effects: のところに示されている変量効果の分散と対応させてみると，個人レベル
分散を表す Residual が 5579，また集団レベル分散を表す school_id (Intercept) が 3624
ということで，lavaan の推定結果とたしかに一致しています。
続いては，2 変数の共分散（相関）を分解してみましょう。基本的な考え方は同じで，個人レベ
ルと集団レベルのそれぞれについてモデル式を書くだけです。ここでは，read_score と escs
の共分散について推定してみます。

2 変数の共分散を分解する
1
2
3
4
5
6
7

model <- "
level: 1
read_score ~~ escs
level: 2
read_score ~~ escs
"

9.5 マルチレベル SEM

92

8
9

model0_cor <- sem(model, data = dat, cluster = "school_id")

1
2
3

Warning: lavaan->lav_data_full():
some observed variances are (at least) a factor 1000 times larger
than others; use varTable(fit) to investigate

1

summary(model0_cor, standardized = TRUE)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

lavaan 0.6-19 ended normally after 52 iterations
Estimator
Optimization method
Number of model parameters

ML
NLMINB
8

Number of observations
Number of clusters [school_id]

5766
183

Model Test User Model:
Test statistic
Degrees of freedom

0.000
0

Parameter Estimates:
Standard errors
Information
Observed information based on

Standard
Observed
Hessian

Level 1 [within]:
Covariances:
Estimate

Std.Err

z-value

P(>|z|)

Std.lv

Std.all

3.038

0.640

4.750

0.000

3.038

0.064

Estimate
5579.112
0.408

Std.Err
105.594
0.008

z-value
52.836
52.828

P(>|z|)
Std.lv
0.000 5579.112
0.000
0.408

Std.all
1.000
1.000

read_score ~~
escs
Variances:
read_score
escs

Level 2 [school_id]:

9.5 マルチレベル SEM 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 93 Covariances: read_score ~~ escs Estimate Std.Err z-value P(>|z|) Std.lv Std.all 16.987 2.102 8.080 0.000 16.987 0.810 Estimate 503.576 -0.113 Std.Err 4.570 0.027 z-value 110.200 -4.163 P(>|z|) 0.000 0.000 Std.lv 503.576 -0.113 Std.all 8.350 -0.324 Estimate 3637.088 0.121 Std.Err 400.130 0.014 z-value 9.090 8.581 P(>|z|) Std.lv 0.000 3637.088 0.000 0.121 Std.all 1.000 1.000 Intercepts: read_score escs Variances: read_score escs この結果を要約すると，read_score と escs の共分散行列はレベルごとに read_score 5579.112 3.038 Cov [ ]=[ ] escs 3.038 0.408 （レベル1） read_score 3637.088 （レベル2） Cov [ ]=[ escs 16.987 16.987 ] 0.121 (9.67) と分解できることを表しています。そしてマルチレベル相関係数は，Covariance: の Std.all 列を見ることで，レベル 1 相関係数が 0.064，レベル 2 相関係数が 0.810 だと分かります。す なわち，read_score と escs の関係は，どちらかといえば「ESCS の高い学校に所属している 生徒ほど，読解力が高い」という効果のほうが強そうだ，ということが，相関係数の観点からも 言えるわけです。 ちなみにこの結果は，ランダム切片モデルで個人レベルと集団レベルの両方の説明変数を入れ た（read_score ~ escs_cwc + sch_escs_mean + (1|school_id)）ときに，集団レベルの 回帰係数のほうが傾きが大きかったことと対応している（図 9.15 ）と言えます*28 。 以上のように，マルチレベル SEM では，共分散行列を「個人レベル」と「集団レベル」に分 解したうえで，2 つの SEM を同時に実行していると考えると良いでしょう。 9.5.2 階層線形モデルを lavaan で実行する   マルチレベル SEM では，基本的に 2 つのレベルについて SEM をそれぞれ実行しているだけ なので，あとは自由にモデルを構築してあげるだけです。ということで，まずは普通の回帰分析 （階層線形モデル）を実行してみましょう。glmmTMB() で得られた結果と比較するため，個人レ ベル・集団レベルの両方を説明変数として投入したランダム切片モデル（9.29 式）を lavaan で *28 もちろん回帰係数は相関係数だけで決まるわけではないので，必ず「相関係数が高いほうが傾きも大きい」とは 限らないのですが，もとが同じ変数（escs）である以上，多くの場合にはこの傾向が言えるのではないかと思い ます。

• #p44
• #p93
• #p42

9.5 マルチレベル SEM 94 実現してみます。 図 9.34: ランダム切片モデル わざわざ図に表すほどでもないのですが，図 9.34 にモデル図を用意しました。なおマルチレ ベル SEM では，係数がレベルごとに出力されるだけでなく，後述するようにレベルごとに異な るモデルも設定できるため，モデル図を描く際は，例え同じものになるとしてもレベルごとに描 いておくのがおすすめです。 図 9.34 では，2 つのレベルに投入されている説明変数が，どちらも同じ escs となっています。 glmmTMB()（や lmer()）で階層線形モデルを行う際には，異なるレベルの説明変数は事前に用 意（escs_cwc と sch_escs_mean）する必要がありました。一方 lavaan では，異なる level: のモデル式に書くだけで自動的にその説明変数をレベルごとに分離してくれます。ということ で，図 9.34 のモデルを lavaan で実行してみましょう。 lavaan で階層線形モデル 1 2 3 4 5 6 7 8 9 10 model <- " level: 1 read_score ~ escs 1 2 3 4 5 6 7 8 9 10 lavaan 0.6-19 ended normally after 47 iterations level: 2 read_score ~ escs " model3_lav <- sem(model, data = dat, cluster = "school_id") summary(model3_lav) Estimator Optimization method Number of model parameters Number of observations Number of clusters [school_id] Model Test User Model: ML NLMINB 5 5766 183

• #p94

9.5 マルチレベル SEM 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 95 Test statistic Degrees of freedom 0.000 0 Parameter Estimates: Standard errors Information Observed information based on Standard Observed Hessian Level 1 [within]: Regressions: Estimate Std.Err z-value P(>|z|) 7.451 1.562 4.769 0.000 Estimate 5556.473 Std.Err 105.165 z-value 52.836 P(>|z|) 0.000 Estimate Std.Err z-value P(>|z|) 140.609 9.103 15.446 0.000 Estimate 519.422 Std.Err 3.153 z-value 164.730 P(>|z|) 0.000 Estimate 1248.501 Std.Err 173.723 z-value 7.187 P(>|z|) 0.000 read_score ~ escs Variances: .read_score Level 2 [school_id]: Regressions: read_score ~ escs Intercepts: .read_score Variances: .read_score 推定された結果を階層線形モデルのような式で表してみると， (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 7.451ESCS∗𝑝𝑔 + 𝑢𝑝𝑔 , (レベル 2) 𝛽0𝑔 = 519.422 + 140.609ESCS⋅𝑔 + 𝑢0𝑔 , ∗ 𝑢𝑝𝑔 ∼ 𝑁 (0, 74.542 ) 𝑢0𝑔 ∼ 𝑁 (0, 35.332 ) (9.68) となります。なお，ESCS∗𝑝𝑔 は escs を集団平均で中心化した値のようなものを表しており，同 ∗ 様に ESCS⋅𝑔 も，観測された集団平均値そのものではなく，平均値のようなものを表しています。 これは先ほど説明したように，集団レベルの共分散行列を求める際に，より正確に個人レベルの

9.5 マルチレベル SEM

96

影響を完全に取り除いた純粋な集団レベルの共分散を計算していることに起因します。
その結果，推定値は glmmTMB() で求めた値と基本的にはあまり変わらないのですが，わずか
に差が生じます。

glmmTMB() での推定結果と比べる
1

summary(model3)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

Family: gaussian ( identity )
Formula:
read_score ~ escs_cwc + sch_escs_mean + (1 | school_id)
Data: dat
AIC
66498.0

BIC
66531.3

logLik -2*log(L)
-33244.0
66488.0

df.resid
5761

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev.
school_id (Intercept) 1461
38.23
Residual
5557
74.54
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.56e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept)
518.060
3.132 165.43 < 2e-16 ***
escs_cwc
7.446
1.563
4.77 1.88e-06 ***
sch_escs_mean 126.569
8.153
15.53 < 2e-16 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

glmmTMB() によって得られた推定値を式に入れた (9.30) 式と比べると，特にレベル 2（集団
レベル）の式のところで少しばかりの差が生じていることが分かります。

9.5.3 マルチレベルな CFA
続いては，簡単な CFA をマルチレベルモデルで実行してみましょう。PISA2018 では，授業
方法に関する 4 項目（teach1-4）の質問があります。これを使用して「授業方針」の因子得点
を求めてみます（図 9.35 ）
。
マルチレベル CFA で推定される因子得点の解釈は，これまでに見てきた個人レベル・集団レ
ベルそれぞれの解釈の違いと基本的には同じです。したがって，図 9.35 の 𝑓2 （レベル 2 因子得
点）は「その学校の先生の授業の構成力」のようなものを表している，とみなせそうです。一方

• #p43
• #p97

9.5 マルチレベル SEM 97 図 9.35: マルチレベル CFA のモデル 𝑓1 （レベル 1 因子得点）は，「授業の構成力」の評価を学校レベルで相対化した値です。なんだ かよく分かりませんが，例えば「先生は，私たちが学んだことを理解しているかどうか、確認す るための質問を出す（teach2） 」という質問項目などからは「相対的に自分に目をかけてくれて いるか」のような得点と言えるかもしれません。あるいは，生徒側の主観として「先生の授業の 工夫を受け取ることができているか」を表したものかもしれません。……というように，本来マ ルチレベル CFA を行う際には，レベルごとの因子の解釈がそれぞれどの様になるかを考えるこ とが重要です。そして，因子の意味はレベルごとに全く異なるものになるため，モデル図の段階 から因子の名前を変えておくのもアリだと思います。 あとは 図 9.35 を lavaan の文法に変換して推定するだけです。 マルチレベル CFA のモデル式 1 2 3 4 5 6 7 model <- " level: 1 f_1 =~ teach1 + teach2 + teach3 + teach4 level: 2 f_2 =~ teach1 + teach2 + teach3 + teach4 " マルチレベルモデルに含まれる潜在変数の名前は，レベルごとに異なっていても，同じでもど ちらでも結果は変わりません。ですが，先ほど説明したように因子の意味が大きく異なるため， 名前を変えておくと良いかもしれません。が，自由です。

• #p97

9.5 マルチレベル SEM

98

マルチレベル CFA を実行する
1
2

model_mlcfa <- cfa(model, data = dat, std.lv = TRUE, cluster = "school_id")
summary(model_mlcfa, standardized = TRUE)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41

lavaan 0.6-19 ended normally after 62 iterations
Estimator
Optimization method
Number of model parameters

ML
NLMINB
20

Number of observations
Number of clusters [school_id]

5766
183

Model Test User Model:
Test statistic
Degrees of freedom
P-value (Chi-square)

96.860
4
0.000

Parameter Estimates:
Standard errors
Information
Observed information based on

Standard
Observed
Hessian

Level 1 [within]:
Latent Variables:
f_1 =~
teach1
teach2
teach3
teach4

Estimate

Std.Err

z-value

P(>|z|)

Std.lv

Std.all

0.613
0.619
0.636
0.626

0.011
0.011
0.012
0.010

54.611
58.442
53.622
60.005

0.000
0.000
0.000
0.000

0.613
0.619
0.636
0.626

0.704
0.746
0.694
0.761

Estimate
0.382
0.306
0.436
0.285
1.000

Std.Err
0.009
0.008
0.011
0.008

z-value
40.753
36.937
41.474
35.473

P(>|z|)
0.000
0.000
0.000
0.000

Std.lv
0.382
0.306
0.436
0.285
1.000

Std.all
0.504
0.444
0.519
0.421
1.000

Variances:
.teach1
.teach2
.teach3
.teach4
f_1

9.5 マルチレベル SEM 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 99 Level 2 [school_id]: Latent Variables: f_2 =~ teach1 teach2 teach3 teach4 Estimate Std.Err z-value P(>|z|) Std.lv Std.all 0.156 0.147 0.167 0.161 0.020 0.018 0.022 0.017 7.809 8.240 7.674 9.682 0.000 0.000 0.000 0.000 0.156 0.147 0.167 0.161 0.820 0.878 0.785 0.983 Estimate 3.016 3.181 2.808 3.171 Std.Err 0.018 0.017 0.020 0.016 z-value 165.993 192.116 141.506 195.077 P(>|z|) 0.000 0.000 0.000 0.000 Std.lv 3.016 3.181 2.808 3.171 Std.all 15.886 18.995 13.237 19.419 Estimate 0.012 0.006 0.017 0.001 1.000 Std.Err 0.003 0.002 0.004 0.002 z-value 3.803 2.723 4.472 0.439 P(>|z|) 0.000 0.006 0.000 0.661 Std.lv 0.012 0.006 0.017 0.001 1.000 Std.all 0.327 0.229 0.383 0.033 1.000 Intercepts: .teach1 .teach2 .teach3 .teach4 Variances: .teach1 .teach2 .teach3 .teach4 f_2 得られた結果（Std.all）をモデル図に書き入れると図 9.36 のようになります。どちらのレ ベルについても，すべての項目に対して高い因子負荷量が得られており，基本的には 1 因子にま とまると考えて良さそうです。 図 9.36: マルチレベル CFA の結果

• #p99

9.5 マルチレベル SEM INFO レベル 2 因子の必要性 ちなみに，Level 2 [school_id]: の Variances: の推定値を見るとわかるように，今 回のマルチレベル CFA では，レベル 2 の因子について，標準化する前の残差（独自因子 の分散）は非常に小さくなっています。これは，以下に示すように，teach1-4 の学校ご との平均値の分散は小さく，ICC が概ね 0.05 以下と非常に小さいためです。 観測変数の ICC の計算 1 2 3 4 # lavInspect("icc")は，モデルベースで算出した観測変数のICCを確認できる lavInspect(model_mlcfa, "icc") # 以下のやり方で一つずつ見ても同じです # performance::icc(glmmTMB(teach1 ~ (1|school_id), data = dat)) 1 2 teach1 teach2 teach3 teach4 0.046 0.039 0.051 0.038 その結果，teach1-4 の共分散行列を「集団レベル」と「個人レベル」の分解した場合， 「集 団レベル」の共分散行列は，非常に小さな値となってしまいます。 共分散行列を分解する 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 # すべての変数間の共分散を明示するだけ model <- " level: 1 teach1 ~~ teach2 + teach3 + teach4 teach2 ~~ teach3 + teach4 teach3 ~~ teach4 level: 2 teach1 ~~ teach2 + teach3 + teach4 teach2 ~~ teach3 + teach4 teach3 ~~ teach4 " model_cov <- sem(model, data = dat, cluster = "school_id") # summary(model_cov, standardized = TRUE) 実際に lavaan で推定した結果をもとに共分散行列を表示する場合，以下のようにして求 めることができます。 分解後の共分散行列を求める 1 2 # lavInspect("h1")を使うと，推定結果に基づく共分散行列が得られる lavInspect(model_cov, "h1") 100

9.5 マルチレベル SEM 1 101 $within   2 3 4 5 6 7 8 $within$cov teach1 teach2 teach3 teach4 teach1 0.758 teach2 0.398 0.689 teach3 0.358 0.399 0.841 teach4 0.388 0.370 0.417 0.676 9 10 11 12 13 $within$mean teach1 teach2 teach3 teach4 0 0 0 0 14 15 16 17 18 19 20 21 22 23 24 $school_id $school_id$cov teach1 teach2 teach3 teach4 teach1 0.036 teach2 0.024 0.028 teach3 0.024 0.024 0.045 teach4 0.025 0.023 0.027 0.027                                                                                                $school_id$mean teach1 teach2 teach3 teach4 3.016 3.181 2.808 3.171   それぞれのレベルの$cov の出力が，レベルごとに分解された共分散行列を表しています。 したがって， teach1 0.758 ⎡teach2⎤ ⎡0.398 0.689 ⎤ ⎥=⎢ ⎥ （レベル1） Cov ⎢ ⎢teach3⎥ ⎢0.358 0.399 0.841 ⎥ teach4 0.388 0.370 0.417 0.676 ⎣ ⎦ ⎣ ⎦ teach1 0.036 ⎡teach2⎤ ⎡0.024 0.028 ⎤ ⎥=⎢ ⎥ （レベル2） Cov ⎢ ⎢teach3⎥ ⎢0.024 0.024 0.045 ⎥ ⎣teach4⎦ ⎣0.025 0.023 0.027 0.027⎦ (9.69) となり，レベル 2 共分散行列の値がとても小さくなることが分かります。一方で相関係数 （Std.all 列）は非常に大きいため，因子分析を行った際の因子負荷は大きな値になって います。ここだけを見ると，マルチレベル CFA を行うことに十分な意味があるようにも見 えてしまいますが，そもそものレベル 2 共分散行列の値がが小さくなってしまう（＝ ICC がいずれも小さい）ような場合には，わざわざマルチレベルにする意味は小さいのかもし れません。

9.5 マルチレベル SEM 102 9.5.4 マルチレベル SEM 最後は，因子分析と回帰分析（パス解析）を組み合わせたフルの SEM を実行してみましょう。 図 9.37 に，思いつきで大きなモデルを作成してみました。このように，マルチレベル SEM では レベルごとに全く異なるモデルを構築することも可能です。 図 9.37: マルチレベル SEM のモデル図 回帰分析の部分（オレンジの矢印）についての一応の仮説としては， レベル 1 : • 学 校 内 で の 相 対 的 な ESCS が 高 い 生 徒 ほ ど， 学 校 内 に 居 場 所 を 得 る こ と が で き （escs -> f_B1） ，教師からも目をかけてもらいやすい（escs -> f_T1） • 所属感の高い生徒ほど，またしっかりと指導してもらっている生徒ほど読解力が高い （f_B1 -> read_score および f_T1 -> read_score） • もちろん相対的に ESCS が高い生徒ほど読解力は高い傾向にある（escs -> read_score） レベル 2 : • 教師の授業の構成力は，レベルの高い学校ほど（escs -> f_T2），また ST 比が低く余裕 のある学校ほど（s_t_ratio -> f_T2）高い傾向にある • 学校の読解力の平均値は，授業の構成力が高い学校ほど（f_T2 -> read_score），また ESCS の平均が高い学校ほど（escs -> read_score）高い傾向にある といったことを想定しています。根拠はありません。 ということで，図 9.37 のモデルを lavaan で実行してみましょう。

• #p102

9.5 マルチレベル SEM

103

マルチレベル SEM
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

model <- "
level: 1
f_T1 ~ escs
f_B1 ~ escs
f_T1 =~ teach1 + teach2 + teach3 + teach4
f_B1 =~ belong1 + belong2 + belong3 + belong4 + belong5 + belong6
read_score ~ f_T1 + f_B1 + escs

1
2
3

Warning: lavaan->lav_data_full():
some observed variances are (at least) a factor 1000 times larger
than others; use varTable(fit) to investigate

1

summary(model_mlsem, standardized = TRUE)

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

lavaan 0.6-19 ended normally after 187 iterations

level: 2
f_T2 ~ escs + s_t_ratio
f_T2 =~ teach1 + teach2 + teach3 + teach4
read_score ~ f_T2 + escs
"
model_mlsem <- sem(model, data = dat, std.lv = TRUE, cluster = "school_id")

Estimator
Optimization method
Number of model parameters
Number of observations
Number of clusters [school_id]

ML
NLMINB
50
5766
183

Model Test User Model:
Test statistic
Degrees of freedom
P-value (Chi-square)

3056.118
63
0.000

Parameter Estimates:
Standard errors
Information
Observed information based on

Standard
Observed
Hessian

9.5 マルチレベル SEM 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 104 Level 1 [within]: Latent Variables: f_T1 =~ teach1 teach2 teach3 teach4 f_B1 =~ belong1 belong2 belong3 belong4 belong5 belong6 Estimate Std.Err z-value P(>|z|) Std.lv Std.all 0.613 0.619 0.636 0.626 0.011 0.011 0.012 0.010 54.629 58.425 53.551 60.042 0.000 0.000 0.000 0.000 0.613 0.619 0.636 0.626 0.704 0.746 0.693 0.761 0.473 0.526 0.507 0.490 0.425 0.491 0.011 0.013 0.011 0.012 0.010 0.012 42.027 42.049 45.787 39.615 43.177 42.062 0.000 0.000 0.000 0.000 0.000 0.000 0.473 0.526 0.507 0.490 0.425 0.491 0.625 0.627 0.687 0.613 0.633 0.646 Estimate Std.Err z-value P(>|z|) Std.lv Std.all 0.032 0.023 1.401 0.161 0.032 0.021 0.029 0.024 1.242 0.214 0.029 0.019 4.210 -3.636 7.406 1.115 1.143 1.560 3.776 -3.183 4.747 0.000 0.001 0.000 4.211 -3.637 7.406 0.056 -0.049 0.063 Estimate 3.262 2.845 2.958 3.072 2.807 3.304 Std.Err 0.010 0.011 0.010 0.011 0.009 0.010 z-value 327.163 257.493 304.651 291.658 317.651 329.648 P(>|z|) 0.000 0.000 0.000 0.000 0.000 0.000 Std.lv 3.262 2.845 2.958 3.072 2.807 3.304 Std.all 4.308 3.391 4.012 3.841 4.183 4.341 Estimate 0.382 0.306 0.437 0.284 0.350 0.427 Std.Err 0.009 0.008 0.011 0.008 0.009 0.011 z-value 40.780 36.897 41.530 35.425 38.133 37.667 P(>|z|) 0.000 0.000 0.000 0.000 0.000 0.000 Std.lv 0.382 0.306 0.437 0.284 0.350 0.427 Std.all 0.504 0.444 0.520 0.421 0.610 0.606 Regressions: f_T1 ~ escs f_B1 ~ escs read_score ~ f_T1 f_B1 escs Intercepts: .belong1 .belong2 .belong3 .belong4 .belong5 .belong6 Variances: .teach1 .teach2 .teach3 .teach4 .belong1 .belong2

9.5 マルチレベル SEM 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 .belong3 .belong4 .belong5 .belong6 .read_score .f_T1 .f_B1 105 0.287 0.400 0.270 0.338 5527.896 1.000 1.000 0.009 0.011 0.007 0.010 104.772 31.962 37.121 38.162 34.751 52.761 0.000 0.287 0.000 0.400 0.000 0.270 0.000 0.338 0.000 5527.896 1.000 1.000 0.528 0.624 0.600 0.583 0.990 1.000 1.000 Estimate Std.Err z-value P(>|z|) Std.lv Std.all 0.154 0.148 0.162 0.163 0.020 0.018 0.022 0.016 7.745 8.088 7.475 9.900 0.000 0.000 0.000 0.000 0.154 0.148 0.163 0.163 0.814 0.879 0.774 0.991 Estimate Std.Err z-value P(>|z|) Std.lv Std.all -0.181 0.006 0.318 0.021 -0.569 0.289 0.570 0.772 -0.180 0.006 -0.063 0.029 13.668 143.844 3.871 9.130 3.531 15.755 0.000 0.000 13.695 143.844 0.225 0.824 Estimate 3.002 3.167 2.793 3.156 518.474 Std.Err 0.045 0.043 0.047 0.046 4.838 z-value 67.361 74.274 58.998 68.525 107.177 P(>|z|) 0.000 0.000 0.000 0.000 0.000 Std.lv 3.002 3.167 2.793 3.156 518.474 Std.all 15.856 18.805 13.288 19.194 8.531 Estimate 0.012 0.006 0.018 0.000 1077.903 1.000 Std.Err 0.003 0.002 0.004 0.002 169.101 z-value 3.918 2.684 4.605 0.229 6.374 P(>|z|) Std.lv 0.000 0.012 0.007 0.006 0.000 0.018 0.819 0.000 0.000 1077.903 0.996 Std.all 0.338 0.227 0.401 0.017 0.292 0.996 Level 2 [school_id]: Latent Variables: f_T2 =~ teach1 teach2 teach3 teach4 Regressions: f_T2 ~ escs s_t_ratio read_score ~ f_T2 escs Intercepts: .teach1 .teach2 .teach3 .teach4 .read_score Variances: .teach1 .teach2 .teach3 .teach4 .read_score .f_T2 なお，レベル 2 にのみ投入する説明変数（上の例では s_t_ratio）がある場合，その説明変数

9.5 マルチレベル SEM 106 は集団ごとに全員に同じ値が入っていることを確認しておいてください。例えば escs など，個 人ごとに異なる値が入っている説明変数がレベル 2 にのみ投入されている場合，以下のようなエ ラーが出て正しく推定が行われません。 1 2 3 Error in eval(expr, envir, enclos): lavaan->lav_data_full(): Some between-level (only) variables have non-zero variance at the within-level. Please double-check your data. また，個人ごとに値が異なる（レベル 1 の）変数については， • レベル 2 のモデルに登場する場合は自動的に集団平均中心化のようなことが行われた後の 値が使われる • レベル 2 のモデルに登場しない場合はそのまま使われる ことになるので気をつけておきましょう。 推定結果をモデル図の中で示したものが 図 9.38 です。なお，この図では，因子分析の部分（青 い矢印）については Std.all 列の値を，回帰分析の部分（オレンジの矢印）については Estimate 列の値を記しています。 図 9.38: マルチレベル SEM の推定結果 因子分析の部分はいずれも問題なさそうなので，回帰分析の部分について結果を見ていくと， レベル 1 : • 相 対 的 な escs と 所 属 感 お よ び 授 業 の 構 成 の 間 に は ほ ぼ 関 係 が な い 一 方 で， 直 接 read_score に正の影響を与えている（とはいえレベル 2 の係数と比べると小さい） • 所属感が高い生徒ほど read_score は低い傾向にある レベル 2 : • 授業の構成力に対して escs および s_t_ratio はほぼ関係ない（そもそも f_T2 の分散が

• #p106

9.5 マルチレベル SEM 107 小さいため，かもしれない） • 学校の平均 escs はもちろんのこと，授業の構成力 f_T2 も read_score に正の効果を 持っている（ただし f_T2 の分散が…） といった感じになるでしょうか。ただモデルに理論的な背景が無いので，これ以上の深読みは やめておきましょう。 Exclamation-Triangle マルチレベルでカテゴリカルな SEM はまだできない 現時点の lavaan のバージョン（2025/07/31 時点で 0.6-19）では，引数 cluster と ordered を同時に指定することはできません。すなわち，マルチレベル・カテゴリカル SEM を実施することはできません。そのため，カテゴリカルな内生変数（wants_univ な ど）を含んだモデルを行う場合は，Mplus などの別のソフトウェアを利用するか，諦める しかないのが現状です。一応 lavaan の開発計画には”multilevel SEM with categorical data” の記載があるので，いつかは実装されるかもしれません。気長に待ちましょう。 9.5.5 SEM 的なモデルチェック マルチレベル SEM を行うメリットに，SEM 的なツールが色々と使える，という点が挙げら れます。SEM の Chapter で見てきた中から，いくつかの関数を試してみましょう。 適合度指標 マルチレベル SEM の適合度指標を見る 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 fitMeasures(model_mlsem) npar 50.000 df 63.000 baseline.df 86.000 tli 0.861 nfi 0.897 rni 0.899 aic 199934.914 bic2 200109.015 rmsea.ci.upper fmin 6.367 pvalue 0.000 baseline.pvalue 0.000 nnfi 0.861 pnfi 0.657 logl -99917.457 bic 200267.901 rmsea 0.091 rmsea.ci.level chisq 3056.118 baseline.chisq 29575.698 cfi 0.899 rfi 0.859 ifi 0.899 unrestricted.logl -98389.398 ntotal 5766.000 rmsea.ci.lower 0.088 rmsea.pvalue

• https://lavaan.ugent.be/about/development.html

9.5 マルチレベル SEM 18 19 20 21 22 0.094 0.900 rmsea.close.h0 rmsea.notclose.pvalue 0.050 1.000 srmr srmr_within 0.198 0.075 108 0.000 rmsea.notclose.h0 0.080 srmr_between 0.123 もともと適当に作ったモデルであり，あまり意味のないレベル 2 因子があったり，有意ですら ないパスが含まれていたりすることもあって，適合度はさほど良いとも言えません。ただこのよ うな感じで，モデル適合度の観点から，マルチレベル SEM を評価することが可能である，とい う点は階層線形モデルにはなかった利点と言えるでしょう。 fitMeasures() 関数は，もちろん両方のレベルを合わせた適合度を算出するため，適合度が 悪い場合には，どちらのレベルが悪いのか，あるいはどちらのレベルも悪いのかはわかりませ ん。このような場合には，レベルごとに適合度を評価することが有効となる可能性があります。 レベルごとの適合度を見るためには， 「レベルごとのモデル」と「レベルごとの共分散行列（と 平均ベクトル） 」が必要となります。ということで，まずは「レベルごとのモデル」を作成してい きます。といっても，これは単に level: で区切っていたモデルを別々に定義するだけです。 レベルごとのモデルを定義 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 model_l1 <- " # level: 1 に書いていた部分 f_T1 ~ escs f_B1 ~ escs f_T1 =~ teach1 + teach2 + teach3 + teach4 f_B1 =~ belong1 + belong2 + belong3 + belong4 + belong5 + belong6 read_score ~ f_T1 + f_B1 + escs " model_l2 <- " # level: 2 に書いていた部分 f_T2 ~ escs + s_t_ratio f_T2 =~ teach1 + teach2 + teach3 + teach4 read_score ~ f_T2 + escs " そして，「レベルごとの共分散行列（と平均ベクトル）」は，以下のようにして求めることがで きます。 レベルごとの共分散行列を求める 1 2 cov_mean <- lavInspect(model_mlsem, "h1") cov_mean

9.5 マルチレベル SEM 1 109 $within   2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 $within$cov 23 24 25 26 27 28 29 $within$mean teach1 0.000 belong3 2.958 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 $school_id $school_id$cov teach1 teach1 0.033 teach2 0.019 teach3 0.020 teach4 0.022 read_score -1.441 escs -0.018 s_t_ratio -0.130           teach1 teach2 teach3 teach4 belong1 belong2 belong3 belong4                                                                                         teach1 0.760 0.400 0.360 0.389 0.052 0.034 0.069 0.074 belng4              teach2                                  0.691 0.401 0.372 0.063 0.050 0.078 0.081 belng5   teach3                                       0.843 0.419 0.037 0.042 0.064 0.068 belng6   teach4                                   0.677 0.060 0.034 0.067 0.066 rd_scr  belng1                             0.573 0.190 0.187 0.313 escs  belng2                          belng3             0.704 0.359 0.178   0.543 0.195  teach1 teach2 teach3 teach4 belong1 belong2 belong3 belong4 0.640 [ reached getOption("max.print") -- omitted 4 rows ]                                                                                           teach2 0.000 belong4 3.072                          teach3 0.000 belong5 2.807                      teach4 belong1 0.000 3.262 belong6 read_score 3.304 0.000                                                   belong2 2.845 escs 0.000             $school_id$mean teach1 teach2 3.018 3.180 s_t_ratio 11.950  teach2 teach3 teach4 rd_scr escs s_t_rt 0.022 0.020 0.019 2.902 0.009 0.092 0.041 0.024 -1.815 -0.020 -0.083 0.023 1.086 3600.641 -0.005 17.080 -0.045 81.545 0.121 0.385 22.260 teach4 read_score 3.172 503.492 escs -0.113  teach3 2.810   

9.5 マルチレベル SEM 110 lavInspect("h1") は，推定されたモデルパラメータに基づいてレベル別の共分散行列と平 均ベクトルを計算してくれる関数です。 あとは，上記の情報を使ってレベルごとに再度 lavaan を実行するだけです。lavaan の関数 は，データを丸ごと与える他に（psych::fa() 関数などもそうであったように）「共分散行列 （sample.cov） 」 「平均ベクトル（sample.mean） 」 「サンプルサイズ（sample.nobs） 」を与える ことでもパラメータ推定を行うことができます。 レベルごとに推定を行う 1 2 3 4 5 6 7 8 9 10 11 12 13 14 # レベル1の部分だけの推定 model_mlsem_l1 <- sem(model_l1, std.lv = TRUE, sample.cov = cov_mean$within$cov, sample.mean = cov_mean$within$mean, sample.nobs = nrow(dat) ) # レベル2の部分だけの推定 model_mlsem_l2 <- sem(model_l2, std.lv = TRUE, sample.cov = cov_mean$school_id$cov, sample.mean = cov_mean$school_id$mean, sample.nobs = 183 # レベル2の集団数 )         レベルごとに推定された結果*29 をもとに適合度を見てみましょう。 レベルごとの適合度を見る 1 2 3 4 5 6 library(semTools) # 優劣をつけたい訳ではないですが # 単純に見比べやすいのでcompareFit()を使います summary(compareFit(model_mlsem_l1, model_mlsem_l2, nested = FALSE), fit.measures = c("cfi", "tli", "gfi", "srmr", "rmsea") ) 1 2 3 4 ####################### Model Fit Indices ########################### cfi tli gfi srmr rmsea model_mlsem_l2 .794 .657 0.999† .102 .300 model_mlsem_l1 .847† .802† .983 .070† .100† 今回はどちらも大して良くないようですが，その中でもレベル 2 のほうがなおさら適合度が悪 いようです。ただ何度も見ているように，そもそもレベル 2 の共分散行列は値が小さいので，こ れ以上の深追いはやめておきましょう。 *29 両レベルをまとめて推定した場合と，パラメータの推定値が若干ずれているので，もしかしたらレベルごとの適合 度もあくまで近似的なものになっている可能性があります（未確認） 。

• #p110

9.5 マルチレベル SEM モデル修正 マルチレベル SEM の修正指標を見る 1 modindices(model_mlsem, sort = TRUE) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 lhs op rhs block group level mi epc sepc.lv sepc.all 129 belong4 ~~ belong6 1 1 1 919.873 0.186 0.186 0.506 119 belong2 ~~ belong3 1 1 1 725.069 0.167 0.167 0.477 125 belong3 ~~ belong5 1 1 1 575.524 0.119 0.119 0.428 117 belong1 ~~ belong6 1 1 1 481.375 0.127 0.127 0.370 115 belong1 ~~ belong4 1 1 1 423.872 0.126 0.126 0.337 120 belong2 ~~ belong4 1 1 1 337.055 -0.124 -0.124 -0.301 126 belong3 ~~ belong6 1 1 1 334.642 -0.103 -0.103 -0.331 131 belong5 ~~ belong6 1 1 1 307.836 -0.090 -0.090 -0.298 114 belong1 ~~ belong3 1 1 1 286.409 -0.095 -0.095 -0.299 sepc.nox 129 0.506 119 0.477 125 0.428 117 0.370 115 0.337 120 -0.301 126 -0.331 131 -0.298 114 -0.299 [ reached 'max' / getOption("max.print") -- omitted 89 rows ] modindices() 関数も，マルチレベル SEM で利用可能なはずです。出力を見ると，level と いう列*30 が増えています。この列が，どのレベルのモデルについての修正の提案であるかを表し ているわけです。ただ今回の結果は，上位が belong の項目間に誤差共分散をつけるものばかり が提案されており，あまり意味のある修正は見られなさそうです……。 9.5.6 別のアプローチ ここまでに解説したマルチレベル SEM の考え方では，階層線形モデルでいうところのランダ ム傾きモデルなど，集団ごとに回帰係数が異なるようなモデルを表現することができません*31 。 そこで，近年では別のアプローチによるマルチレベル SEM（Mehta & Neale, 2005）を使うこと *30 group 列は，多母集団同時分析での各集団の番号を表す列です。ちなみに，多母集団同時分析とマルチレベル SEM は，集団の違いを固定効果とみなすか変量効果とみなすか，が違うだけで位置づけとしては近い手法です。 そのため，マルチレベル多母集団同時分析なんて方法（e.g., 学校 × 性別による違いの分析）も可能です。block 列は，group と level の両方を同時に区別するための列なので，マルチレベル SEM の場合には level と同じ値 に，多母集団同時分析の場合には group と同じ値になります。マルチレベル多母集団同時分析になると group 数 ×level 数の値が入ることになるようです。 *31 これも lavaan の開発計画には”two-level SEM with random slopes” とあるので，いつかは実装されるのかも しれません。 111

• #p111
• #p127
• https://lavaan.ugent.be/about/development.html

9.5 マルチレベル SEM 112 が増えてきているようです（尾崎 et al.，2019） 。 Exclamation-Triangle Warning これ以降の内容は，R ではまだあまり十分に実装されていません。考え方および「現状は こんなことなら出来る」という説明にとどまります。なお，高度なモデルをガッツリ実行 したい場合には，Mplus という有償のソフトウェアを利用するのがおすすめです。 回帰式を因子分析的に表す 改めて，最もシンプルなランダム切片モデルの式 (9.8) を見てみます。 (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 この式は，ある個人の 𝑦𝑝𝑔 の値が， 「集団 𝑔 に共通の平均値 𝛽0𝑔 」と「個人ごとに異なる 𝑢𝑝𝑔 」の 2 つによって決まっていることを表していました。したがって，集団 𝑔 の中の複数人の 𝑦𝑝𝑔 の値 は，以下のように表すことができます。 𝑦1𝑔 = 𝛽0𝑔 + 𝑢1𝑔 𝑦2𝑔 = 𝛽0𝑔 + 𝑢2𝑔 ⋮ 𝑦𝑛𝑔 𝑔 = 𝛽0𝑔 + 𝑢𝑛𝑔 𝑔 この式を（少し強引に見えるかもしれませんが）因子分析モデルに無理やり当てはめてみる と，図 9.39 のように表すことができます。 図 9.39: ランダム切片モデルを無理やり因子分析に見立てる 一つずつ見ていくと， • 集団 𝑔 の全員に同じ値をもたらすために，集団の切片 𝛽0𝑔 を全員に共通の因子負荷（通常 は 1）でかける

• #p127
• https://www.statmodel.com
• #p17
• #p112

9.5 マルチレベル SEM 113 • 個人ごとの値の違いは，独自因子として与える 2 • 独自因子の分布は全員，そして全集団で共通（𝑢𝑝𝑔 ∼ 𝑁 (0, 𝜎𝑝𝑔 )） という感じです。因子分析では，個人の共通因子の得点を，複数の観測変数から求めていまし た。ランダム切片モデルでも，各集団 𝑔 の共通因子に当たる 𝛽0𝑔 の値を，その集団に所属する複 数の個人の 𝑦𝑝𝑔 の値から求めている，と考えると全く同じことなのです。 ということでランダム切片モデルは，適切な制約のもとでは，観測変数の数が 𝑛𝑔 個の一因子 モデルとして表すことができます*32 。ただし，この方法は基本的には欠測がない，すなわち各 集団のサンプルサイズがすべて同じ場合に適用可能な方法です。……なのですが，幸いなことに SEM においては，欠測がある場合の対処法がすでに確立されています。簡単に言うと，「デー タがあるところだけを使って最尤推定を行う」完全情報最尤推定（full information maximul likelihood [FIML]）という方法があり，lavaan（や Mplus など）にすでに実装されています。 ということで，無理やり因子分析のようにしてランダム切片モデルを試してみましょう。この ためには，まずデータを各行が集団になるように変換する必要があります。その方法は色々あ る*33 のですが，ここでは reshape という関数を使ってみます。 データを wide 型に変形させる 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 # まずは集団内に連番をつける（あとで使うため） dat$id_in_group <- ave(dat$student_id, dat$school_id, FUN = seq_along) # wide型に変換する dat_wide <- reshape(dat, idvar = "school_id", # wide型にしたときの行 timevar = "id_in_group", # wide型にしたときの列 v.names = "read_score", # wide型にしたときの値 direction = "wide" # wide型に変換する，という宣言 ) # 使う行だけ残す col_use <- grep("read_score", colnames(dat_wide)) dat_wide <- dat_wide[, col_use] # 列名の変更，このあとのことを考えてできるだけ短くしたい colnames(dat_wide) <- paste0("x", seq_along(col_use)) head(dat_wide) 1 2 3 4 5 1 36 70 98                                                                                                                                                                                                                          x1 x2 x3 x4 x5 x6 x7 x8 704.541 569.687 647.678 672.170 671.836 770.257 629.302 635.377 407.067 516.066 476.785 481.392 487.458 463.513 297.027 525.794 394.599 377.281 320.707 596.066 550.053 503.949 549.370 401.773 481.432 633.283 606.886 465.688 540.154 475.517 482.591 522.945 *32 この考え方は，実は本節の前半で紹介したものとも共通しています。共通因子 𝛽 （個人レベルの要素 0𝑔 の分散が「 を完全に排除した）集団レベルの分散」に相当し，𝑢𝑝𝑔 の分散が「個人レベルの分散」となるのです。 *33 tidyverse な方法で言えば pivot_wider() などを使うのが良いかもしれませんが， 本資料ではあえて tidyverse に頼らないことにしています。

• #p113

9.5 マルチレベル SEM 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 131 417.018 463.160 484.525 557.468 361.538 434.686 325.217 473.500 162 656.984 658.027 558.086 541.708 600.806 648.765 699.864 583.038 x9 x10 x11 x12 x13 x14 x15 x16 1 569.792 629.565 558.669 710.876 678.167 572.808 555.934 630.040 36 472.075 525.836 562.182 413.959 525.294 486.594 523.139 520.569 70 433.376 435.975 584.493 524.617 284.713 511.741 466.476 419.863 98 615.102 397.207 517.198 559.928 402.294 421.546 367.346 579.669 131 341.105 402.302 388.488 449.652 120.788 563.629 391.874 452.526 162 599.655 682.270 668.412 592.554 565.286 612.133 597.207 531.676 x17 x18 x19 x20 x21 x22 x23 x24 1 554.016 623.540 560.076 567.106 687.581 685.917 674.400 566.263 36 526.796 559.321 445.163 471.139 425.071 384.130 424.149 402.880 70 607.630 417.726 374.933 428.235 392.184 601.386 535.630 531.243 98 425.272 541.008 546.868 471.983 469.782 454.392 611.397 454.496 131 432.385 241.960 356.772 542.058 338.747 465.785 441.305 345.869 162 579.109 651.421 532.560 724.961 552.878 551.477 715.887 675.034 x25 x26 x27 x28 x29 x30 x31 x32 1 692.116 530.061 642.351 664.494 510.211 657.856 722.404 524.830 36 399.164 400.898 388.972 535.431 499.609 620.378 582.890 392.931 70 452.884 552.959 389.370 284.715 NA NA NA NA 98 601.194 558.166 536.509 575.462 596.815 418.474 465.308 446.476 131 536.040 376.222 386.487 383.930 390.537 358.121 439.226 NA 162 638.978 605.978 601.015 654.758 621.334 449.931 614.251 639.797 x33 x34 x35 1 525.987 484.467 663.052 36 449.216 485.054 NA 70 NA NA NA 98 446.658 NA NA 131 NA NA NA 162 587.172 NA NA 出来上がったデータフレームは，各行が異なる学校（school_id）を表しています。そして列 数が「最も人数の多い集団 𝑔 の数」に一致し，それよりも人数が少ない集団については残りが NA で埋められた形になっています。 INFO 使用した関数の解説 ave() 関数は，指定したグループごとに同じ関数を適用できる関数です。例えば，以下の ように書くと，read_score の学校ごとの分散を計算してくれます。 114

9.5 マルチレベル SEM 115 [ave] グループごとに同じ関数を適用する 1 2 3 4 # 第1引数は関数を適用する対象（ベクトル） # 第2引数以降はグループを指定する変数（複数可） # 適用する関数は引数FUNで与える ave(dat$read_score, dat$school_id, FUN = var) 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 [1] 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 [8] 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 [15] 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 [22] 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 [29] 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 4897.726 [36] 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 [43] 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 [50] 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 [57] 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 [64] 4670.416 4670.416 4670.416 4670.416 4670.416 4670.416 8815.489 [71] 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 [78] 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 [85] 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 [92] 8815.489 8815.489 8815.489 8815.489 8815.489 8815.489 5353.813 [99] 5353.813 5353.813 [ reached getOption("max.print") -- omitted 5666 entries ]      ave() 関数のポイントは，出力がもとのベクトルと同じ長さになるという点です。つま り，上のコードを実行すると， dat$school_id == "001"のところには，全員分同じ値 （read_score の分散）が返ってくることになります。 そして，seq_along() 関数は，与えた引数の長さと同じ長さの整数の配列を返してくれ ます。 [seq_along] 同じ長さの整数の配列を返す 1 2 # 結構いろいろなところで使える関数だと思います seq_along(c("Hello", "My", "Name", "is", "Taro.")) 1 [1] 1 2 3 4 5 ということで，以上を組み合わせると，school_id ごとに通し番号を振ることができるの です。

9.5 マルチレベル SEM 116 ave と seq_along を組み合わせる 1 2 3 4 5 1 2 3 4 5 6 7 8 9 # もちろん方法は他にもあります ave(dat$student_id, # 必要なのは「個数」だけなので，指定する列はなんでもOK dat$school_id, FUN = seq_along )                                  [1] "1" "2" "3" "4" "5" "6" "7" "8" "9" "10" "11" "12" "13" "14" [15] "15" "16" "17" "18" "19" "20" "21" "22" "23" "24" "25" "26" "27" "28" [29] "29" "30" "31" "32" "33" "34" "35" "1" "2" "3" "4" "5" "6" "7" [43] "8" "9" "10" "11" "12" "13" "14" "15" "16" "17" "18" "19" "20" "21" [57] "22" "23" "24" "25" "26" "27" "28" "29" "30" "31" "32" "33" "34" "1" [71] "2" "3" "4" "5" "6" "7" "8" "9" "10" "11" "12" "13" "14" "15" [85] "16" "17" "18" "19" "20" "21" "22" "23" "24" "25" "26" "27" "28" "1" [99] "2" "3" [ reached getOption("max.print") -- omitted 5666 entries ] 続いて grep() は，character 型ベクトルの中から，特定の文字列を含んでいる要素の番 号を探してくれます。 [grep] 文字列が一致する要素の場所を教える 1 2 3 # 本当はめちゃめちゃ使い所がある関数です word_vec <- c("apple", "banana", "orange", "pineapple", "applepie") grep("apple", word_vec) 1 [1] 1 4 5 したがって，grep("read_score",colnames(dat_wide)) という指示は， 「dat_wide の 中で列名に read_score が入っている列番号を教えて」という意味になり，これを列番号 に指定することで read_score の部分だけが残ったデータフレームが作れるのです。 あとは lavaan のモデル式を書くだけです。が，制約（因子負荷はすべて 1，独自因子の分散 はすべて共通，独自因子の平均値はすべて 0）を満たすように書くのがかなり大変です。 最終的に，出来上がったコードは以下のようになります。

9.5 マルチレベル SEM

117

ランダム切片モデルのモデル式の定義
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22

model <- "
# 共通因子（ランダム切片）の部分
beta_0g =~ 1*x1 + 1*x2 + 1*x3 + 1*x4 + 1*x5 + 1*x6 +
1*x7 + 1*x8 + 1*x9 + 1*x10 + 1*x11 + 1*x12 +
1*x13 + 1*x14 + 1*x15 + 1*x16 + 1*x17 + 1*x18 +
1*x19 + 1*x20 + 1*x21 + 1*x22 + 1*x23 + 1*x24 +
1*x25 + 1*x26 + 1*x27 + 1*x28 + 1*x29 + 1*x30 +
1*x31 + 1*x32 + 1*x33 + 1*x34 + 1*x35
# 独自因子（個人レベル変量効果）の部分
x1 ~~ u*x1; x2 ~~ u*x2; x3 ~~ u*x3; x4 ~~ u*x4; x5 ~~ u*x5;
x6 ~~ u*x6; x7 ~~ u*x7; x8 ~~ u*x8; x9 ~~ u*x9; x10 ~~ u*x10;
x11 ~~ u*x11; x12 ~~ u*x12; x13 ~~ u*x13; x14 ~~ u*x14; x15 ~~ u*x15;
x16 ~~ u*x16; x17 ~~ u*x17; x18 ~~ u*x18; x19 ~~ u*x19; x20 ~~ u*x20;
x21 ~~ u*x21; x22 ~~ u*x22; x23 ~~ u*x23; x24 ~~ u*x24; x25 ~~ u*x25;
x26 ~~ u*x26; x27 ~~ u*x27; x28 ~~ u*x28; x29 ~~ u*x29; x30 ~~ u*x30;
x31 ~~ u*x31; x32 ~~ u*x32; x33 ~~ u*x33; x34 ~~ u*x34; x35 ~~ u*x35
# beta_0gの平均と分散を推定してもらう
beta_0g ~~ beta_0g
beta_0g ~ 1
"

LIGHTBULB ちょっとでもラクに書く方法
モデル式をすべて手書きで行うのはどう考えても面倒かつミスが起こりやすいので，

paste0() などの関数を使ってラクをしましょう。これまでも複数の列名を指定するとき
に使用してきたように，paste0() の引数にベクトルを与えると，そのベクトルを展開し
て文字列ベクトルを作ってくれます。

paste0() の使い方 1
1

paste0("x", 1:10)

1

[1] "x1"

"x2"

"x3"

"x4"

"x5"

"x6"

"x7"

"x8"

"x9"

"x10"

ここで便利なのが，引数 collapse です。これを指定すると，collapse で指定した文字
列を間に挟みながら，全体を一つの文字列として返してくれるようになります。

9.5 マルチレベル SEM

paste0() の使い方 2
1
2

# 引数collapseを使いこなそう
paste0("x", 1:10, collapse = " + ")

1

[1] "x1 + x2 + x3 + x4 + x5 + x6 + x7 + x8 + x9 + x10"

ということで，以下のようにしてモデル式の一部を作成し，これをコピペすると，多少は
楽になるかと思います。

lavaan のモデル式の一部を自動的に作成
1
2
3
4

# 共通因子（ランダム切片の部分）
paste0("1*x", 1:35, collapse = " + ")
# 独自因子（個人レベル変量効果の部分）
paste0("x", 1:35, " ~~ u*x", 1:35, collapse = "; ")

1

[1] "1*x1 + 1*x2 + 1*x3 + 1*x4 + 1*x5 + 1*x6 + 1*x7 + 1*x8 + 1*x9 +
1*x10 + 1*x11 + 1*x12 + 1*x13 + 1*x14 + 1*x15 + 1*x16 + 1*x17 +
1*x18 + 1*x19 + 1*x20 + 1*x21 + 1*x22 + 1*x23 + 1*x24 + 1*x25 +
1*x26 + 1*x27 + 1*x28 + 1*x29 + 1*x30 + 1*x31 + 1*x32 + 1*x33 +

2

1*x34 + 1*x35"
[1] "x1 ~~ u*x1; x2 ~~ u*x2; x3 ~~ u*x3; x4 ~~ u*x4; x5 ~~ u*x5; x6 ~~
u*x6; x7 ~~ u*x7; x8 ~~ u*x8; x9 ~~ u*x9; x10 ~~ u*x10; x11 ~~
u*x11; x12 ~~ u*x12; x13 ~~ u*x13; x14 ~~ u*x14; x15 ~~ u*x15;
x16 ~~ u*x16; x17 ~~ u*x17; x18 ~~ u*x18; x19 ~~ u*x19; x20 ~~
u*x20; x21 ~~ u*x21; x22 ~~ u*x22; x23 ~~ u*x23; x24 ~~ u*x24;
x25 ~~ u*x25; x26 ~~ u*x26; x27 ~~ u*x27; x28 ~~ u*x28; x29 ~~
u*x29; x30 ~~ u*x30; x31 ~~ u*x31; x32 ~~ u*x32; x33 ~~ u*x33;
x34 ~~ u*x34; x35 ~~ u*x35"

そして，こういったラクをするためにも，データを作成する際には変数名には明確なルー
ルを設けて体系的に管理するのがおすすめです。
コードが書けたら，あとは推定を実行するだけです。lavaan は，デフォルトでは欠測がある
行はリストワイズ削除する仕様になっています。欠測を無視して先ほど紹介した FIML を実行し
てもらうためには，missing="fiml"を指定する必要があります。

lavaan でランダム切片モデル
1
2
3

# データが既に集団レベルにまとまっているため，引数clusterは不要
# int.ov.free = FALSEを与えると，観測変数の切片がすべて平均0になる
model1_lav <- sem(model,

118

9.5 マルチレベル SEM 4 5 6 7 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 119 data = dat_wide, missing = "fiml", int.ov.free = FALSE ) summary(model1_lav, standardized = TRUE) lavaan 0.6-19 ended normally after 73 iterations Estimator Optimization method Number of model parameters Number of equality constraints ML NLMINB 37 34 Number of observations Number of missing patterns 183 17 （中略） Latent Variables: Estimate beta_0g =~ x1 x2 Std.Err z-value P(>|z|) 1.000 1.000 Std.lv Std.all 60.161 60.161 0.629 0.629 （中略） Intercepts: beta_0g Estimate 503.699 Std.Err 4.562 z-value 110.401 P(>|z|) 0.000 Std.lv 8.367 Std.all 8.367 Estimate (u) 5579.473 (u) 5579.473 Std.Err 105.605 105.605 z-value 52.833 52.833 P(>|z|) Std.lv 0.000 5579.473 0.000 5579.473 Std.all 0.606 0.606 (u) 5579.473 3624.390 105.605 398.532 52.833 9.094 0.000 5579.473 0.000 1.000 0.606 1.000 Variances: .x1 .x2 （中略） .x35 beta_0g 正しく因子負荷を 1 に固定できていれば，Latent Variables: の推定値はすべて 1 になって いるはずです。そして Intercepts: の beta_0g の推定値（503.699）が，切片の全体平均 𝜇 に 相当します。また，Variances: はそれぞれの分散成分を表しており，すべての観測変数に共通 の u の値（5579.473）が個人レベルの分散を，また beta_0g の値（3624.390）が，集団レベル の分散を表しています。これらの値は，すべて説明変数のないランダム切片モデルを glmmTMB() で推定したとき（summary(model0) の出力）と全く同じ値になっており，確かに同一のモデル をマルチレベル SEM の枠組みで表せることが分かります。

9.5 マルチレベル SEM 120 ランダム傾きモデル 続いては，集団ごとに傾きも異なるモデルを考えてみます。本当は説明変数が連続変数の場 合も簡単に実装できるとよいのですが，現状の lavaan では相当難しいと思われるので，ここで は二値の説明変数に対するランダム傾きモデルを考えていきます。ということで，説明変数を 「escs が全体平均以上か」とし，被説明変数は変わらず read_score とします。これは， 「ESCS が高い生徒ほど読解力が高いのか」を検証するモデルをかなり簡略化したものになります（本当 は集団レベルの効果を分離する必要があるのですが……） 。 二値の説明変数を作る 1 dat$escs_bin <- ifelse(dat$escs > mean(dat$escs), 1, 0)                このとき，回帰式は (9.70) 式にあったように (レベル 1) 𝑦𝑝𝑔 = 𝛽0𝑔 + 𝛽1𝑔 𝑥𝑝𝑔 + 𝑢𝑝𝑔 (レベル 2) 𝛽0𝑔 = 𝜇 + 𝑢0𝑔 (レベル 2) 𝛽1𝑔 = 𝛽1 + 𝑢1𝑔 (9.70) と設定されていました。ここでのポイントは，説明変数 𝑥𝑝𝑔 が二値（0 または 1）であるならば， レベル 1 の回帰式は 𝑥𝑝𝑔 の値によって場合分けして書ける，という点です。具体的には， 𝛽 + 𝑢𝑝𝑔 𝑦𝑝𝑔 = { 0𝑔 𝛽0𝑔 + 𝛽1𝑔 + 𝑢𝑝𝑔 (𝑥𝑝𝑔 = 0) (𝑥𝑝𝑔 = 1) (9.71) となります。すなわち，傾き 𝛽1𝑔 は， 「𝑥𝑝𝑔 = 1 の人にだけ共通で同じ値が追加される」という働 きをしているのです。 そして変量効果は (9.38) 式によって （レベル 1） 𝑢𝑝𝑔 （レベル 2）[ 2 ∼ 𝑁 (0, 𝜎𝑝𝑔 ) 2 𝜎0𝑔 𝑢0𝑔 0 ] ∼ 𝑀 𝑉 𝑁 ([ ],[ 𝑢1𝑔 0 𝜎(0𝑔)(1𝑔) 𝜎(0𝑔)(1𝑔) ]) 2 𝜎1𝑔 (9.72) と設定されていました。以上のモデルを，再び無理やり因子分析の形で表すとしたら，「𝑥𝑝𝑔 = 1 のひとにだけ切片項が追加される」と考えたら良いので，図 9.40 のように表すことができます。 （かなり強引に見えるかもしれませんが）このモデルでは，すべての人に対して「𝑥𝑝𝑔 = 0 のと き」と「𝑥𝑝𝑔 = 1 のとき」を並列させて表しています。すなわち，𝑦𝑝𝑔 のとある人がいたときに， この人が 𝑥𝑝𝑔 = 0 であるならば 𝑦𝑝𝑔 = 𝑦𝑝𝑔 とし，𝑦𝑝𝑔 は欠測とします。SEM では，欠測があっ (0) (1) ても FIML によって無視することができたので，これによって共通因子の推定が可能になるの です。ということで，二値の説明変数に対するランダム傾きモデルを実行するには，まずデータ を横に 2 倍にする必要があります。ということで，ここからは以下の手順でデータを再度整形し ます。 1. dat_wide と同じサイズで，escs_bin も wide 型に変換する 2. dat_wide を 2 つ複製する

• #p120
• #p49
• #p121

9.5 マルチレベル SEM 図 9.40: ランダム傾きモデルを無理やり因子分析に見立てる • escs_bin == 1 の要素に対応する dat_wide の要素を NA に置き換えたもの • escs_bin == 0 の要素に対応する dat_wide の要素を NA に置き換えたもの 3. 2. で作った 2 つのデータフレームを横にくっつける escs_bin を wide 型にする 1 2 3 4 5 6 7 8 9 10 11 12 13 1 2 3 4 5 6 7 8 9 10 # read_scoreにやったのと同じ手順で dat_wide_escs <- reshape(dat, idvar = "school_id", # wide型にしたときの行 timevar = "id_in_group", # wide型にしたときの列 v.names = "escs_bin", # wide型にしたときの値 direction = "wide" # wide型に変換する，という宣言 ) # 使う行だけ残す col_e <- grep("escs_bin", colnames(dat_wide_escs)) dat_wide_escs <- dat_wide_escs[, col_e] # 列名の変更 colnames(dat_wide_escs) <- paste0("b", seq_along(col_e)) head(dat_wide_escs) 1 36 70 98 131 162 1 36 b1 b2 b3 b4 b5 b6 b7 b8 b9 b10 b11 b12 b13 b14 b15 b16 b17 b18 b19 b20 1 1 0 1 0 1 0 1 1 1 1 1 1 1 1 1 1 0 0 0 0 0 0 0 0 0 1 0 1 1 0 1 1 0 0 1 1 1 0 0 0 0 0 1 1 1 1 1 1 0 0 1 0 0 1 0 1 1 0 0 1 0 0 0 0 0 0 1 1 1 0 0 0 0 0 0 1 1 0 0 1 0 0 1 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 0 1 0 1 1 0 1 b21 b22 b23 b24 b25 b26 b27 b28 b29 b30 b31 b32 b33 b34 b35 1 1 1 1 1 1 1 1 1 1 1 1 1 0 1 1 0 0 0 0 1 0 0 0 0 0 1 0 0 NA 121

9.5 マルチレベル SEM

11
12
13
14

70
98
131
162

1
0
1
0

1
1
0
1

0
1
0
1

122

1
1
0
0

0
1
0
1

1
1
1
1

0
1
0
1

0
0
0
1

NA
0
1
1

NA
1
0
1

NA
0
0
0

NA
0
NA
0

NA
0
NA
1

NA
NA
NA
NA

NA
NA
NA
NA

dat_wide の複製を作る
1
2
3
4
5
6

# まずはそのままコピー
dat_wide_0 <- dat_wide_1 <- dat_wide
# escs_bin == 1のところがNAになったdat_wide
dat_wide_0[dat_wide_escs == 1] <- NA
# escs_bin == 0のところがNAになったdat_wide
dat_wide_1[dat_wide_escs == 0] <- NA

2 つのデータフレームをくっつける
1
2
3
4
5

dat_wide2 <- cbind(dat_wide_0, dat_wide_1)
colnames(dat_wide2) <- paste0("x", seq_len(2 * length(col_use)))

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

x1
x2
x3
x4
x5
x6
x7
x8 x9 x10
1
NA
NA 647.678
NA 671.836
NA 629.302
NA NA NA
36 407.067 516.066 476.785 481.392 487.458 463.513
NA 525.794 NA NA
x11 x12 x13
x14
x15 x16 x17
x18
x19
x20 x21
1
NA NA NA
NA
NA NA NA 623.54 560.076 567.106 NA
36 562.182 NA NA 486.594 523.139 NA NA
NA 445.163 471.139 NA
x22
x23
x24
x25 x26
x27
x28
x29
x30
1
NA
NA
NA
NA NA
NA
NA
NA
NA
36 384.13 424.149 402.88 399.164 NA 388.972 535.431 499.609 620.378
x31 x32
x33
x34 x35
1
NA NA
NA 484.467 NA
36 582.89 NA 449.216 485.054 NA
[ reached 'max' / getOption("max.print") -- omitted 4 rows ]
x36
x37 x38
x39 x40
x41
x42
x43
x44
x45
1 704.541 569.687 NA 672.17 NA 770.257
NA 635.377 569.792 629.565
36
NA
NA NA
NA NA
NA 297.027
NA 472.075 525.836
x46
x47
x48
x49
x50
x51
x52
x53 x54 x55
1 558.669 710.876 678.167 572.808 555.934 630.040 554.016
NA NA NA
36
NA 413.959 525.294
NA
NA 520.569 526.796 559.321 NA NA
x56
x57
x58
x59
x60
x61
x62
x63
x64
1 687.581 685.917 674.4 566.263 692.116 530.061 642.351 664.494 510.211
36 425.071
NA
NA
NA
NA 400.898
NA
NA
NA
x65
x66
x67
x68 x69
x70

head(dat_wide2[, 1:35]) # wants_univ == 0の分だけ
head(dat_wide2[, 36:70]) # wants_univ == 1の分だけ

9.5 マルチレベル SEM 24 25 26 1 657.856 722.404 524.830 525.987 NA 663.052 36 NA NA 392.931 NA NA NA [ reached 'max' / getOption("max.print") -- omitted 4 rows ] 出来上がった dat_wide2 を見ると，確かに対応する x1-x36，x2-x37，x3-x38，…はいずれ も，どちら一方にのみ値が入っていることが分かります。ということで，あとは lavaan のモデ ル式を書くだけです。もちろん書かなければ行けない量は単純計算でも 2 倍になります。 ランダム傾きモデルのモデル式の定義 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 model <- " # 切片の共通因子（ランダム切片）の部分 beta_0g =~ 1*x1 + 1*x2 + 1*x3 + 1*x4 + 1*x5 + 1*x6 + 1*x7 + 1*x8 + 1*x9 + 1*x10 + 1*x11 + 1*x12 + 1*x13 + 1*x14 + 1*x15 + 1*x16 + 1*x17 + 1*x18 + 1*x19 + 1*x20 + 1*x21 + 1*x22 + 1*x23 + 1*x24 + 1*x25 + 1*x26 + 1*x27 + 1*x28 + 1*x29 + 1*x30 + 1*x31 + 1*x32 + 1*x33 + 1*x34 + 1*x35 + 1*x36 + 1*x37 + 1*x38 + 1*x39 + 1*x40 + 1*x41 + 1*x42 + 1*x43 + 1*x44 + 1*x45 + 1*x46 + 1*x47 + 1*x48 + 1*x49 + 1*x50 + 1*x51 + 1*x52 + 1*x53 + 1*x54 + 1*x55 + 1*x56 + 1*x57 + 1*x58 + 1*x59 + 1*x60 + 1*x61 + 1*x62 + 1*x63 + 1*x64 + 1*x65 + 1*x66 + 1*x67 + 1*x68 + 1*x69 + 1*x70 # 傾きの共通因子（ランダム傾き）の部分 # x_pg==1の部分（後半だけ）にかかる beta_1g =~ 1*x36 + 1*x37 + 1*x38 + 1*x39 + 1*x40 + 1*x41 + 1*x42 + 1*x43 + 1*x44 + 1*x45 + 1*x46 + 1*x47 + 1*x48 + 1*x49 + 1*x50 + 1*x51 + 1*x52 + 1*x53 + 1*x54 + 1*x55 + 1*x56 + 1*x57 + 1*x58 + 1*x59 + 1*x60 + 1*x61 + 1*x62 + 1*x63 + 1*x64 + 1*x65 + 1*x66 + 1*x67 + 1*x68 + 1*x69 + 1*x70 # 独自因子（個人レベル変量効果）の部分 x1 ~~ u*x1; x2 ~~ u*x2; x3 ~~ u*x3; x4 ~~ u*x4; x5 ~~ u*x5; x6 ~~ u*x6; x7 ~~ u*x7; x8 ~~ u*x8; x9 ~~ u*x9; x10 ~~ u*x10; x11 ~~ u*x11; x12 ~~ u*x12; x13 ~~ u*x13; x14 ~~ u*x14; x15 ~~ u*x15; x16 ~~ u*x16; x17 ~~ u*x17; x18 ~~ u*x18; x19 ~~ u*x19; x20 ~~ u*x20; x21 ~~ u*x21; x22 ~~ u*x22; x23 ~~ u*x23; x24 ~~ u*x24; x25 ~~ u*x25; x26 ~~ u*x26; x27 ~~ u*x27; x28 ~~ u*x28; x29 ~~ u*x29; x30 ~~ u*x30; x31 ~~ u*x31; x32 ~~ u*x32; x33 ~~ u*x33; x34 ~~ u*x34; x35 ~~ u*x35; x36 ~~ u*x36; x37 ~~ u*x37; x38 ~~ u*x38; x39 ~~ u*x39; x40 ~~ u*x40; x41 ~~ u*x41; x42 ~~ u*x42; x43 ~~ u*x43; x44 ~~ u*x44; x45 ~~ u*x45; x46 ~~ u*x46; x47 ~~ u*x47; x48 ~~ u*x48; x49 ~~ u*x49; x50 ~~ u*x50; x51 ~~ u*x51; x52 ~~ u*x52; x53 ~~ u*x53; x54 ~~ u*x54; x55 ~~ u*x55; x56 ~~ u*x56; x57 ~~ u*x57; x58 ~~ u*x58; x59 ~~ u*x59; x60 ~~ u*x60; 123

9.5 マルチレベル SEM

37
38
39
40
41
42
43
44
45
46
47
48

124

x61 ~~ u*x61; x62 ~~ u*x62; x63 ~~ u*x63; x64 ~~ u*x64; x65 ~~ u*x65;
x66 ~~ u*x66; x67 ~~ u*x67; x68 ~~ u*x68; x69 ~~ u*x69; x70 ~~ u*x70
# beta_0gの平均と分散を推定してもらう
beta_0g ~~ beta_0g
beta_0g ~ 1
# beta_1gの平均と分散を推定してもらう
beta_1g ~~ beta_1g
beta_1g ~ 1
# 2つの変量効果の共分散も
beta_0g ~~ beta_1g
"

LIGHTBULB かなりラクに書く方法
ここまで量が増えてくると，paste0() などを使わないとむしろやってられない感じがし
てきますね。

lavaan のモデル式の一部を自動的に作成
1
2
3
4
5
6

# 切片の共通因子（ランダム切片の部分）
paste0("1*x", 1:70, collapse = " + ")
# 傾きの共通因子（ランダム傾きの部分）
paste0("1*x", 36:70, collapse = " + ")
# 独自因子（個人レベル変量効果の部分）
paste0("x", 1:70, " ~~ u*x", 1:70, collapse = "; ")

あとは推定するだけです。

lavaan でランダム傾きモデル
1
2
3
4
5

model2_lav <- sem(model,
data = dat_wide2, missing = "fiml",
int.ov.free = FALSE
)
summary(model2_lav, standardized = TRUE)

1
2
3
4
5
6
7
8

lavaan 0.6-19 ended normally after 84 iterations
Estimator
Optimization method
Number of model parameters
Number of equality constraints
Number of observations

ML
NLMINB
75
69
183

9.5 マルチレベル SEM

9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37

125

Number of missing patterns

183

（中略）

Latent Variables:
Estimate
beta_0g =~
x1
x2

Std.Err

z-value

P(>|z|)

1.000
1.000

Std.lv

Std.all

58.417
58.417

0.619
0.619

（中略）

Covariances:
Estimate

Std.Err

z-value

P(>|z|)

Std.lv

Std.all

-286.049

193.804

-1.476

0.140

-0.235

-0.235

Estimate
498.215
10.791

Std.Err
4.599
2.694

z-value
108.341
4.005

P(>|z|)
0.000
0.000

Std.lv
8.529
0.518

Std.all
8.529
0.518

Estimate
(u) 5498.249
(u) 5498.249

Std.Err
105.593
105.593

z-value
52.070
52.070

P(>|z|)
Std.lv
0.000 5498.249
0.000 5498.249

Std.all
0.617
0.617

(u) 5498.249
3412.513
434.654

105.593
404.971
162.727

52.070
8.427
2.671

0.000 5498.249
0.000
1.000
0.008
1.000

0.627
1.000
1.000

beta_0g ~~
beta_1g
Intercepts:
beta_0g
beta_1g
Variances:
.x1
.x2
（中略）

.x70
beta_0g
beta_1g

そしてこの結果も，やはり glmmTMB() で推定した場合とだいたい同じ値になります。
数学的に同じモデルを glmmTMB() で推定
1

summary(glmmTMB(read_score ~ escs_bin + (escs_bin | school_id), data = dat,
REML = FALSE))

1
2
3

Warning in finalizeTMB(TMBStruc, obj, fit, h, data.tmb.old): Model
convergence problem; non-positive-definite Hessian matrix. See
vignette('troubleshooting')

1
2
3
4

Family: gaussian ( identity )
Formula:
read_score ~ escs_bin + (escs_bin | school_id)
Data: dat

9.6 マルチレベル項目反応理論（未完成）

5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24

AIC
NA

BIC
NA

logLik -2*log(L)
NA
NA

126

df.resid
5760

Random effects:
Conditional model:
Groups
Name
Variance Std.Dev. Corr
school_id (Intercept) 3476.285 58.9600
escs_bin
0.634 0.7963 -0.95
Residual
5567.444 74.6153
Number of obs: 5766, groups: school_id, 183
Dispersion estimate for gaussian family (sigma^2): 5.57e+03
Conditional model:
Estimate Std. Error z value Pr(>|z|)
(Intercept) 498.621
4.626 107.79 < 2e-16 ***
escs_bin
10.148
2.191
4.63 3.62e-06 ***
--Signif. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

説明変数の数が増えた場合も，理論上は同じ要領で対応可能です。例えば二値の説明変数が 2
つある場合には，「(𝑥1 , 𝑥2 ) = (0, 0) のとき」「(𝑥1 , 𝑥2 ) = (0, 1) のとき」「(𝑥1 , 𝑥2 ) = (1, 0) のと
き」
「(𝑥1 , 𝑥2 ) = (1, 1) のとき」という 4 つの状態を用意して，それぞれ対応するところにだけ傾
き因子を因子負荷 1 で与えたら良いのです。同様に，説明変数が多値の場合（リッカート尺度な
ど）であっても，「𝑥𝑝𝑔 = 0 のとき」「𝑥𝑝𝑔 = 1 のとき」「𝑥𝑝𝑔 = 2 のとき」……という形で，カテ
ゴリ数と同じ数の状態を用意してあげると，理論上は対応可能です。実際にやるとなると，コー
ドを書くのが非常に大変になったり，推定もうまく行かなくなってくるかもしれません。
ただ，それだけ頑張ったとしても，得られる結果は基本的に glmmTMB()（や lmer()）でも推
定可能なものです。ということで，もうお分かりかと思いますが，この考え方でマルチレベル

SEM を実行する場合，lavaan でできる範囲のことは glmmTMB() でほとんど事足りてしまいま
す。現時点では，lavaan でマルチレベル SEM を行う場合は，本節の前半で紹介した「共分散
行列を分解する」考え方に則って，level: を使って行うのがおすすめと言えるかもしれません。
そして，もっとしっかりと分析したければ，Mplus に手を出しましょう。

9.6 マルチレベル項目反応理論（未完成）
（sirt パッケージの mcmc.2pno.ml() を使うと良さそう，ただ MCMC の理解が必要そう）

参考文献 参考文献 Austin, P. C., & Merlo, J. (2017). Intermediate and advanced topics in multilevel logistic regression analysis. Statistics in Medicine, 36(20), 3257–3277. https://doi.org/10.1002/ sim.7336 Bauer, D. J., & Curran, P. J. (2005). Probing interactions in fixed and multilevel regression: inferential and graphical techniques. Multivariate Behavioral Research, 40(3), 373–400. https://doi.org/10.1207/s15327906mbr4003_5 Devine, S., Uanhoro, J. O., Otto, A. R., & Flake, J. K. (2024). Approaches for quantifying the ICC in multilevel logistic models: a didactic demonstration. Collabra: Psychology, 10(1), 94263. https://doi.org/10.1525/collabra.94263 Harrison, X. A. (2014). Using observation-level random effects to model overdispersion in count data in ecology and evolution. PeerJ, 2, e616. https://doi.org/10.7717/peerj.616 Johnson, P. O., & Fay, L. C. (1950). The Johnson-Neyman technique, its theory and application. Psychometrika, 15(4), 349–367. https://doi.org/10.1007/BF02288864 川端一光（2019） ．パラメータ推定 R で学ぶマルチレベルモデル［実践編］ （pp. 145–178） 朝倉書店 Kenny, D. A., & La Voie, L. (1985). Separating individual and group effects. Journal of Personality and Social Psychology, 48(2), 339–348. https://doi.org/10.1037/00223514.48.2.339 McGraw, K. O., & Wong, S. P. (1996). Forming inferences about some intraclass correlation coefficients. Psychological Methods, 1(1), 30–46. https://doi.org/10.1037/1082989x.1.1.30 Mehta, P. D., & Neale, M. C. (2005). People are variables too: Multilevel structural equations modeling. Psychological Methods, 10(3), 259–284. https://doi.org/10.1037/ 1082-989X.10.3.259 尾崎 幸謙・川端 一光・山田剛史（2018） ．R で学ぶマルチレベルモデル［入門編］ 朝倉書店 尾崎 幸謙・川端 一光・山田剛史（2019） ．R で学ぶマルチレベルモデル［実践編］ 朝倉書店 127

• https://doi.org/10.1002/sim.7336
• https://doi.org/10.1207/s15327906mbr4003_5
• https://doi.org/10.1525/collabra.94263
• https://doi.org/10.7717/peerj.616
• https://doi.org/10.1007/BF02288864
• https://doi.org/10.1037/0022-3514.48.2.339
• https://doi.org/10.1037/1082-989x.1.1.30
• https://doi.org/10.1037/1082-989X.10.3.259

128 参考文献 Robinson, W. S. (1950). Ecological correlations and the behavior of individuals. American Sociological Review, 15(3), 351. https://doi.org/10.2307/2087176 清水裕士（2014） ．個人と集団のマルチレベル分析 ナカニシヤ出版 Simpson, E. H. (1951). The interpretation of interaction in contingency tables. Journal of the Royal Statistical Society Series B: Statistical Methodology, 13(2), 238–241. https: //doi.org/10.1111/j.2517-6161.1951.tb00088.x Snijders, T. A. B., & Bosker, R. J. (2012). Multilevel analysis: an introduction to basic and advanced multilevel modeling (2nd ed). Sage.

• https://doi.org/10.2307/2087176
• https://doi.org/10.1111/j.2517-6161.1951.tb00088.x