散らばった点に、ずれの二乗の合計がいちばん小さくなる直線を引く。その傾きが関係の強さを数で表し、線から外れた点が、式では説明できない部分を教えてくれる。
体の大きさと、使う土地の広さ
霊長類には体重48グラムの種から11万グラムを超える種までいます。体が大きい種ほど、ふだん動き回る範囲である行動圏も広い傾向があります。ここまでは散布図を見ればわかります。
回帰が答えるのは、その先の問いです。体重が10倍になったとき、行動圏は10倍になるのか、それより少ないのか。そして、その「傾向」から外れる種はどれで、どのくらい外れているのか。
ふつうの目盛りで描くと、ほとんどの種が左下の隅に重なり、関係の形が読めません。体重は2,000倍以上、行動圏は1万倍以上の開きがあるためです。下の体験では、両方の軸を対数目盛り（1目盛りごとに10倍になる目盛り）にしています。
- 種の数
- —
- 最小二乗の傾き
- —
- 体重が10倍で
- —
- 決定係数 R²
- —
- 残差の二乗和：あなた
- —
- 残差の二乗和：最小二乗
- —
- 残差の二乗和：水平な線
- —
しくみ：最小二乗法と、両対数の傾き
点と直線の縦のずれを残差といいます。残差は正にも負にもなるので、二乗してから合計します。この残差の二乗和がいちばん小さくなる直線を選ぶ方法が最小二乗法で、そうして引いた線が回帰直線です。上の体験でスライダーをどう動かしても、最小二乗の線より残差の二乗和を小さくすることはできません。
両方の軸を対数にしているので、傾き0.933は足し算ではなくかけ算の関係として読みます。体重が k 倍になると、行動圏の予測値は k の0.933乗倍になります。傾きがちょうど1なら「体重10倍で行動圏も10倍」ですが、0.933はそれより少し小さい値です。
| 体重が | 行動圏の予測値は |
|---|---|
| 2倍 | 1.9倍 |
| 10倍 | 8.6倍 |
| 100倍 | 73.6倍 |
決定係数 R² は、縦軸のばらつきのうち、直線で説明できた割合です。体験の「水平な線」は体重を使わずに全種の平均で予測した線で、その残差の二乗和が縦軸のばらつき全体にあたります。最小二乗の線がそれをどれだけ減らしたかが R² です。
同じ体重を横軸にしても、縦軸の変数によって傾きも R² もまったく違います。
| 縦軸の変数 | 種の数 | 傾き | 体重が10倍で | R² |
|---|---|---|---|---|
| 行動圏の広さ | 153 | 0.933 | 8.6倍 | 0.46 |
| 新生児の体重 | 117 | 0.828 | 6.7倍 | 0.92 |
| 最長寿命 | 125 | 0.199 | 1.6倍 | 0.53 |
| 個体群密度 | 170 | −0.418 | 0.38倍 | 0.20 |
線から外れた点を読む
行動圏でいちばん上に外れているのはパタスモンキー（Erythrocebus patas）です。体重7,966グラムに対して行動圏は28.24平方キロメートルあり、直線の予測の約49倍です。一つひとつの外れは、測り方の違いかもしれませんし、その種の暮らし方の特徴かもしれません。どちらなのかは、データの数字だけでは決められません。
外れ方がグループごとにそろっているときは注意が必要です。行動圏の直線に対して、オマキザル科25種の点は平均すると予測の約3倍の側に、インドリ科6種の点は約0.18倍の側に寄っています。「科を強調する」で確かめられます。1本の直線は全種をまとめた平均的な傾向で、どの科にも同じように当てはまるとは限りません。
変数を増やせば、よいモデルになるか
体重のほかに群れの大きさや気温などを式に加えると、R² は必ず上がるか、少なくとも下がりません。けれども、手元のデータにだけ合わせすぎた式は、新しい種の予測をかえって外します。当てはまりのよさと式の単純さの釣り合いをとる考え方がモデル選択で、統計学Ⅰの第11回で AIC という指標を使って扱っています。
よくある誤解
「R² が低いなら、関係はない」
個体群密度の R² は0.20しかありませんが、傾きは−0.418で、体重10倍の種ほど密度は約0.38倍という方向ははっきりしています。R² が低いのは、体重以外に密度を左右する要因が多く、点が線のまわりに大きく散らばっているということです。
「傾きは、体重を変えたときの効果だ」
回帰の傾きは、体重の違う種を並べたときに行動圏がどう違うかという関連です。ある種の体重を増やせば行動圏が広がる、という因果は示していません。体重と行動圏の両方に関わる別の要因があっても、同じ傾きは出てきます（03 相関と因果）。
「よく合う直線なら、データの範囲の外にも使える」
行動圏の直線は、体重48グラムから約11万グラムまでの種から求めたものです。その範囲の中なら、体重1キログラムで約0.083平方キロメートル、10キログラムで約0.71平方キロメートルと予測できます。範囲の外（外挿）で関係がまっすぐ続く保証は、このデータのどこにもありません。
「最小二乗の線は、どの種にも公平に当てはまっている」
最小二乗の線は、全体の残差の二乗和を小さくするだけです。種の数が多い科に引っぱられ、少ない科がそろって線からずれることがあります。オマキザル科とインドリ科の例のように、残差を科ごとに見て初めてわかる偏りがあります。
授業では、この回で扱っています
授業サイトは誰でも見られます。もう少し踏み込みたい人は、各回のページへどうぞ。
データ：Jones, K. E. et al. (2009) PanTHERIA: a species-level database of life history, ecology, and geography of extant and recently extinct mammals. Ecology 90: 2648. 霊長類376種のうち、体重と各変数の両方が記録されている種を使用（行動圏の広さ153種、新生児の体重117種、最長寿命125種、個体群密度170種）。すべて常用対数をとってから最小二乗法で直線を求めています。