公開

相関係数・回帰直線の求め方|共分散から計算し、内挿と外挿を見分けよう

文:野澤 嘉孝 (ソフトウェアエンジニア/プログラミングスクール Sandbox 代表)

相関係数・回帰直線の求め方|共分散から計算し、内挿と外挿を見分けよう

この記事の概要

「気温が分かれば、アイスが何個売れるか予測できる?」。 データから式を作ると、そんな見積もりができます。でも、その式を冬にも使ってよいのでしょうか。 先に結論:関係の強さを求め、予測の式を作り、使える範囲を確かめる 平均からのずれが同じ向きか、逆向きか。大きさは単位にも左右される

「気温が分かれば、アイスが何個売れるか予測できる?」。

データから式を作ると、そんな見積もりができます。でも、その式を冬にも使ってよいのでしょうか。

先に結論:関係の強さを求め、予測の式を作り、使える範囲を確かめる

求めるもの

何が分かるか

今回の結果

共分散

平均からのずれが同じ向きか、逆向きか。大きさは単位にも左右される

6.4

相関係数

直線的な関係の向きと強さ

r=0.8

回帰直線

気温から販売個数を見積もる式

予測値=1.6x+1.6

計算は、平均・偏差 → 分散・標準偏差・共分散 → 相関係数・回帰直線の順に進めます。最後に「どの範囲の気温で作った式か」を確認しましょう。計算が正しくても、予測が当たるとは限りません。

プロ研のYouTubeチャンネル

アイスを「−6.4個」仕入れる? 計算は合っているのに

12月。購買から「寒い日はアイスを何個仕入れればいい?」と相談されたユウキは、11月のデータから作った式を開きました。

予測売上=1.6×気温+1.6

予想気温−5℃を入れると、答えは−6.4個。

ユウキ「マイナスのアイス……どうやって仕入れるの?」
ハルカ「平均も相関係数も、計算は合ってるんだよね?」
Sandy「式が返事することと、売上をちゃんと見積もれることは別やで」

使ったデータは21〜27℃の5日分。−5℃での売上を観測したものではありません。

観測した気温の範囲を越えて式を延ばすと、売上個数としてあり得ない値が出ています。

21〜27度の観測範囲から回帰直線をマイナス5度まで延ばすと売上の予測値が負になる図

式を計算できても、観測範囲外で妥当な売上を予測できるとは限りません。

物語と数値は学習用の架空設定です。前話で扱った「アイスの販売個数と保健室の来室者数」とは別のデータを使い、今回は「気温とアイスの販売個数」を計算します。以下、売上は金額ではなく、売れた個数を指します。

まず平均と偏差を求めよう

気温をx、アイスの売上個数をyとします。同じ行が同じ日の記録です。並べ替えるときも、対応する組を崩してはいけません。

日

気温x(℃)

売上y(個)

1日目

21

34

2日目

23

42

3日目

24

40

4日目

25

38

5日目

27

46

平均は、気温が120÷5=24℃、売上が200÷5=40個です。

偏差=それぞれの値−平均値なので、気温の偏差は−3, −1, 0, 1, 3。売上の偏差は−6, 2, 0, −2, 6になります。

分散は偏差の2乗の平均、標準偏差は分散の0以上の平方根でした。今回は分散も共分散も、データの個数n=5で割って計算します。

計算

気温x

売上y

偏差の2乗の合計

9+1+0+1+9=20

36+4+0+4+36=80

分散

20÷5=4

80÷5=16

標準偏差

√4=2

√16=4

この「標準偏差2と4」が、相関係数を求めるときに必要になります。

共分散とは? 対応する偏差の積を平均する

共分散は、対応する2つの偏差の積の平均です。今回なら、同じ日の気温の偏差と売上の偏差を掛け、5日分を足して5で割ります。

なぜ偏差どうしを掛けるのでしょうか。

  • 両方が平均より上なら、正×正で正。
  • 両方が平均より下なら、負×負で正。
  • 片方だけが平均より上なら、積は負。
  • どちらかの偏差が0なら、積は0。

ここで見ているのは、前日より増えたかどうかではなく、それぞれの平均より上か、下かです。同じ側にある組の積は正、反対側にある組の積は負になります。共分散では、正と負の件数だけでなく、積の大きさも含めて合計します。

5日分の偏差を掛け合わせて、表で確かめましょう。

気温と売上の偏差を日ごとに掛けて共分散6.4を求める表

同じ日の偏差の積を平均します。負の積もそのまま合計に含めます。

気温の偏差

売上の偏差

偏差の積

−3

−6

18

−1

2

−2

0

0

0

1

−2

−2

3

6

18

積の合計は18−2+0−2+18=32。共分散は32÷5=6.4です。正の値なので、この5日分では「気温が平均より高い日は、販売個数も平均より多い」という向きの傾向が表れています。

ユウキ「じゃあ共分散が大きいほど、関係が強い?」
Sandy「単位を変えただけでも数字が変わるねん。そのまま大きさを比べたらアカンで」

たとえば売上を「個」から「10個を1単位」に変えると、売上の数値も偏差も10分の1になり、共分散は0.64になります。元の関係が変わったわけではありません。共分散の大きさだけで、異なるデータの関係の強さを比べるのは不適切です。

相関係数の求め方:割るのは分散ではなく標準偏差

単位に左右される大きさを調整するため、共分散を2つの標準偏差の積で割ります。

相関係数r=共分散÷(xの標準偏差×yの標準偏差)

今回の値を入れると、次のようになります。

共分散6.4を標準偏差2と4の積で割り相関係数0.8を求める計算

割るのは分散ではなく標準偏差の積。0.8は的中率ではありません。

r=6.4÷(2×4)=0.8

売上の単位を10個単位に変えた場合も、共分散0.64、売上の標準偏差0.4となるので、0.64÷(2×0.4)=0.8。同じ結果になります。

ここで使うのはピアソンの相関係数です。両方の標準偏差が0でないことが条件で、共分散と分散は同じ基準で計算します。片方の変数がすべて同じ値なら、分母が0になり、通常のrは定義できません。

相関係数は−1以上1以下。符号は直線的な関係の向き、絶対値は強さを表します。範囲外になったら計算や定義を確認しましょう。ただし、範囲内に収まっただけで正解とは限りません。

r=0.8は「予測が80%当たる」という意味ではありません。 また、0に近くても曲線的な関係がある場合があります。計算結果と散布図をセットで見ます。

また、気温と販売個数の列を別々に並べ替えると、別の日どうしが組になり、相関係数も変わってしまいます。計算では、同じ日の2つの値を、必ずセットで扱いましょう。

回帰直線と最小二乗法:残差を小さくする

相関係数で関係の向きと強さを求めたら、次は気温xから売上yを見積もる直線を作ります。

予測値=ax+b

aが傾き、bが切片です。相関係数は「関係はどの向きに、どれくらい強いか」、回帰直線は「この気温なら何個くらい売れるか」という、別の問いに答えます。ここでは、切片bもデータから求め、5日分を同じ重みで扱う単回帰直線を作ります。直線を選ぶ方法が、次の最小二乗法です。

残差=実測値−予測値。同じxの位置での縦方向の差です。点から直線へ斜めに下ろした最短距離ではありません。

直線から上にある点は残差が正、下にある点は負になります。

回帰直線と実測点の縦方向の差を残差として示す散布図

23℃の日の残差は42−38.4=+3.6個です。斜めの最短距離ではありません。

残差をそのまま足すと、正と負が打ち消し合うことがあります。そこで、残差の2乗の合計が最小になるように直線を選ぶのが最小二乗法です。

今回の回帰直線は、xにばらつきがあれば次の式で求められます。

  • 傾きa=共分散÷xの分散=6.4÷4=1.6
  • 切片b=yの平均−a×xの平均=40−1.6×24=1.6

したがって、予測値=1.6x+1.6です。この直線は、気温の平均と販売個数の平均を組にした点(24, 40)を通ります。実際に24を入れると、1.6×24+1.6=40です。

傾き1.6は、この式では気温が1℃高いと、予測値が1.6個多くなるという意味です。「気温を1℃上げると、必ず1.6個多く売れる」と因果を証明したわけではありません。切片1.6も式の位置を決める値であり、観測していない0℃で実際に1.6個売れると確認したものではありません。

23℃の日なら、予測値は1.6×23+1.6=38.4個。実測値は42個なので、残差は42−38.4=+3.6個です。「予測より3.6個多く売れた」と読めます。

気温

実測値

予測値

残差(実測−予測)

21℃

34個

35.2個

−1.2個

23℃

42個

38.4個

+3.6個

24℃

40個

40個

0個

25℃

38個

41.6個

−3.6個

27℃

46個

44.8個

+1.2個

残差の2乗の合計は、1.44+12.96+0+12.96+1.44=28.8です。

「残差の2乗の合計が最小」は、「残差が全部0」とは違います。5点がすべて直線上に乗る必要はありません。

内挿と外挿の違い:29℃も範囲の外

求めた式に29℃を入れると、1.6×29+1.6=48個。一見、使えそうな答えです。

しかし、元の気温は21〜27℃。29℃も観測範囲の外です。

  • 内挿:観測したxの範囲内で推定すること。
  • 外挿:観測したxの範囲外で推定すること。

今回の22℃には観測点がありませんが、21〜27℃の内側なので内挿です。「その値の点がないから外挿」ではありません。

予測に使う気温

観測範囲との関係

分類

式の予測値

22℃

21〜27℃の中

内挿

36.8個

29℃

21〜27℃の外

外挿

48個

−5℃

21〜27℃の外

外挿

−6.4個

内挿と外挿を分けるのは、観測点の有無ではなく、観測したxの範囲です。

21〜27度の観測範囲内の22度は内挿、範囲外の29度は外挿と示す数直線

内挿・外挿は観測したxの範囲で分けます。内挿にも的中の保証はありません。

冒頭の−5℃を入れると、1.6×(−5)+1.6=−6.4個。計算は正しくても、売上個数の見積もりとしては不適切です。

Sandy「式が壊れたんとちゃう。観測範囲の外でも使えると、確かめずに決めたんが問題や」
ユウキ「48個みたいな普通の答えでも、当たるとは限らないんだね」

内挿でも的中の保証はありません。外挿には特に、追加のデータや仕組みに関する根拠が必要です。相関係数が1に近くても、範囲の外で同じ直線的な関係が続くとは限りません。

なお、予測値が小数であること自体は問題ではありません。平均的な数量の見積もりなら38.4個のような値も使います。今回の−6.4個で問題なのは、売上個数が負になる点です。

仕入れ数を決めるなら、売上予測に加えて在庫や売り切れ、曜日なども確認します。負の予測をただ0に置き換えただけでは、そのモデルが冬に使えると確かめたことにはなりません。

オリジナル練習問題:分母と範囲を確認しよう

以下はこの記事用の学習問題です。実際の共通テスト問題ではありません。

共分散が6、xの標準偏差が2、yの標準偏差が5のとき、相関係数はいくつでしょう。

答えは6÷(2×5)=0.6。 分散4と25を分母に使って6÷100=0.06としないように注意しましょう。

もう1問。今回の回帰直線で26℃を使った推定は、内挿・外挿のどちらでしょう。

答えは内挿。 26℃そのものの観測点はありませんが、21〜27℃の範囲内だからです。推定値は1.6×26+1.6=43.2個。ただし、実際の売上を保証する値ではありません。

まとめ:計算のあとに「どこまで測った?」を聞く

購買には、冬の日の気温と売上も記録してもらうことになりました。新しい式を作る場合も、別の日の実測と比較して確かめます。データを増やせば必ず当たるとは限らず、直線という形が適切かも見直します。

  • 共分散は、対応する偏差の積の平均。
  • 相関係数は、共分散を2つの標準偏差の積で割る。
  • 残差は実測値−予測値という縦の差。最小二乗法では2乗の合計を最小にする。
  • 今回の回帰直線の傾きは共分散÷xの分散、切片はyの平均−傾き×xの平均。
  • 内挿は観測範囲の中、外挿は外。計算できても予測が当たるとは限らない。

Sandy「『この調子ならこうなる』って予測を見たら、『その調子は、どこまで測って言うてるん?』。計算のあとに、それも確かめてや」

関連学習:第42話|記事原稿|相関と因果・散布図・ヒストグラム

表計算やPythonで同じ値を計算し、散布図と照らし合わせるのもよい練習です。プログラミングスクールSandboxでは、アプリ制作やデータ分析などに取り組めます。

参考資料

あわせて読みたい記事

Sandboxのサポート内容 Sandboxの情報Ⅰ学習サポートを見る →
共通テスト情報Ⅰのまとめ 共通テスト「情報Ⅰ」対策シリーズの一覧を見る →
野澤 嘉孝

この記事を書いた人

野澤 嘉孝

ソフトウェアエンジニア/プログラミングスクール Sandbox 代表

ソフトウェアエンジニア。同志社大学理工学部を経て、京都大学大学院で核融合発電の基礎研究(プラズマ物理)に従事。高校生向け数学塾の講師、大学での物理実験の授業を通じて延べ500名以上の学生をサポート。現在は業界特化型SaaSの開発に携わりながら、小中高生向けプログラミングスクール Sandbox を運営。

プロフィールと執筆記事の一覧 →

「情報Ⅰ、うちの子はどう対策すればいい?」

情報Ⅰ対策について無料で相談する

志望校の配点を一緒に確認したい方は → 無料の学習相談へ

入会金無料・いつでも退会OK・退会後もいつでも再入会できます