【第22回】平均値に騙されないための見方|データの読み方(嫁子が教えるマーケ講座)
今回のゴール
- 平均値と中央値を使い分けられる
- 分けて見ると勝ち負けが逆転する現象を知る
- 相関を因果と読み違える失敗を避けられる
第20回と第21回で「平均で見ると分からない」と2回書きました。今回はその話を正面から扱います。全体の流れは講座の目次へ。
嫁子: 第2回の最後に私が言ったこと、覚えてるかな。
「それ、何で割った数字?」って聞けるようになろうって話だったでしょ。今日はその続きだよ。
1. 平均が中身を隠す
うちで「問い合わせから契約までの平均日数」を出したら、15日でした。
営業部に見せたら、「そんなにかかってない」と言われました。調べ直すと、実際はこうなっていました。
| 契約までの日数 | 件数 |
|---|---|
| 1〜3日 | 6件 |
| 4〜7日 | 3件 |
| 8日〜3か月 | 0件 |
| 124日(約4か月) | 1件 |
10件のうち9件は1週間以内に決まっていて、1件だけが4か月後でした。この1件が平均を引き上げていたわけです。
真ん中の値(中央値)を見ると3日です。営業部の感覚のほうが正しかったことになります。
| 見方 | 数字 | 何を表すか |
|---|---|---|
| 平均値 | 15日 | 全部を足して割った値。極端な値に引っ張られる |
| 中央値 | 3日 | 順番に並べて真ん中の値。極端な値の影響を受けにくい |
片方が極端に大きい・小さいデータでは、平均より中央値のほうが実態に近くなります。
日数、金額、滞在時間。このあたりはほぼ必ず偏っているので、平均だけ見ると外します。
2. 分けて見ると、逆転することがある
ここが今回いちばん驚くところです。
広告AとBを比べたところ、全体のCVRはこうなりました。
| 広告 | クリック | 問い合わせ | CVR |
|---|---|---|---|
| A | 1,000 | 46件 | 4.6% |
| B | 1,000 | 24件 | 2.4% |
Aの勝ちに見えます。ところが、スマホとPCに分けると、こうなっていました。
| 広告 | 端末 | クリック | 問い合わせ | CVR |
|---|---|---|---|---|
| A | スマホ | 100 | 1件 | 1% |
| A | PC | 900 | 45件 | 5% |
| B | スマホ | 900 | 18件 | 2% |
| B | PC | 100 | 6件 | 6% |
スマホでもPCでも、Bのほうが高いのです。それなのに全体ではAが勝っています。
理由は配信先の構成です。AはPCに多く出ていて、PCはもともとCVRが高い。Bはスマホに多く出ているので、全体の数字が引き下げられていました。
つまりAが良かったのではなく、Aが出ていた場所が良かっただけです。
この状態で「Aに寄せよう」と判断すると、本当は良いBを止めることになります。
全体の平均が逆転するのは、比べている2つで中身の構成が違うときです。広告、時期、地域、端末。構成が違う可能性があるものは、必ず分けて見てください。
嫁子: これ、けっこう怖いね。数字は間違ってないのに、結論が逆になるんでしょ。
分けなかったせいで正しい判断ができないの。分け方を知らないと気づけないから、たちが悪いよ。
3. 期間の切り方で変わる
もう1つ、日常的に起きるものです。
「先週より問い合わせが30%増えました」という報告があったとします。ここで確認することが3つあります。
ひとつは曜日が揃っているかです。うちの問い合わせは日曜と月曜に多く、金曜が少ないという傾向がありました。7日で区切らないと、曜日の構成が変わります。
次に季節の影響で、年末は大掃除で増えます。前年の同じ時期と比べないと、施策の効果か季節かが分かりません。
そして分母。広告費が1.3倍なら、問い合わせが30%増えるのは当たり前です。見るべきはCPAです。
この3つを確認せずに報告すると、次の月に下がったときに説明できなくなります。
4. 相関と因果は違う
うちのアクセス解析で、こういう傾向が見つかりました。
サイトの滞在時間が長い人ほど、問い合わせる割合が高い
ここから「滞在時間を伸ばせば問い合わせが増える」と考えたくなります。動画を置いたり、記事を長くしたり。
これが間違いで、順番が逆になっています。
問い合わせようと思った人は、料金を確認し、対応範囲を読み、口コミを見ます。だから結果として滞在時間が長くなっています。滞在時間が問い合わせを生んだのではありません。
もし「滞在時間を伸ばす」ことを目標にすると、探しているものが見つかりにくいサイトを作ってしまいます。滞在時間は伸びますが、問い合わせは減ります。
見分け方は1つです。その数字を無理やり動かしたとき、結果も動くと言えるかを考えてください。言えなければ、それは原因ではなく、ただ一緒に動いているだけです。
5. 「増えた」と言っていい基準
第16回で「件数が貯まるまで判断しない」と書きました。ここでも同じです。
問い合わせが40件から44件に増えたとして、これは10%の改善でしょうか。たまたま4件多かっただけかもしれません。
厳密な判定は次回(第23回)で扱いますが、実務で使える目安を1つ書いておきます。
その数字が、先月・先々月の振れ幅の中に収まっているなら、まだ何も言えません。
過去6か月の問い合わせが 38・42・37・44・39・41 だったなら、44は普通の振れ幅の中です。ここで「増えた」と報告すると、翌月38に戻ったときに「減った」と報告することになります。
動いたかどうかを言う前に、いつもどれくらい振れているかを知っておいてください。
6. AIに任せるとき
集計と、切り分けの提案には使えます。
特に実用的なのが、分け方の候補を出させることです。「このデータ、どう分けて見ると違いが出そうか」と聞くと、端末・時間帯・地域・新規と既存、といった軸が返ってきます。2節の失敗を防げます。
任せてはいけないのは因果の判断です。「滞在時間と問い合わせに相関があります。原因ですか」と聞くと、それらしい説明を作ってくれます。作れてしまうのが問題で、実際にどちらが先かは、データを見ても分かりません。
使える頼み方はこうです。
- データを渡して、平均と中央値の両方を出させる
- 分けて見る軸の候補を出させる
- 「これは相関であって因果ではない可能性は」と自分から聞く
3番目を聞くと、たいてい素直に「別の要因が考えられます」と返ってきます。聞かなければ言ってくれないので、こちらから聞く癖をつけてください。
つまずきポイント
平均と中央値が大きく違ったら、分布を見てください。 そこに何か混ざっています。
グラフの縦軸の始まりを確認してください。0から始まっていないグラフは、小さな差が大きく見えます。自分が作るときも気をつけるところです。
都合のいい期間で切らないでください。良かった週だけを切り出せば、どんな施策でも成功に見えます。
今回のまとめ
- 日数・金額・時間は偏るので、平均より中央値が実態に近いことが多い
- 🔑 分けて見ると勝ち負けが逆転することがある。比べる2つで構成が違うとき
- 期間は曜日・季節・分母の3つを確認してから比べる
- 相関は因果ではない。無理に動かしても結果が動かないなら、それは原因ではない
- 「増えた」と言う前に、いつもの振れ幅を知っておく
- AIには集計と分け方の候補を。因果の判断はさせず、自分から疑いを聞く
次にやること
第5部の最後は「効果がありました」と言っていい条件です。今回の「振れ幅」の話を、もう少しはっきりした基準にします。
今回の宿題:自社の「問い合わせから契約までの日数」を、平均と中央値の両方で出してみてください。差が大きければ、そこに何か混ざっています。
嫁子: 今日の2節ね、あれを知ってるかどうかで報告の質が変わると思う。
数字が正しくても、まとめ方で結論が変わるでしょ。嘘をついてないのに間違うって、一番やっかいだよ。