【第22回】平均値に騙されないための見方|データの読み方(嫁子が教えるマーケ講座)

今回のゴール

第20回と第21回で「平均で見ると分からない」と2回書きました。今回はその話を正面から扱います。全体の流れは講座の目次へ。


嫁子: 第2回の最後に私が言ったこと、覚えてるかな。

「それ、何で割った数字?」って聞けるようになろうって話だったでしょ。今日はその続きだよ。


1. 平均が中身を隠す

うちで「問い合わせから契約までの平均日数」を出したら、15日でした。

営業部に見せたら、「そんなにかかってない」と言われました。調べ直すと、実際はこうなっていました。

契約までの日数 件数
1〜3日 6件
4〜7日 3件
8日〜3か月 0件
124日(約4か月) 1件

10件のうち9件は1週間以内に決まっていて、1件だけが4か月後でした。この1件が平均を引き上げていたわけです。

真ん中の値(中央値)を見ると3日です。営業部の感覚のほうが正しかったことになります。

見方 数字 何を表すか
平均値 15日 全部を足して割った値。極端な値に引っ張られる
中央値 3日 順番に並べて真ん中の値。極端な値の影響を受けにくい

片方が極端に大きい・小さいデータでは、平均より中央値のほうが実態に近くなります。

日数、金額、滞在時間。このあたりはほぼ必ず偏っているので、平均だけ見ると外します。


2. 分けて見ると、逆転することがある

ここが今回いちばん驚くところです。

広告AとBを比べたところ、全体のCVRはこうなりました。

広告 クリック 問い合わせ CVR
A 1,000 46件 4.6%
B 1,000 24件 2.4%

Aの勝ちに見えます。ところが、スマホとPCに分けると、こうなっていました。

広告 端末 クリック 問い合わせ CVR
A スマホ 100 1件 1%
A PC 900 45件 5%
B スマホ 900 18件 2%
B PC 100 6件 6%

スマホでもPCでも、Bのほうが高いのです。それなのに全体ではAが勝っています。

理由は配信先の構成です。AはPCに多く出ていて、PCはもともとCVRが高い。Bはスマホに多く出ているので、全体の数字が引き下げられていました。

つまりAが良かったのではなく、Aが出ていた場所が良かっただけです。

この状態で「Aに寄せよう」と判断すると、本当は良いBを止めることになります。

全体の平均が逆転するのは、比べている2つで中身の構成が違うときです。広告、時期、地域、端末。構成が違う可能性があるものは、必ず分けて見てください。

嫁子: これ、けっこう怖いね。数字は間違ってないのに、結論が逆になるんでしょ。

分けなかったせいで正しい判断ができないの。分け方を知らないと気づけないから、たちが悪いよ。


3. 期間の切り方で変わる

もう1つ、日常的に起きるものです。

「先週より問い合わせが30%増えました」という報告があったとします。ここで確認することが3つあります。

ひとつは曜日が揃っているかです。うちの問い合わせは日曜と月曜に多く、金曜が少ないという傾向がありました。7日で区切らないと、曜日の構成が変わります。

次に季節の影響で、年末は大掃除で増えます。前年の同じ時期と比べないと、施策の効果か季節かが分かりません。

そして分母。広告費が1.3倍なら、問い合わせが30%増えるのは当たり前です。見るべきはCPAです。

この3つを確認せずに報告すると、次の月に下がったときに説明できなくなります。


4. 相関と因果は違う

うちのアクセス解析で、こういう傾向が見つかりました。

サイトの滞在時間が長い人ほど、問い合わせる割合が高い

ここから「滞在時間を伸ばせば問い合わせが増える」と考えたくなります。動画を置いたり、記事を長くしたり。

これが間違いで、順番が逆になっています。

問い合わせようと思った人は、料金を確認し、対応範囲を読み、口コミを見ます。だから結果として滞在時間が長くなっています。滞在時間が問い合わせを生んだのではありません。

もし「滞在時間を伸ばす」ことを目標にすると、探しているものが見つかりにくいサイトを作ってしまいます。滞在時間は伸びますが、問い合わせは減ります。

見分け方は1つです。その数字を無理やり動かしたとき、結果も動くと言えるかを考えてください。言えなければ、それは原因ではなく、ただ一緒に動いているだけです。


5. 「増えた」と言っていい基準

第16回で「件数が貯まるまで判断しない」と書きました。ここでも同じです。

問い合わせが40件から44件に増えたとして、これは10%の改善でしょうか。たまたま4件多かっただけかもしれません。

厳密な判定は次回(第23回)で扱いますが、実務で使える目安を1つ書いておきます。

その数字が、先月・先々月の振れ幅の中に収まっているなら、まだ何も言えません。

過去6か月の問い合わせが 38・42・37・44・39・41 だったなら、44は普通の振れ幅の中です。ここで「増えた」と報告すると、翌月38に戻ったときに「減った」と報告することになります。

動いたかどうかを言う前に、いつもどれくらい振れているかを知っておいてください。


6. AIに任せるとき

集計と、切り分けの提案には使えます。

特に実用的なのが、分け方の候補を出させることです。「このデータ、どう分けて見ると違いが出そうか」と聞くと、端末・時間帯・地域・新規と既存、といった軸が返ってきます。2節の失敗を防げます。

任せてはいけないのは因果の判断です。「滞在時間と問い合わせに相関があります。原因ですか」と聞くと、それらしい説明を作ってくれます。作れてしまうのが問題で、実際にどちらが先かは、データを見ても分かりません。

使える頼み方はこうです。

  1. データを渡して、平均と中央値の両方を出させる
  2. 分けて見る軸の候補を出させる
  3. 「これは相関であって因果ではない可能性は」と自分から聞く

3番目を聞くと、たいてい素直に「別の要因が考えられます」と返ってきます。聞かなければ言ってくれないので、こちらから聞く癖をつけてください。


つまずきポイント

平均と中央値が大きく違ったら、分布を見てください。 そこに何か混ざっています。

グラフの縦軸の始まりを確認してください。0から始まっていないグラフは、小さな差が大きく見えます。自分が作るときも気をつけるところです。

都合のいい期間で切らないでください。良かった週だけを切り出せば、どんな施策でも成功に見えます。


今回のまとめ


次にやること

第5部の最後は「効果がありました」と言っていい条件です。今回の「振れ幅」の話を、もう少しはっきりした基準にします。

今回の宿題:自社の「問い合わせから契約までの日数」を、平均と中央値の両方で出してみてください。差が大きければ、そこに何か混ざっています。

嫁子: 今日の2節ね、あれを知ってるかどうかで報告の質が変わると思う。

数字が正しくても、まとめ方で結論が変わるでしょ。嘘をついてないのに間違うって、一番やっかいだよ。