一言で!
目的変数とは、データ分析をやるときの急所であり、相性抜群タイプ。
他には?
たった一つの真実となるパラメータ。
それ自体は、表の中のただ1列でしかない。ただし、この1列をどう扱うかで、集めるデータもモデルも全部決まる。
目的変数とは?
データの中にある、分析の鍵となる項目。
統計では応答変数や従属変数、機械学習ではラベル、式の中ではyと書かれる。
なぜ急所かというと、ここを外すと、どんなに努力しても分析の精度が上がらないのだ。
岩プラス地面タイプに水タイプを当てる。そして急所に当たって8倍ダメージ!!
「みずでっぽう」から「なみのり」に変えても、相性が合っていなければ半分しか通らない。分析でも同じで、モデルを取り替えて上がる精度より、当てる先を置き直して変わる結果のほうが大きい。
目的変数を決めると、作業の中身が決まる。正しいサイクルを繰り返すことで、いい目的変数が得られる。
- 当てたい項目(目的変数)を決める
- 残りの項目(説明変数)から、その値を予測させる
- 本当の答えとのズレ(エントロピー)を測る
- ズレが縮むように中身を調整する
当てる先が決まらないと、この輪は一周も回らない。何を当てるかが先で、データ集めもモデル選びも後から付いてくる。
当て方には2種類ある。
- 数値を当てる。明日の気温、来月の売上。これを回帰と呼ぶ
- カテゴリや項目を当てる。迷惑メールかどうか、どの品種か。これを分類と呼ぶ
この二つの区別は、実際に使う道具の説明書にもそのまま出てくる(scikit-learnの教師あり学習の項)。
そして、種類より効くのが置き場所だ。
システム開発の不具合を分析したときの例。同じデータ、同じやり方で、目的変数の置き方だけを変えた結果がこれになる。情報利得は、その項目を知ることで減る不確かさの量のこと。
目的変数の置き方 | 情報利得 | 分析の結果 |
|---|---|---|
実装起因・仕様起因・非欠陥の3区分 | 5%ほど | 粒度が粗すぎて、単体テストの設計を直すのに使えるものが何も出てこない |
単体で捕捉できる・結合や目視でしか捕捉できない・対象外・要確認の4分類 | 実用になる水準 | 単体テストで防げたはずの不具合を拾えるようになった |
悪かったのはモデルではなく、目的変数の置き場所だった。
データ分析において、モデルを取り替えるより、目的変数を置き直すほうが結果は変わるということだ。
ちなみに、AIは目的変数探しや、分析と相性が非常にいい。情報流出に気をつけながら、データを見せて、やってもらおう。
まとめ・私見
人間でもAIでも最初は、強さや技に寄りがち。でも現場で効くのは「効果と急所」のほう。
分析の際に、先に目的変数のことを知ってるだけで、大分動きが変わるよ。
豆知識
- 説明変数: 目的変数を当てるための手がかりの項目。特徴量とも呼ぶ(英語ではexplanatory variableやfeature)。手がかりはいくつあってもよいが、当てられる側の目的変数は1回の予測につき一つだけ。
- 回帰: 数値を当てる形式。語源はゴルトンの「平均へ戻る」観察で、いまは手法の名前として使われている。
- 分類: カテゴリや項目を当てる形式。答えの選択肢があらかじめ決まっている。
- ラベル: 機械学習で目的変数の実際の値を指す呼び名。人手で付けることが多い。
- 代理指標: 本当に知りたいものが測れないときに代わりに置く測れるもの。プロキシとも呼ぶ。
- 情報利得: ある項目を知ることで、どれだけ不確かさが減るかの量。目的変数の置き方が適切かを測る目安になる。
歴史
1880年代、フランシス・ゴルトンは遺伝を数字で語る方法を探していた。そこで先に決めたのが、当てたい量のほうだった。子の身長を当てる対象に据え、親の身長との関係を測る。背の高い親の子は親ほど高くならず、平均へ寄って戻る。この観察に付けられた名前が回帰であり、いま回帰と呼ばれている手法の語源になった(Regression towards Mediocrity in Hereditary Stature、1886年)。
次の壁は、当てさせたい答えが手元にないことだった。写真に何が写っているかを機械に当てさせようにも、正解が1枚も用意されていない。2009年に公開されたImageNetは、320万枚の画像に人手で正解を付け、最終的に5000万枚を目標に掲げた。正解を大量に用意すること自体が、研究の前提から仕事へ変わった(ImageNet: A Large-Scale Hierarchical Image Database)。
年表
| 年代・年 | 主な出来事 | 主な人物・組織 | 主な国・地域 | 特徴 |
|---|---|---|---|---|
| 1805年 | ルジャンドルが最小二乗法を発表し、当てたい量とのズレを最小にするという考え方が形になる | アドリアン=マリ・ルジャンドル | フランス | 彗星の軌道計算のための付録として示された。当てたい量を決め、予測とのズレの合計が最小になるように調整する——いまの学習の輪の原型。[Nouvelles méthodes pour la détermination des orbites des comètes(1805年、archive.org)](https://archive.org/details/bub_gb_FRcOAAAAQAAJ) |
| 1886年 | ゴルトンが子の身長を当てる対象に据え、回帰という言葉が生まれる | フランシス・ゴルトン | イギリス | 先に当てたい量を決めてから関係を測る、という順番がここで形になった。[Regression towards Mediocrity in Hereditary Stature](https://galton.org/essays/1880-1889/galton-1886-jaigi-regression-stature.pdf) |
| 2009年 | ImageNetが320万枚の画像に人手で正解を付けて公開する | Jia Dengら(プリンストン大学) | アメリカ | 正解を大量に用意する作業そのものが仕事になった。最終目標は5000万枚と書かれている。[ImageNet: A Large-Scale Hierarchical Image Database](https://www.image-net.org/static_files/papers/imagenet_cvpr09.pdf) |
| 2016年 | AIの事故要因として「目的の決め方の誤り」が研究課題に整理される | Dario Amodeiら | アメリカ | 測りやすい代わりの目的を与えると、AIがその抜け道を正確に突いてしまう(報酬ハッキング)。目的の決め方そのものが事故要因だと名指しされた回。[Concrete Problems in AI Safety(arXiv)](https://arxiv.org/abs/1606.06565) |