Suguru | データサイエンティスト

データ分析・データ活用の専門家。英国王室公認統計家。東工大 (副総代)→ LSE (MSc Data Science)。ビッグデータラボ代表理事。ポストはあくまで一観点でのお気持ち表明で、客観的な妥当性を主張しません。

[Yuzo Maruyama @umaruyama]

preface（スキャン画像を閲覧可能）には，因果推論を重視すると書かれていますね。
「因果推論の基礎を説明せずに学生に回帰分析を学ばせるのは良くない。この点で，計量経済学者や疫学者は統計学者より優れている。なぜなら，彼らの入門書は，因果について丁寧に説明しているから。」

[Suguru | データサイエンティスト @st_data_science]

業種って2パターンあって、「タイミングを売る人」と「成果を作る人」がいる。営業や管理職なんかは前者寄りで、士業やエンジニアなどは後者寄り。

後者は一定時間集中して開発や分析を提供しているから、電話などで遮られるのはとても苦手。前者は逆に、突発的な要求にいち早く対応する必要があり、そこに提供価値がある。

この2つの性質は本質的に両立しにくい。

どちらもできる人はいるけど、同時に実行するのはストレスが溜まるし効率も悪い。自分が今どの立場にいるか、どちらの性質の仕事に従事しているか考えると、そこに良い分業のヒントがあるように思う。

[Suguru | データサイエンティスト @st_data_science]

ダッシュボードより目指すべきは、レコメンドシステム。データ可視化なんて言えば聞こえはいいけど、数が多ければただ認知負荷を与えるだけ。現状をただ見せて終わりでなく、データを踏まえて利用者により良い意思決定を提示できるのが理想。レコメンドの土俵は、実はECサイトや動画配信だけじゃない。

[Suguru | データサイエンティスト @st_data_science]

実務者だからと、AI・機械学習の理論はスルーする人は一定数いるけど、少しでも領域を齧っていればあり得ないミスをし得る。そして導入したモデルが運悪く(?)実運用まで乗った際には、「このモデルは間違ってました」はもう通らない。AI従事者のミスで企業が大きな損失を被るケースは、たまに聞く。

[Suguru | データサイエンティスト @st_data_science]

『テーブルに状態を持たせてはいけない』
「え！？」ってなったのですが、確かに読んでみると身に覚えがありすぎます。データ設計というと正規化が議論の中心になるけど、こういう観点もあるんですね。

>「会員が退会した」という出来事は事実だが、「現在この会員は退会済みである」という状態は、その事実から導き出された情報にすぎない

> 状態を持たせる設計は、状態をUPDATEしてしまうと、それまでの事実が失われる。いつ退会したのか、過去に一度停止されてから復帰したのか、といった経緯は消えてしまう。

[farstep @farstep_]

https://t.co/fLIm4rlzco

[Suguru | データサイエンティスト @st_data_science]

統計検定が現場で役立つかというと、役立つ時は必ずあると思う。確かに実務データ分析の8割型は、基本統計量の集計で終わる (但しそれまでの道のりも決して簡単じゃない)。ただ、関連分野の学術論文に触れるシーンも必ず出てくるのがこの領域で、その時「分からない」となるのは専門家として苦しい。

[Suguru | データサイエンティスト @st_data_science]

DS・AI系の求人は、書いている方が現場の責任者であれ人事であれ、採用当事者の経験が浅い場合が少なからずある。例えば「要件がピンポイント過ぎる」か、逆に「要求言語が多過ぎる」もの。だから求人表を参考にし過ぎると逆に混乱し得る。

[Suguru | データサイエンティスト @st_data_science]

失敗談はあまり語られない。データサイエンス・AI系のプロジェクトで成果を出すのは、色々な不確定要素があり、社内・受託関わらず難易度は高い。
この業界は頭も良いし、努力家で人望もある人だらけだけど、それでもDXの成功率はかなり低いのが実態と思う。
DSはなるのも大変だけど、なった後も大変

[Suguru | データサイエンティスト @st_data_science]

データサイエンティストは最初1-2年くらい、「噂に聞くあのモデルやこのモデルを実務で試したい」という強烈な欲求があるので、ルールベースでいいと言っても受け入れ難い。実際、転職の要件では「高度な機械学習モデルを構築した経験」とか書いてあるので仕方ないのだが...。

[Suguru | データサイエンティスト @st_data_science]

回帰分析での理解の谷って、概念が段々と抽象化されていくことだと思いましたね。最初は高校数学のような立式とOLSで始まるのに、段々と推定量を陽に表せないのが普通になったり、モデルの関数系が省略されたまま話が進む。ただお陰で概念が深層学習にまで繋がっていくので、抽象化は強力。

[Sesh｜広告×データ×AI @Ssm_wat_89]

これは本当にそうだと思います。
最初に解くべきビジネス課題などがあって、その手段としてDSがある。
DS側もこのことを意識するだけで、要望の背景を理解したアウトプットが出せるようになる

[Suguru | データサイエンティスト @st_data_science]

データサイエンティスト、毎年定義が変わるのはそもそも「サイエンティスト」としてどうなんだろうか。

そして毎年変わる定義は、果たして定義といえるのだろうか。

[Suguru | データサイエンティスト @st_data_science]

今はデータサイエンティストというより、「サブスキルとしてデータサイエンスをかじる」という選択が注目されて良いと思う。

専業DSだと肝心のドメイン知識が足りなくなりやすいし、専門家ゆえに逆に活躍範囲が狭まる側面もある。

データサイエンスは結局のところ手段に過ぎない。

[Suguru | データサイエンティスト @st_data_science]

@badchaity ぜひ、もう少し詳しく教えてください！

[さとり @satori_sz9]

これ今軽く試したけど革命。
X APIが実質タダになった。

[Suguru | データサイエンティスト @st_data_science]

これ読んで逆に「そこまで多くの部署や業務を巻き込めてすごい！」と思うのは自分だけだろうか。
多くのAI・データ推進部が価値提供に難航し、正の費用対効果が得られず、組織再編や吸収合併されているのを目の当たりにしてきた中、これだけ多くの責任を社内で背負えたのはむしろ成功談に聞こえる。

[muro / Analytics Engineer @muro_analytics]

失敗談。
データ組織の "便利屋化" が進み、事業側とデータ組織と開発組織の役割分担が不明瞭のまま色んなことに着手し続けると責任と成果が非対称的になり、こういう感じになったことがあります。

データが遅い → データ組織の責任
数字が違う → データ組織の責任
AIが間違える → データ組織の責任
アプリイベントの仕込み → データ組織の責任
KPI/NSM設計 → データ組織の責任
施策が失敗する → データ組織の責任
施策が成功する → 事業部の成果

これを阻止するのがデータ組織の管理職のお仕事。阻止しないとメンバーが死ぬほど疲弊します。最初は全くこんなことになるとは思っておらず、困っている組織や事業を助けたい一心で風呂敷を広げまくっていましたが、気がついたら文句は言われるけど感謝されない組織になっていました。めっちゃつらかったけど自業自得、メンバーには本当に申し訳ないことをしました。

この失敗に気付いてからは、必ずRASICやIPO図で責務範囲や業務フローを合意するようにしました。

[Suguru | データサイエンティスト @st_data_science]

これは実データ解析の視点のクイズです。

信頼区間はよく、「標本抽出と区間計算を100回繰り返した場合、そのうちの95回はその区間内に真の値が含まれる」などと、あたかも

『真のデータ構造について、何か厳密なことが言える』かのような説明がされています。

実際には真の分布Qと解析者の設定したモデルPの間には普通、差異が生じます。この真の分布Qをうまく表現するモデルPを、解析者はデータの特性(線形性や独立性など)から質的に判断し設計します。

そのため、信頼区間C(X)は解析者が自ら仮定した統計モデルPに対しては確率的な記述ができるものの、真の分布及びその母数について保証できるわけではないのです。(答え: C)

[Suguru | データサイエンティスト @st_data_science]

統計クイズ② 真の分布を Qとし、その期待値をμとする。
解析者はμを推定するため、期待値を θ とする確率分布Pを仮定し、 θ に対する95%信頼区間 C(X) を構成した。
このとき、正しい記述はどれか。

A. C(X) は、μに対する95%信頼区間である。
B. 標本サイズが十分大きければ、C(X) は μに対する95%信頼区間になる。
C. C(X) がμに対する95%信頼区間として妥当とは限らない。
D. μの信頼区間は定義できない。

[Suguru | データサイエンティスト @st_data_science]

@muro_analytics ありがとうございます！

[Suguru | データサイエンティスト @st_data_science]

統計クイズ1は、理論的な信頼区間と、信頼区間の実現値を混同しないための問題です。

例えば真の分布をP(X)〜N(μ,1)とすると、標本平均は正規分布に従い、μの信頼区間は[標本平均 ± 1.96×標準誤差]で表せます。これが理論的な信頼区間であり「95%の確率でこの区間はμを含む」と言えるわけです。

しかし、ここに実際にサンプルx1やx2を代入した時点で、信頼区間は一つの固定された実現値になります。

こうなると、C(x1​) が μを含むかどうかは、真なら1、偽なら0という決定論的な議論になります。

つまりA,B,Dは全て誤りになるのです。

[Suguru | データサイエンティスト @st_data_science]

統計検定が流行っているので、いくつかクイズを作ってみました。

統計クイズ① 同じ95%信頼区間手続きから、あるデータでは狭い区間 C(x1)、別データでは広い区間 C(x2)が得られた。最も適切な説明はどれか。

A. C(x1) の方が、母数を含む確率は低い。
B. C(x2) の方が、母数を含む確率は高い。
C. どちらの個別区間についても、「母数を含む確率」を95%とは言えない。
D. どちらも観測後に95%の確率で母数を含む。