論文:データ解析」カテゴリーアーカイブ

読了: 矢野 et al.(2024) 日本語の文埋め込みモデルを文書検索・RAGの文脈で比べる

矢野千紘, 塚越駿, 笹野遼平, 武田浩一 (2024) 日本語文埋め込みの文書検索性能と検索補助付き生成での評価. 言語処理学会発表論文集, 2024/03.

 理解できたかどうかは別にして、読んだものはなんでも記録しておこうということで…
 文書検索における文埋め込み手法の性能を比較したという発表。文埋め込みを使った密ベクトル検索、およびRAGに注目する。意外にも、日本語での評価は「ほとんど行われていない」由。えええ、そういうもんなんですか?
続きを読む

読了:Salmon, Schumacher, Hohle (2016) Rパッケージsurveillanceで君も感染症のアウトブレイクを監視しよう

Salmon, M., Schumacher, D., Hohle, M. (2016) Monitoring Count Time Series in R: Aberration Detection in Public Health Surveillance. Journal of Statistical Software. 70(10).

 カウント時系列監視のためのRパッケージsurveillanceの解説。実戦投入しようかな? と思ってめくってみた。サーベイランスと言っても広うございますが、これは疫学の文脈での、アウトブレイク検出を意図したパッケージである。
 個人的な好みの問題だと思うけど、品質管理系の論文より10倍くらいわかりやすいような気がする…
続きを読む

読了: Borror, Shamp, Rigdon (1998) カウント時系列監視のためのポアソンEWMA管理図

Borror, C.M., Shamp, C.W., Rigdon, S. (1998) Poisson EWMA Control Charts. Journal of Quality Technology, 30(4), 352-361.

 カウント時系列の監視手法のひとつ、ポアソンEWMA管理図について知りたくて読んだ。初学者向けの解説論文である。ありがてえ、ありがてえ。
続きを読む

読了: Shen, Tsui, Woodall, Zou (2015) カウント時系列のEWMA管理図の管理限界をブートストラップ法で決める

Shen, X., Tsui, K., Woodall, W., Zou, C. (2015) Self-starting monitoring scheme for Poisson count data with varying population sizes. Technometrics, 58(4), 460-471.

 仕事の都合で読み漁った、カウント時系列の監視の論文のひとつ。残念ながら提案手法が理解できず、途中で読むのをやめてしまった奴である。いちおう記録しておくが、うーん、残念。
 時系列監視の分野では、平常時のパラメータが未知なのに監視を始めないといけないという問題を自動スタートself-startingというらしい。機械学習とかでいうところのcold startと似た意味だと思う。
続きを読む

読了: Lucas (1985) カウント時系列のCUSUM法による監視

Lucas, J. (1985) Count Data CUSUM’s. Technometrics, 27(2), 129-144.

 時系列監視手法のうち、件数データに対するCUSUM法の解説。難しい話はなし、実務家向けな啓蒙論文である。
 なぜ私が生まれる前の論文を読まなければならないのかと思うが(すいません嘘です、超生まれてましたね、ヒゲ剃ったりしてましたね)、温故知新っていうことで…
続きを読む

読了: Praus, Schindel, Fescharek, Schwarz (1993) 処方薬発売後の副作用サーベイランスによる警告システム

Praus, M., Schindel, F., Fescharek, R., Schwarz, S. (1993) Alert systems for post-marketing surveillance of adverse drug reactions. Statistics in Medicine, 12, 2383-2393.

 医学分野での時系列監視についての解説論文。処方薬の副作用件数の監視の話である。これこれ、こういうのが読みたかったのよ…
続きを読む

読了: Bourazas, Kiagias, & Tsiamyrtzis (2002) ベイジアンな管理図

 仕事の都合で時系列のオンライン監視のことを考えているんだけど、データ生成過程とかはもうどうでもよくて、なんかこう、折れ線が点線を超えたらブザーが鳴るというか… なんていうんですかそういうの… 管理図… そう、管理図みたいなものがあればいいんじゃないかと… そう思えてきました… (ずいぶん弱気になってきた)

Bourazas, K., Kiagias, D., Tsiamyrtzis, P. (2002) Predictive Control Charts (PCC): A Bayesian approach in online monitoring of short runs. Journal of Quality Technology, 54(4), 367-391.

 というわけで、なんだかそれっぽいのをみつけたのでめくってみた次第である。google様的には被引用件数12件だが、CRANのbayespmパッケージの元論文だというのが読みどころである。
続きを読む

読了:Sonesson & Bock (2003) 公衆衛生における時系列監視

Sonesson, C., Bock, D. (2003) A review and discussion of prospective statistical surveillance in public health. Journal of Royal Statitical Society, A. 166, 5-21.

 公衆衛生分野での時系列監視のレビュー。やれやれ、なぜこんな面白くもない話を勉強しているのか… (すいません、頭の悪い奴のひがみです)
 とはいえ、品質管理の話よりはとっつきやすい。あとファイナンスね! いったいなんなのあれ。疫学や品質管理の専門家は人類にとって必要だけど、ファイナンスの専門家なんて全員拉致して離島に閉じ込めてしまえば世界はかえって平和になるのではないだろうか。(ごめんなさい、貧乏人のそねみです)
続きを読む

読了:Frisen (2009) 時系列の監視

Frisen, M. (2009) Optimal Sequential Surveillance for Finance, Public Health, and Other Area. Sequential Analysis, 28, 310-337.

 仕事の都合で読んだやつ。時系列監視についての解説論文。
 著者のFrisenさんはこの分野の有名な人だと思う(前に仕事で翻訳をやったことがある)。google様いわく、本論文の被引用件数は82。招待論文という位置付けで、10人のコメントと返答がついている。っていうか、Sequential Analysisなんていうジャーナルがあるのね。掲載論文を読むのははじめてだと思う。

 時系列の監視の話って、いろんな分野に専門家がいて全然違う用語を使うのでどうもとっつきにくく、あまり関わりたくない話題のひとつである。とはいえ、それをいうならそもそも万物に関わり合いを持ちたくないし(枕と布団を除く)、仕事とあらば好き嫌いはいってられない。がんばりましょう、と気合をいれて…
続きを読む

読了:Datta & Polson (2022) 標本調査におけるIPW推定量からモンテカルロ法におけるIPW推定量へ

Datta, J., Polson, N. (2022) Inverse Probability Weighting: from Survey Sampling to Evidence Estimation. arXiv:2204.14121v2.

 IPW推定量についての解説だというので、勢い込んでめくってみたんだけど、調査データ分析とか因果推論とかじゃなくて、シミュレーションの話で出てくる、重点サンプリングっていうの? ああいう角度からの話であった。わたくし、そういう難しい話ってよくわかんないので、なけなしの関心がかろうじて維持できた部分についてのみメモする。
続きを読む

読了:Gambino (2009) 「デザイン効果」利用者諸君への注意事項

Gambino, J. G. (2009) Design Effect Caveats. The Americal Statistician, 63(2), 141-146.

 調査データ解析に関してときどき出てくる話題である「デザイン効果」についての資料を探していたら、2009年のAmerican Statisticianに解説が載っているのを見つけた。ありがたや。考えてみれば2009年は最近とはいえないが、話題自体がわりかし古いので、この話題の解説としては新しめであるといえよう。
続きを読む

読了: Kish(1995) デザイン効果とはなにか

Kish, L.(1995) Methods for Design Effects. Journal of Official Statistics, 11, 55-77.

 調査データ解析のレジェンド、Kish大先生によるデザイン効果の解説。デザイン効果ってのはあれですね、推定量の分散が標本デザインのせいでどれだけ拡大したかってやつですね。調査に関わる多くの人にとってさえ、わりかしどうでもいい話かもしれないが、マーケティング・リサーチにおいては結構深刻な話題である。その深刻さに気付いているかどうかは別にして。
続きを読む

読了: Williams, et al.(1998) ポアソン抽出デザインにおける母合計推定量を比較する

Williams, M.S., Schreuder, H.T., Terrazas, G.H. (1988) Poisson Sampling: The Adjusted and Unadjusted Estimator Revisited. Research Note, RMRS-RN-4. U.S. Department of Agriculture, Forest Service, Rocky Mountain Research Station.

別に読む必要は全然、全くないんだけど、標本抽出についての資料を作っていて悩んでいるときにぱらぱらめくったもの。ポアソン抽出での母合計推定量を比べるという話。なんであれ、めくったものはとりあえず記録しておこう、ということで…
続きを読む

読了: Godambe & Thompson (1986) 推定関数の理論から見た母集団特性の推定 (難しい話をより難しく)

Godambe, V.P, & Thompson, M.E. (1986) Parameters of Superpopulation and Survey Population: Their Relationships and Estimation. International Statistical Review, 53(2), 127-138.

 調査データの分析について調べていると、母平均のHajek推定量 (標本の個々の値をその個体の標本包含確率の逆数で重みづけて平均した量)は母平均のデザイン不偏推定量ではないけれど、実はある種のモデルのもとでモデル不偏推定量なのだ… という話がでてきて、そこでこの論文がよく引用されている。
 第一著者のGodambeさんという人は推定方程式アプローチの理論で有名な人らしい。第二著者はHorvitz-Thompson推定量のThompsonとは別人の模様。
続きを読む

読了: 柳本(1995) 推定方程式に基づく推定

 読んだものはなんでも記録しておこう、ということで…

柳本武美(1995) 推定方程式に基づく推定: 最尤法とモーメント法から. 応用統計学, 24(1), 1-12.

 別の論文に挑戦しようとして(メモしておくとGodambe & Thompson(1986)、有限母集団特性のモデルベース推定の話)、到底歯が立たず、せめてもの手がかりにならないかと思ってめくった。
 正直、これも難しくてよくわからんかった… 悲しい…
続きを読む

読了: Dorfman & Valliant (1997) Hajek推定量再訪

Dorfman, A.H., Valliant, R. (1997) The Hajek Estimator Revisited. Proceedings of the Section on Survey Methods Research, American Statistical Association.

 標本ウェイティングについて調べ物をしていると、googleの検索結果にはいつもこれが上位に挙がってくる。内容は難しそうだし、そもそも論文ではないし、毎回「これはちがうだろう」と避けていたのだが、あまりによく見かけるので、これもなにかの勉強だろうと思い、メモをとりながら読んでみた。正直、かなり早い段階で後悔しはじめたのだが…
続きを読む

読了: Delovoye & Savje (2020) Horvitz-Thompson推定量の一致性

 標本抽出について調べていると、値を抽出確率の逆数で重みづけて合計して母集団サイズで割ると(Horvitz-Thompson推定量)、それは母平均の不偏推定値だよ、いっぽう母集団サイズじゃなくて重みの和で割ると(Hajek統計量)、それは不偏じゃない、でも一致推定量だよ、なんていう話が出てくる。で、不偏性の証明は出てくるけど、一致性の証明は出てこない。おまえらユーザには理解できんだろうから省略するよ、というニュアンスがひしひしと伝わってくる。なんだかイライラする。いま文化大革命とか起きたら、私は紅衛兵となってキャンパスに突入し統計家を群衆のもとに引き出して自己批判を迫るかもしれない。(すいません冗談です)
 まあご配慮は正しいんだけどさ。推定量の漸近的挙動なんて途方に暮れるじゃないですか。聞かされても絶対理解できるわけないじゃないですか。でもちょっと覗き見したいんですよね。背伸びして大人の世界に触れてみたい、というか。(いいおっさんが… 我ながらキモイ)

Delovoye, A., Savje, F. (2020) Consistency of the Horvitz-Thompson estimator under general sampling and experimental design. Journal of Statistical Planning and Inference, 207, 190-197.

 そんなこんなで、本文が短いので読んでみた。HT推定量の一致性の一般的条件を示すのだそうです。Google様いわく、被引用件数11件。
 さあ、怖いものみたさでゴー!
続きを読む

読了: Tille & Wilhelm (2017) 標本抽出デザインの良し悪しを決める三つの原理

Tille, Y., Wilhelm, M. (2017) Probability Sampling Designs: Princeples for Choice of Design and Balancing. Statistical Science, 32(2), 176-189

 Statistical Science誌の2017年の調査特集号に掲載された論文を全部読んじゃおうプロジェクト、その第4弾。この論文は標本抽出デザインの選択という話で、いまの私の関心からちょっと外れているので、メモは粗めである。
続きを読む

読了: Skinner & Wakefield (2017) 標本抽出デザインと調査データ分析:イントロダクション

 仕事の都合で、調査データのウェイティングという複雑怪奇な問題について考える羽目になることがあるのだけれど、なにか役にたつ資料はないものかと探していると、Statistical Scienceの2017年の調査特集号に突き当たることが多い。去年目を通した Elliot & Valliant(2017)、先日読んだBreidt & Opsomer(2017)もこの号に掲載された論文だった。
 四の五の言わず、この号に載った9本の論文(残り7本)に片っ端から目を通しちゃえばいいのではないか、と思って、とりあえず(おそらくは編者によるのであろう)イントロをパラパラめくり始めたら、これが意外に面白く、かつ難しく… 結局、最初からメモを取りながら読み直すことになった。

Skinner, C., Wakefield, J. (2017) Introduction to the Design and Analysis of Complex Survey Data. Statistical Science, 32(2), 165-175.
続きを読む