ベイジアンニューラルネットワークの事前分布に分析者のドメイン知識を反映させる
ベイジアンモデリングを使用することのメリットの一つとして、分析者の知見をモデルに反映させやすいという点があります。例えば、 $$ y = \alpha + \beta X +\varepsilon$$ という単回帰を考え … 続きを読む
ベイズ統計
確率的ボラティリティモデルをstanで実装してみる
本記事は、R言語 Advent Calendar 2023および確率的プログラミング言語 Advent Calendar 2023の21日目の記事です。どちらもアドベントカレンダーも空きがありましたので投稿させていただき … 続きを読む
“自由度0のt分布”をNumpyroで実装してみる
本記事は、『確率的プログラミング言語 Advent Calendar 2023』の15日目の記事になります。(アドベントカレンダーを主催していただいた松浦さんに感謝です!!) 今回は、論文『Log-Regularly V … 続きを読む
pymc-experimentalで状態空間モデルを実装してみる
Python用のライブラリであり、確率的プログラミング言語(PPL)のひとつでもあるPyMCには、実験的な機能や十分にテストしきれていない機能を提供するpymc-experimentalという派生ライブラリが存在します。 … 続きを読む
Numpyroで状態空間モデル(ローカル線形トレンド+周期性モデル)を実装してみる
PPLでの状態空間モデルの実装 状態空間モデルをMCMCで実行する機会がちょいちょいあるのですが、そんな時は使い慣れたrstan、もしくはcmdstanrをずっと使用してきました。(たまにGoogleの開発したRのライブ … 続きを読む
状態空間モデルの推論アルゴリズム(カルマンフィルタ・平滑化)
時系列データのモデリングとして代表的なものに、状態空間モデルがあります。状態空間モデルの特徴として、 が挙げられます。 今回は、状態空間モデルの中でも一番オーソドックスな線形ガウス状態空間モデルと、その推論に使われるアル … 続きを読む
多変量正規分布の条件つき分布③ ~観測値が得られたときの潜在変数の事後分布~
前回のまとめ 前回は、変数$\boldsymbol{x}=(\boldsymbol{x_1}, \boldsymbol{x_2})$が多変量正規分布$MVN(\boldsymbol{\mu},\mathbf{\Sigma … 続きを読む
多変量正規分布の条件つき分布② ~条件つき分布の平均・分散~
ベイズ統計で頻出する多変量正規分布の条件つき分布の導出について、複数回に分けて投稿していきます。 前回は、導出の際に使用するブロック行列の逆行列・行列式についてまとめました。 今回は、多変量正規分布の密度関数を変形し、条 … 続きを読む
多変量正規分布の条件つき分布① ~ブロック行列の逆行列と行列式~
ベイズ統計学を勉強していると、多変量正規分布の条件つき分布の使用は避けては通れません。 つまり、$\boldsymbol{x}=(\boldsymbol{x_1}, \boldsymbol{x_2})$が多変量正規分布$ … 続きを読む
Pyroで非負値行列分解を実装してみる
前回の記事(『Numpyroで主成分分析を実装してみる』)では、確率的プログラミング言語(PPL)の一種であるNumpyroを使って、MCMCによる確率的主成分分析(PPCA)の実装方法を紹介しました。
今回は、PPCAと同じ次元削減の手法のひとつである非負値行列分解(NMF)を、PPLの一種であり、Numpyroの親戚であるPyroを使って実装してみます。