Machine Learning

2022年1月に加筆を行って記事を書き直しました！ こんにちはtatsyです。 今、いろいろな分野でディープ・ラーニング(Deep Learning)が大流行しています。 最近ではディープ・ラーニングを使うだけなら、Theanoであったり、Caffeであったりといったライブラリなどが充実しており、0からこれを実装する必要性は薄いです (2015年当時、2022年にはどちらも使われておらず、TensorFlo ...

こんにちはtatsyです。 今回はノンパラメトリックベイズ法の中で、ガウス過程についてご紹介しようと思います。 なお、ウェブ上には非常にわかりやすく有用な情報が数多く存在しておりまして、今回の記事は、少し実験的な側面からガウス過程の内容理解の助けになればと思っております。 ガウス過程の定義 まず、少し複雑ながら、ガウス過程の定義を確認しておきたいと思います。 ガウス過程では、とある集合$\mathcal{X ...

こんにちはtatsyです。 今回はノンパラメトリックベイズ法の中で、ガウス過程についてご紹介しようと思います。 なお、ウェブ上には非常にわかりやすく有用な情報が数多く存在しておりまして、今回の記事は、少し実験的な側面からガウス過程の内容理解の助けになればと思っております。 ガウス過程の定義 まず、少し複雑ながら、ガウス過程の定義を確認しておきたいと思います。 ガウス過程では、とある集合$\mathcal{X ...

こんにちはtatsyです。 MCMCの記事も終盤ですが、今回はスライス・サンプリングです。なお、これまでの記事はこちらです。 はじめてのMCMC (メトロポリス・ヘイスティングス法) はじめてのMCMC(ギブス・サンプリング) はじめてのMCMC(ハイブリッド・モンテカルロ) スライス・サンプリングとは？ スライス・サンプリングは前回紹介したハミルトニアン・モンテカルロと同様に拡張変数を用いるハイブリッド・モン ...

こんにちはtatsyです。 はじめてのMCMCも早くも3記事目ですが、自分的にはもう少し書きたいことがある感じです。というわけで今回はハイブリッド・モンテカルロです。 ちなみにこれまでの記事はこちらです。 はじめてのMCMC (メトロポリス・ヘイスティングス法) はじめてのMCMC(ギブス・サンプリング) ハイブリッド・モンテカルロとは？ ハイブリッド・モンテカルロは今までのM-H法やギブス・サンプリングと違い ...

こんにちはtatsyです。 前回のメトロポリス・ヘイスティングス法に引き続きギブス・サンプリングについて解説したいと思います。どうでも良い話ですが、「ギブズ」サンプリングではなく「ギブス」サンプリングなんですね。いや、本当どうでもいい話です。 ちなみに前回の記事はこちらです。 はじめてのMCMC (メトロポリス・ヘイスティングス法) ギブス・サンプリングとは？ M-H法ではガウス関数などのサンプリングが容易な ...

こんにちはtatsyです。 最近はSRMの解説記事ばかりでしたが、たまにはもう少し実践的なことを書こうかと思います。というわけで特に理由はないのですがMCMCについて解説したいと思います。 MCMCとは？ マルコフ連鎖モンテカルロ法(MCMC)は多次元空間内の点を確率分布に基づいてサンプリングするための方法で、最もシンプルな応用例は適当な関数と確率密度関数のペアに対して期待値を計算するというものです。 積 ...