Gaussian Process(ガウス過程)

本日開催されたPRML読書会にて、6.4章から6.44章のガウス過程について発表しました。ガウス過程とは、訓練データー{(x_i,y_i)}が与えられた際、データーxに対する出力y(x)をP(y(x)|x_i,y_i)として確率モデルして、分類や回帰を行う手法です。ラベルのみの分布をモデル化するのではなく、データーxに対する出力yの関数y(x)をガウス分布として振る舞う確率過程としてモデル化します。このようにすることで、新しい入力x_Nに対する出力のみならず、その誤差も求めることができます。つまり、予測に対するエラーの範囲を求めることができます。これが、通常の回帰/分類手法と異なるところで、患者の薬剤耐性の予測で重要となってきます。欠点としては、予測の際に計算量とメモリーのオーターが大きい所で、O(n^3)(n:訓練データー数)が必要で、大きい訓練データーを使っての予測はできないところです。この計算量削減のための研究もおこなわれているようです。
下は、今日の発表資料と読んで良かったチュートリアル論文です。

chap06_64_644.pptx 直
INTRODUCTION TO GAUSSIAN PROCESSES. DAVID J.C. MACKAY

ソフトウェアーのリンク