「変分ベイズ学習」の学習

variationalBayes.md

自由エネルギー$F$を$r_s$で微分し，汎関数微分の値が常に0となる停留条件を考える． $r_s$の関数として，自由エネルギー$F$を整理する．

$\begin{eqnarray} F({r_s}) &=& \int {\prod\limits_{m = 1}^S {{r_m}({\omega m}) \cdot \log \frac{{\prod\limits{m = 1}^S {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m = 1}^S {p({\omega m})} }}} } d\omega \tag{1} \ &=& \int {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega s})}}} d\omega \tag{2} \ &=& \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}}d{\omega _{\backslash s}}d{\omega _s} \tag{3} \ \end{eqnarray}$

汎関数微分の定義微分を考える．

$\begin{eqnarray} \delta F &=& \int {\frac{{\delta F[\varphi ({\omega _s})]}}{{\delta \varphi ({\omega _s}^\prime )}}} \cdot f({\omega _s}^\prime )d{\omega s}^\prime \tag{4} \ &=& \mathop {\lim }\limits{\varepsilon \to 0} \frac{{F(\varphi ({\omega _s}) + \varepsilon \cdot f({\omega _s})) - F(\varphi ({\omega _s}))}}{\varepsilon } \tag{5} \ \end{eqnarray} $

試験関数と汎関数に代入する関数を以下のように定義する．

$\begin{eqnarray} f({\omega _s}) &=& \Delta {r_s}({\omega _s}) \tag{6} \ \varphi ({\omega _s}) &=& {r_s}({\omega _s}) \tag{7} \ \end{eqnarray} $

この定義$(6)(7)$を，$(4)(5)$に代入する．

$\begin{eqnarray} \delta F &=& \int {\frac{{\delta F[{r_s}({\omega _s})]}}{{\delta {r_s}({\omega _s}^\prime )}}} \cdot \Delta {r_s}({\omega _s}^\prime )d{\omega s}^\prime \tag{8} \ \delta F &=& \mathop {\lim }\limits{\varepsilon \to 0} \frac{{F({r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega _s})) - F({r_s}({\omega _s}))}}{\varepsilon } \tag{9} \ \end{eqnarray} $

この定義$(3)$を，$(9)$に代入する．

$\begin{eqnarray} \delta F &=& \mathop {\lim }\limits_{\varepsilon \to 0} \frac{1}{\varepsilon }\iint {\prod\limits_{m \ne s} {{r_m}({\omega _m}) \cdot ({r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega s}))} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot ({r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega s}))} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}}d{\omega _{\backslash s}}d{\omega s} \ & & - \frac{1}{\varepsilon }\iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}}d{\omega {\backslash s}}d{\omega s} \ &=& \mathop {\lim }\limits{\varepsilon \to 0} \frac{1}{\varepsilon }\iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot ({r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega _s}))} \cdot \left[ {\log ({r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega s})) + \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}} \right]}d{\omega _{\backslash s}}d{\omega s} \ & & - \frac{1}{\varepsilon }\iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega s})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}}d{\omega _{\backslash s}}d{\omega _s} \ \end{eqnarray} $

${\log ({r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega _s}))}$を線形近似する．

$\begin{eqnarray} \frac{{\delta F}}{{\delta {r_s}}} &=& \mathop {\lim }\limits_{\varepsilon \to 0} \frac{1}{\varepsilon }\iint {\prod\limits_{m \ne s} {{r_m}({\omega _m}) \cdot \left[ {{r_s}({\omega _s}) + \varepsilon \cdot \Delta {r_s}({\omega _s})} \right]} \cdot \left[ {\log {r_s}({\omega _s}) + \frac{1}{{{r_s}({\omega _s})}} \cdot \varepsilon \cdot \Delta {r_s}({\omega s}) + \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}} \right]}d{\omega _{\backslash s}}d{\omega s} \ & & - \frac{1}{\varepsilon }\iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega _s})} \cdot \left[ {\log {r_s}({\omega s}) + \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}} \right]}d{\omega {\backslash s}}d{\omega s} \ &=& \mathop {\lim }\limits{\varepsilon \to 0} \frac{1}{\varepsilon }\iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot {r_s}({\omega _s})} \cdot \left[ {\frac{1}{{{r_s}({\omega _s})}} \cdot \varepsilon \cdot \Delta {r_s}({\omega _s})} \right]}d{\omega _{\backslash s}}d{\omega _s} \ & &

• \frac{1}{\varepsilon }\iint {\prod\limits_{m \ne s} {{r_m}({\omega _m}) \cdot \varepsilon \cdot \Delta {r_s}({\omega _s})} \cdot \left[ {\log {r_s}({\omega _s}) + \frac{1}{{{r_s}({\omega _s})}} \cdot \varepsilon \cdot \Delta {r_s}({\omega s}) + \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}} \right]}d{\omega {\backslash s}}d{\omega s} \ &=& \mathop {\lim }\limits{\varepsilon \to 0} \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega _s})} }d{\omega _{\backslash s}}d{\omega s} \ & & + \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega _s})} \cdot \left[ {\log {r_s}({\omega _s}) + \frac{1}{{{r_s}({\omega _s})}} \cdot \varepsilon \cdot \Delta {r_s}({\omega s}) + \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} \cdot p({\omega _s})}}} \right]}d{\omega _{\backslash s}}d{\omega s} \ &=& \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega _s})} }d{\omega _{\backslash s}}d{\omega s} \ & & + \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega _s})} \cdot \left[ {\log {r_s}({\omega s}) + \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} }} - \log p({\omega _s})} \right]}d{\omega _{\backslash s}}d{\omega s} \ &=& \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega _s})} }d{\omega _{\backslash s}}d{\omega s} \ & & + \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega _s})} \cdot \log \frac{{{r_s}({\omega _s})}}{{p({\omega _s})}}}d{\omega _{\backslash s}}d{\omega s} \ & & + \iint {\prod\limits{m \ne s} {{r_m}({\omega _m}) \cdot \Delta {r_s}({\omega s})} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{p(D|\omega ) \cdot \prod\limits{m \ne s} {p({\omega _m})} }}}d{\omega _{\backslash s}}d{\omega _s} \ &=& \int {\left[ {1 + \log \frac{{{r_s}({\omega _s})}}{{p({\omega s})}} + \int {\prod\limits{m \ne s} {{r_m}({\omega _m})} \cdot \log \frac{1}{{p(D|\omega )}}} d{\omega {\backslash s}} + \int {\prod\limits{m \ne s} {{r_m}({\omega m})} \cdot \log \frac{{\prod\limits{m \ne s} {{r_m}({\omega m})} }}{{\prod\limits{m \ne s} {p({\omega _m})} }}} d{\omega _{\backslash s}}} \right] \cdot \Delta {r_s}({\omega _s})} d{\omega _s} \tag{11} \ \end{eqnarray} $

${r_s}({\omega _s})$に無関係な項は定数としてまとめる．また，${{\omega _{\backslash s}}}$の期待値計算としてまとめられる項は，期待値の表記でまとめる．

$\begin{eqnarray} \frac{{\delta F}}{{\delta {r_s}}} &=& \int {\left[ {\log \frac{{{r_s}({\omega s})}}{{p({\omega s})}} + {{\left\langle {\log \frac{1}{{p(D|\omega )}}} \right\rangle }{\prod\limits{m \ne s} {{r_m}({\omega _m})} }} + const.} \right] \cdot \Delta {r_s}({\omega _s})} d{\omega _s} \tag{10} \ \end{eqnarray} $

確率密度関数の定義から，以下の二つの条件が成立する．

$\begin{eqnarray} 1 &=& \int {{r_s}({\omega _s})d{\omega _s}} \tag{11} \ 1 &=& \int {({r_s}({\omega _s}) + \Delta {r_s}({\omega _s}))d{\omega _s}} \tag{12} \ \end{eqnarray} $

ゆえに，試験関数の全積分は0となる．

$\begin{eqnarray} 0 &=& \int {\Delta {r_s}({\omega _s})d{\omega _s}} \tag{13} \end{eqnarray} $

式$(10)$と$(13)$より，

$\begin{eqnarray} \frac{{\delta F}}{{\delta {r_s}}} &=& \int {\left[ {\log \frac{{{r_s}({\omega s})}}{{p({\omega s})}} + {{\left\langle {\log \frac{1}{{p(D|\omega )}}} \right\rangle }{\prod\limits{m \ne s} {{r_m}({\omega _m})} }}} \right] \cdot \Delta {r_s}({\omega _s})} d{\omega _s} + const. \cdot \int {\Delta {r_s}({\omega _s})} d{\omega _s} \tag{14} \ &=& \int {\left[ {\log \frac{{{r_s}({\omega s})}}{{p({\omega s})}} + {{\left\langle {\log \frac{1}{{p(D|\omega )}}} \right\rangle }{\prod\limits{m \ne s} {{r_m}({\omega _m})} }}} \right] \cdot \Delta {r_s}({\omega _s})} d\omega \tag{15} \ \end{eqnarray} $

となり，${\log \frac{{{r_s}({\omega s})}}{{p({\omega s})}} + {{\left\langle {\log \frac{1}{{p(D|\omega )}}} \right\rangle }{\prod\limits{m \ne s} {{r_m}({\omega _m})} }}}$が定数を取るときに，式$(12)$つまり汎関数微分の値は常に0となる．この条件を展開し，停留条件を得ることができる．

$\begin{eqnarray} \log \frac{{{r_s}({\omega _s})}}{{p({\omega _s})}} + {\left\langle {\log \frac{1}{{p(D|\omega )}}} \right\rangle {\prod\limits{m \ne s} {{r_m}({\omega _m})} }} &=& const. \tag{16} \ \end{eqnarray} $ $\begin{eqnarray} \log \frac{{{r_s}({\omega _s})}}{{p({\omega _s})}} &=& - {\left\langle {\log \frac{1}{{p(D|\omega )}}} \right\rangle {\prod\limits{m \ne s} {{r_m}({\omega _m})} }} + const. \tag{17} \ \frac{{{r_s}({\omega _s})}}{{p({\omega _s})}} & \propto& \exp {\left\langle {\log p(D|\omega )} \right\rangle {\prod\limits{m \ne s} {{r_m}({\omega _m})} }} \tag{18} \ {r_s}({\omega _s}) & \propto& p({\omega _s}) \cdot \exp {\left\langle {\log p(D|\omega )} \right\rangle {\prod\limits{m \ne s} {{r_m}({\omega _m})} }} \tag{19} \ \end{eqnarray} $