開発者日記：私たちは今やみなベイズ推論マシンだ

“The Sound of Stories” プロジェクトでとても楽しみにしていることの一つは、ユーザーに自分だけのドラム音を生成してもらい、それらをまとめて埋め込み空間に放り込み、現地で別の誰かと一緒に ERAE Touch のようなインタラクティブなデバイスを操作しながら、自分の音を探していく、というアイデアだ。スライドしたり、ノブを回したりする操作が潜在空間や値に対応していて、埋め込み空間の中で自分の音の「座標」を見つける。見つかったら、その音を生んだ物語を現地の大きなディスプレイに投影してもいい。A.I. の説明可能性という観点から面白いと思っていて、これとこれに少し影響を受けている。もちろん楽しいひねりは、潜在空間は直接解釈できるとは限らない、というところだ。それでも、こうした別々の技術を現場で編み合わせる、楽しくて意味のある方法になると思っている。

この仕組みの話はこのくらいにして、このポッドキャストを聴いていたときに、ふと思った。脳と世界の関係を第一原理から組み立て直すとして、現実の真の姿は根本的に知りえないものだと受け入れるなら（Plato や Kant が示唆したように）、そこから自然に出てくる結論は、人生のすべては確率的だ、ということではないか。だとすれば、そういうシステムに決定論的であることを期待するのは不合理だし、A.I. の説明可能性という議論も少し見当違いなのではないか。確率と統計の観点から見て、A.I. がたいてい良い予測をするなら、なぜそれ以上の説明や理由を求めるのだろう。ほとんど不公平に思える。これほど余分な説明責任を背負わされている領域が他にあるとすれば、それは意識そのものの性質くらいかもしれない。

もし脳がトップダウンに作動していて、私たちが現実と呼ぶものが、世界で見ているものと、文化、環境、信念などから作られた事前分布にもとづくベイズ推論によって、多くの人が合意している「制御された幻覚」にすぎないのだとしたら。私たちが今やみなベイズ推論マシンなのだとすれば、意識の問題を脇に置いたとき、知的システムに対する根本的なテストは予測の正確さだけでよいのかもしれない。もう一歩進めるなら、望む目標を達成するために、手持ちの行動レパートリーから適切なものをどれだけ使えるか、ということかもしれない。言い換えれば、成功はそれ自体が説明になる。科学理論の歩みや進歩が、どれだけよく予測できるか、どれだけ誤差を小さくできるかで測られるのと同じように。

私たちの脳にある根本的な謎、つまり階層的な予測処理や、世界から取り込んだ情報が電気化学的な信号へ変換される仕組みは、今の A.I. という “ブラックボックス” とそれほど違わない。ただし、それは私たちにとって完全に不透明な箱ではない。神経科学、確率、統計を適度に学ぶだけでも、こうした予測マシンをありのまま受け入れ、その限界を理解するための土台はかなり築ける。

だからおそらく、A.I. の説明可能性をめぐる本当の責任は、教育システムの側にあるのかもしれない。

PubPub の erniesg.pubpub.org/pub/6p2l328i で初出。