データであるものはすべて空気に溶ける

『三体』の冒頭では、宇宙へ送られた一つのメッセージが、人類を科学者の失踪、社会的対立、政治的陰謀が連鎖する道へと押し流す。異星種との遭遇の中で、人間の生命と尊厳は天秤にかけられる。A.I. も同じことをするのだろうか、という問いは私たちにとってまったく新しいものではない。たぶん、私たちは弱い者や脆弱な者をどう扱うかを知っていて、それが決して美しくないからだ。私は、意識とそれに伴う自己の感覚を、創造性や知性とは別のものとして扱う方に傾いている。そうすることで、私たちが 生命が非生命から生じた仕組み をよりよく理解しようとしている間、少し時間を稼げることを願っている。

Stable Diffusion WebUI で生成。

最近、Vision Transformer と Stable Diffusion を使って、まったく異なるスタイルの歌や画像を生成して遊んでみた。私は今や、自分が一生かかってもできないほど速く、うまく「描ける」ことをとても喜んでいる一方で、このすべてがどれほど経験的な作業になったのかに、不穏さと不安も覚えている。私が格闘しようとしてきたのは、この考えだ。私たち人間が誇りにしている多くのもの、つまり創造性や知性は、もしかすると計算可能なデータと統計的現象にすぎないのではないか？そしてその点で、私たちは機械の相手にならない。ある意味ではこれは完全に真実で解放的だが、別の次元では多くの重要な細部が失われる。人間の営みの多くをこのように考えるのは、不気味なほど恐ろしく、不安を誘う。

Stable Diffusion WebUI で生成。

Stable Diffusion なら、私は絵にまったく興味がなく、完全に苦手であるにもかかわらず、3070 GPU 上で30秒もかからずスタイルを自由に切り替え、4つのバリエーションを生成できる。いくつかの出力はここに示した通りだ。明らかに A.I. は、私たちの現実の非常に特定の側面だけを捉えるという点で奇妙だ。そうしないとモデルがばかげた体型の女性像を出し続けるので、私は “large breasts” と関連語をネガティブプロンプトに一貫して入れている。この全体は このポッドキャストで議論されているように非常に奇妙 で、そこで投げかけられた力強い問いは、私がずっと頭の中で噛み続けてきた同じものだ。

EZRA KLEIN: 少しマクルーハン的に、彼の有名な「メディアはメッセージである」という言葉を引くなら、もしメディアそのものがメッセージであり、それを使う人々を変える特定の存在の仕方や考え方をメディアがコード化しているのだとしたら、A.I. チャットボットというメディアのメッセージは何だと思いますか？ それが一つの技術の上に構築されたメディアである点も重要です。チャットボット化は数多くある応用の一つにすぎません。そして、それがいま普及している応用であるという事実も、そうでなければ違った形になったかもしれない技術の姿を変えていくでしょう。では、そのメディアのメッセージは何なのでしょうか？

Stable Diffusion WebUI で生成。

人間の創造性と知性をモデル化し、予測機械として組み立てることがここまでうまくいくとき、それは私たち個人にとって何を意味し、私たちはどう応答すべきなのか。この考えに身を寄せながらの私の暫定的な答えは、神秘の喪失と驚異の感覚が同じコインの両面のように感じられる、というものだ。このように私たちの知性と創造性を 小さく 見せることで、肯定的な結果としては、人間であるとは何か、そして各個人の知性や創造性の水準に関係なく私たちは互いに何を負っているのかを、本当に再評価できるかもしれない。しかしより不穏な面では、A.I. に思慮深く向き合わなければ、貿易とソーシャルメディアの影響を合わせたものよりも深い亀裂を世界の社会に作り出すのではないかと心配している。

データセットの偏りと効果的なプロンプト

私が本番運用に載せようとしている一般的な用途は、自動コンテンツ生成だ。A.I. に、指定したコンテンツトピックについて、さまざまな形式と言語の動画台本や画像を作らせ、それを複数のプラットフォームに自動公開できるようにする。この投稿は残念ながらまだ手作業だ。その過程で、A.I. の偏りがすべてこちらに投げ返されるのを見るのは興味深い。“large breasts” を出さないよう明示するまで、生成される女性像がすべてデフォルトで妙に肉感的だったからだ。訓練に使われたデータセットのこと、そしてメディアで私たちが見るもののどれほどが現実をエアブラシで整えた版なのかを考えさせられる。では実際、誰を責めればいいのだろう？

インターネットからそのままダウンロードできる複数のモデルを試した後、私はグラフィックノベル風のスタイルを選ぶことにした。驚くことではないが、成人向けコンテンツ制作に特化したモデルはたくさんある。そこに textual inversion で自分の Stable Diffusion モデルをカスタマイズし、訓練するのがいかに簡単かを組み合わせると…つまり、平均的なゲーミング PC を持つ人なら誰でもディープフェイクの成人向けコンテンツを生成できる。

政府、学校、親たちが A.I. にきちんと向き合っていることを願っている。その希望を持ってもいいだろうか？

A.I. が違う理由

少しだけネガティブさを脇に置くと、私は A.I. に魅了されている。1956年の Dartmouth Conference における Nativity according to the flesh めいた瞬間から、最初の単層ニューラルネットワークであるパーセプトロン、そして現代のディープラーニングまで、短期間で大きく進んできたからだ。そして今の私たちの周りを見渡すだけで、A.I. がすでに何をできるのかが分かり、既存の証拠に根ざした将来予測を立てることができる。他の多くの技術は、現在に足場を見つけようとする「未来の可能なビジョン」と呼ばれるものだが、たいてい惨めに失敗する。その点で A.I. は独特な種だ。だから私は蒸気機関との等価性を見るようになったし、たぶん火や電気と比較する人がいるのもそのためだ。

“私はいつも、AI は人類が取り組んでいる最も深遠な技術だと考えてきた。火や電気、あるいは過去に私たちが成し遂げてきたどんなものよりも深遠だ。” - Sundar Pichai, Google CEO

スミソニアン博物館に展示された Mark I Perceptron。（出典: https://ronkowitz.blogspot.com/2017/11/perceptron.html）

1958年、単層パーセプトロンは実際の配線と巨大な機械を必要とした。私が2022年にマルチラベル分類を行うために畳み込みニューラルネットワークのモデルで遊んだときには、ResNet-512 のようなモデルは512層の深さで、リビングにあるごく普通のゲーミング PC 上で動いていた。

A.I. は、機械に考える能力を与えたいという人間の関心を冷ますことのなかった、数多くの冬の物語だ。A.I. の冬の長い夜、統計への転回、データと GPU が古いモデルの上で合流したことで可能になったカンブリア爆発、そしてニューラルネットワークの究極の復活は、次に掘り下げたいことばかりだ！

PubPub の erniesg.pubpub.org/pub/33ietk6v で初出。