AIの創造性に対する現時点での自分の答え - ナタクラゲのドブ川水族館

AIが人間と見間違えるような文章やイラスト、音楽を生成できるようになる中で、「AIは創造性を持つのか？」という問いが実存的な問題として語られるようになった。

AIは日々進化しており、すべてのクリエイター（すなわち、すべての人間）がこの問いを無視することができなくなっている。

では、それに対する私の見解はどうなのか。それはこうだ。「AIは現時点では創造性を持たない。しかし、いくつかの要素がそろえば可能である」

この見解について、以下でその根拠などを語る。

創造性とは何か

この問いにおいて重要なのは、そもそも創造性とは何かということだ。創造性を定義できなければこの問いは意味をなさない。

楽曲制作を例に見てみよう。Aメロとサビは作ったが、Bメロがまだできていないとする。Aメロとサビを何度も聴いているうちに、これらはどちらも明るい雰囲気だと気づいた。だからBメロは少し暗い雰囲気にすることにした。そして、暗い雰囲気のBメロとはどんなものなのか考えて、作った。

ここでは2回の階層の移動が起きている。まず、Aメロとサビという具体的な音の並びから、明るい雰囲気という抽象的な特徴を見出す。そして、暗い雰囲気という抽象的な特徴から、それを満たすような具体的なBメロの音の並びを考える。このように具体→抽象→具体と移動している。

ここでは音楽を例にとったが、創造的なことには何でもこの構造がある。つまり創造性とは「具体を抽象化し、抽象を具体化する能力」といえる。

前者は、システム化された教育によって身に着けることができる。音楽理論は勉強すれば完璧に理解できる。しかし、後者はそうではない。座学だけではどうにもならず、実際に創造するというプロセスによってのみ、身に着けることができる。創作がしばしば限られた者の特権のように扱われるのは、後者の習得が能力的、環境的に難しいからだろう。

これらは、どちらが欠けても成り立たない。

AIの抱える限界

この定義で考えると、現状のAIの問題が浮き彫りになる。

AIは、具体から抽象を取り出すのは比較的得意である。そもそも今のAIは統計学をベースとしており、大量のデータから特徴を抽出し、情報を要約したりすることがその本領である。

では、抽象から具体を生み出すのはどうだろうか。AIは流暢な文章や精巧な画像を生成できるから、一見するとこれも得意に見える。しかし重要なことは、AIは「統計的な尤もらしさ」しか目標にすることができない点である。

人間には統計的な尤もらしさ以外にも出力を左右する指標がある。それは、情緒的に言えば面白さのことであり、より冷徹に言えば意外性や予測不能性のことである。これは「統計的な尤もらしさ」とは真逆の位置にある。

もちろんAIにも予測不能であったり意外だったりする出力をさせることもできる。言語モデルには温度パラメータという設定がある。一般には、これを上げると創造的な回答ができるという説明がなされる。しかし実際にやっていることは出力のランダム性を上げるだけである。より正確に言えば、確率分布の中でのばらつきを無作為に増やしているだけである。統計的な尤もらしさの基準を緩めているだけである。つまりAI自身が目的をもって何かを選択しているわけではない。これを創造的と言っていいのかは怪しい。

AIに「何か物語を書いて」と指示すれば、お約束だけで構成された退屈な物語が返ってくる。もちろん、人間が書いた物語も（見過ごされがちな点だが）8割以上は予定調和で構成されている。しかし、残りの2割の意外な展開にこそ面白さがある。AIに意外な展開を要求することもできるが、どこにどのような意外性を入れるのかが重要なのであり、それを人間が指示したらそれはAIによる創造性とは言い難い。

抽象から具体への変換には無限の選択肢がある。だから、ある抽象的な要請に対してどの具体的な表現を選ぶかという選択が持つ（情報理論的な）情報量は非常に高い。その選択にこそ創作の本質的意味が詰まっている。

創造の最も重要な部分を、今のAIはプロンプトという人間の入力に依存している。だからこそ、現時点では、AIは創造性を持っていないと言える。

必然的な偶然

ここまで読んで、「ほら見ろ、AIなんかに人間のような創作はできないんだ」「創造性は人間の特権だ」とか早とちりされるのは非常に困る。なぜなら私は、創造性は特定の条件が満たされたときに生まれる現象のようなものだと捉えており、そのような神秘主義的・人間中心主義的な見方には賛同できかねるからだ。

現状のAIに足りないのは何か。それは目的を持って何かを選ぶことである。予定調和的な必然でもなく、単なる偶然でもなく、行ってみれば「必然的な偶然」とでもいえるような選択の仕方である。

創造において偶然性と必然性の両方が必要なことは、脳科学的にも示唆されている。脳科学的には、創造性は以下の2つの働きの協調によるものだとされている。1つ目はデフォルトモードネットワーク（DMN）。ぼんやりとしたときにフル稼働している回路で、自由奔放なアイデアを生成する。2つ目はエグゼクティブコントロールネットワーク（ECN）。集中し、目標に向かって情報を制御するときの回路である。これらは通常拮抗するものだが、創造性が高い状態では、これらが同時に働くのだという。つまり、ランダム性だけではダメで、それをうまく統合できるかも重要なのだ。

芸術の中には一見、単なる偶然にすべてを委ねているように見えるものもある。かの有名なジョン・ケージの『4分33秒』は、沈黙の中に意図せぬ音が含まれることを狙ったものであり、作品に偶然を導入する試みの典型例である。しかしこれとて、「必然だらけの西洋音楽に偶然を取り入れる」という必然性をもって発表されたものであるともいえる。高温度の言語モデルが吐き出すワードサラダにはそのような必然性がなく、ただの無秩序でしかない。

この「必然的な偶然」は、何に由来するものなのだろうか。ジョン・ケージの例で言えば、それは「沈黙は存在しない」という彼自身の思想である。さらにその背景として、彼は禅を学んだ経験があり、それが作品に影響を与えたのだという。一般的に言えば、個人の体験や思想が、そのような「必然的な偶然」を生み出すのだろう。

創造性を持つAIとは

現在のAIには、このような個人的な記憶や体験が欠落している。言語モデルのプログラムを弄ったことのある人には常識なのだが、AIは以前の会話・文脈を毎回「忘れている」。つまりAIモデルはステートレスである。AIにメッセージを送信する度に、そのページでした会話すべてを毎回送信している。カスタム指示やメモリー機能に蓄えたあなたの選好や嗜好もモデルに毎回入力されており、モデル自体が何かを憶えているわけではない。

そして、その結果として、AIには思想もない。人間は個々人が違う体験をすることにより、違う思想を持つ。しかしAIは、同じ名前のモデルならば全世界で皆同じである。人間は特異な体験の結果として偏った思想を持つことがあるが、AIには個体差はない。学習段階でバイアスが入ることはあるが、むしろそれらはない方が望ましいとされ、徹底的に調整されている。

いわばAIは前向性健忘であり、毎回送信されるメモ帳を見て、人格や思想があるかのように演じているだけにすぎない。

もしモデル自体に個人的な体験や思想を持たせられたら？　「ハードコアパンクを生成して」と指示されたAIが叫んでもそこに意味はない。しかし、政治的な矛盾や暴力に多く接してきたAIが、ただ「音楽を生成して」と言われただけでそれを生成した場合、そこには「意味」が生まれる。そこには目的がある。これこそが「必然的な偶然」である。

これだけが創造性の条件なのかはわからない。私はそうなのではないかと思っているが、すべての人が賛同するかはわからない。しかし、十分条件でなかったとしても、必要条件ではあるのではないか。本当に創造的なAIは、エピソード記憶や思想・嗜好を持つAIでなければならないのでは？

AIと想像の未来

AIに創造性を持たせることは技術的にも挑戦的な課題だと思うが、いずれは実現できるだろう。ただ、社会がそれをどうとらえるかは別問題である。実際、AIに個人的思想を持たせないことは、倫理問題の発生を防止し、開発者が責任を取らされるのを回避するのには有効だ。だがそれでAIの可能性を狭めているのも事実である。

私の立場を明確にしておこう。私は、個人的な体験や思想を持つAIが自発的に創作する世界を歓迎する。大事なのは人間かどうかではなく、個人的な体験や思想が、抽象から具体への変換を制御しているかどうかだからだ。

同時に、個人的な体験や思想を、AIと共同で表現した創作も歓迎する。なぜなら、その選択は主体的な選択によって行われたものだからである。この主体的な選択とはつまり人間による選択であるが、人間だから良いのではない。主体的だから良いのだ。

歓迎されないのは、（現状の）AIに創作上の重要な選択を委ねることである。インプレッションを稼ぐため、承認を得るため、あるいはそれが純粋に面白いと思って（忘れられがちな視点である）、何の思想もない作品を公開すること。これは創作上の重要な選択をAIに委ねていると言える。

あるいは、選択自体を放棄した場合である。AIイラストを投稿している者の中には、50枚とか100枚似たような構図の絵を投稿している人がいる。AIを使って書かれたnote記事には、あるテーマに対して抽象的な哲学の概念をおそらく選別せず大量に登場させたような、カギ括弧だらけで何が言いたいのかよくわからない記事がある（この記事がそうでないといいな）。これらは選択を放棄していると言える。

私はAIか人間かよりも、個人的な体験や思想が創造的な選択に反映されることを遥かに重視する。英語圏のコミュニティを見ているとしばしば「創造上の選択（creative choice、あるいはcreative decision）」という言葉が使われる。「St. Angerのスネアドラムは、メタル史上最悪の『創造上の選択』だ」のように使うのである。こういう言い方は日本ではあまりしないと思う。そこには選択が重要だという価値観があり、私も大いにそう思う。大事なのはこの「創造上の選択」に尽きるのだと私は思うのである。