言葉にするだけでいい

人間とその創造物の価値を評価する際の、奇妙な主張の寄せ集めがある。それはだいたい次のようなものだ。AI 時代にあっても、特定の役割においては人間を優先すべきだ。なぜなら AI はその役割に必要なタスクを決して遂行できないからだ。あるいは、少なくとも人間の方が上手くできるからだ。または、人間と AI の出力は似ているように見えても、微妙なスタイル上の理由から、AI が再現できない人間の出力の方が望ましいからだ。あるいは、少なくとも AI はそれを一貫して再現できないからだ。ゴールポストの根元にある擦り傷を観察せよ。コンクリートが硬化するまで 28 日間待つこと。

この考え方は結局のところ、「人間は高品質なアウトプットを生み出せれば価値がある」というものに帰着する。この主張は、現在存在するものの狭まりつつある人間と AI の能力差に危険なほど依存している。この差は確かに過去（2023 年当時の ChatGPT など）には存在した。今も存在するかもしれない。将来も続くかどうかは私にはわからない。

代わりに考えてみよう

「人間には価値がある」。そう言えばいいのだ。あなた自身も人間である以上、そう言うことをお勧めする。それを修飾する必要はない。これは、最新のフロンティアモデルが最近のベンチマークで獲得したスコアのある時点のスナップショットに左右されない、頑健な[1] 主張である。

「品質」の性質

関連はするが重要ではない余談として：創作作品の品質をどのように測定するのか？それは効果的か？意図された目的を果たしているか？この問いは、品質の 2 つの下位要素[2] を示唆している。すなわち、意図と具現化された形態である。私には、創作作品の価値に関する多くの議論が、意図を犠牲にして形態に重点を置きすぎているように思える。

創作とは、意図を形態に蒸留することである。意図は通常、作品の形態に不可分に埋め込まれている。人間は、頭の中にあるイメージと十分に一致するまで、作品を反復的（時には骨の折れる）に形作り、作り変えていく。生成 AI の奇妙な点は、最小限の意図の適用で、相当な形態を生み出せることだ。人間は、自分が何を達成しようとしているのか不明瞭なメンタルモデルを持ってタスクに臨んでも、AI はとにかく何かを生成できる。「上司に送る辞表を書いて」「うーん…これで良さそうかな」

おそらく「AI スロップ」とは、形態の背後にある意図を特定するのが難しいということを表現したものだ。その定義によれば、人間もスロップを生み出すことは十分に可能であり、生成 AI は単に意図のない形態を生み出すための参入障壁を下げたに過ぎない。意図はプロンプトで表現されると言えるかもしれない。散文テキスト作品の場合、よく練られたプロンプトはおそらく意図された形態にすでに近い。人間のコミュニケーションを仲介するために LLM を（使わない）という最近の会話の中で、友人の Tom Hudson が私に言った。「誰かが LLM を使って僕にメールを書こうとしているなら、むしろプロンプトだけを送ってほしい。そうすれば、君が実際に言いたかったことが少なくともわかるから。」

生成 AI の病理は、明確な意図なしに実質的な形態をあまりにも容易に許してしまうことだ。手作業で作る場合、その間違いは犯しにくい。