AI の未来について、私たちはほとんど何でも信じる準備ができているようだ。ただ一つ、「普通の人々がそれをコントロールできるかもしれない」ということ以外は。
パーソナル AI は、私たちの生活に前例のないほど深く入り込むシステムをもたらした。私たちが意思決定や行動をこうしたシステムに委ねるようになるにつれ、「その知性を誰がコントロールするのか」は極めて重要な問題になる。
今こそ私たちは、個人が所有する未来に向けてプロダクトを作るべきだ。
「所有する」ことは、より優れたプロダクトを生む。
インターネットの時代には、中央集権化すべき根本的な理由があった。
Amazon や Uber 、 DoorDash のようなマーケットプレイス型ビジネスが成立したのは、需要と供給が一箇所に集約されていたからだ。 Facebook や Instagram が便利だったのは、知り合いがすでにそこにいたからである。 Google のようなプロダクトは、ペタバイト規模という途方もない技術的課題を解決していた。これらすべてのケースにおいて、自分専用のバージョンを持つことは、そもそもの存在意義を失わせる行為だった。
しかし、パーソナル AI は違う。その価値は、同じシステムを何人が使っているかではなく、どれだけ完全に「あなただけのもの」になるかで決まる。
最も有用なパーソナルエージェントは、あなたの人生全体に関する完全なコンテキストを持っているものだ。メール、健康記録、財務情報から、日々の会話、家の中にあるデバイスに至るまで、すべてを把握している。もし、これらの情報を預ける企業を心から信頼できないのであれば、ボトルネックはもはやモデルの知性ではなく、あなたがどこまでアクセスを許容できるかという点に移る。
エージェントが動作するマシンを自分で所有すれば、このジレンマは解消される。データが第三者に送られ、保管・分析される心配をすることなく、自分のデータの価値を享受できるのだ。
専用ハードウェアは、知性があなたのためにこなせる作業量を飛躍的に増やす。追加トークンごとに課金するプロバイダーがいなければ、新しい情報が入ってくるたびに継続的に処理し、先回りして行動を起こすモデルを実行できる。正しく実装されれば、 AI はすぐに、あなたがプロンプトで指示するよりも、あなたの生活で何が起きているかを把握した上で価値を提供する方が得意になるだろう。
時間が経つにつれて、あなたのエージェントと私のエージェントは、異なる考え方をし、異なる応答をし、異なる働き方をするように成長していくはずだ。なぜなら、私たちの人生も、そこから求めるものも違うからだ。これは、エージェントが推論するコンテキストからハーネス、さらにはウェイト自体に至るまで、あらゆるレベルで当てはまるべきである。
知性は力である。
そこで浮かび上がる疑問がある。このようなシステムの恩恵は、最終的に誰のもとに蓄積されるのか？
AI が有能になり、私たちの生活に不可欠になればなるほど、それを所有する者の力は強大になる。もし私たちが知性のコントロール権を少数のラボや巨大テック企業に明け渡せば、世界をどう理解し、どう行動すべきかを決める一方的な権限を彼らに与えることになる。
これほどの力を、誰に託せるというのだろうか？
「人類にとって何が最善かを知っている」と主張するラボがあったとしても、その判断を中央集権的に押し付ける権利はない。前世代のテック企業も同様の道徳的約束（「邪悪になるな」）を掲げたが、インセンティブがズレた瞬間にあっさりそれを手放した。
結局のところ、エージェントが私の代わりに行動するのであれば、その振る舞い方について最終決定権を持つべきは私だ。たとえ開発元の企業が私に反対しようとも、その権限は私のものであり続けなければならない。
私の人生で最もセンシティブな情報から構築されたシステムが、数兆ドル規模の企業に所有され、トークン単位で自分に貸し出される——そんな状況を想像するのは、ひどくディストピア的だ。
私たちがこれらのシステムに自分を委ねるほど、所有権が他の場所にあることは受け入れがたくなる。
人には選択肢があるべきだ。
私たちは、自分たちが作るテクノロジーに対して人々が実際にどう感じているかについて、危険なほど無関心になっている。
人々は Flock のカメラに抗議し、 Palantir を公共機関から締め出すためにキャンペーンを行い、プライベートデータを学習に使うラボを激しく非難している。それなのに業界は「消費者はプライバシーなど気にしていない」と言い張る。私たちは豊かさを約束しながら、実際には彼らが所有するものを減らし、私たちへの依存を深める未来を作っている。なぜ彼らがそれにワクワクすると期待できるだろうか？
私たちは長年、監視を便利にし、所有を難しくすることに費やしてきた。しかし、人々にもう一つの選択肢を提示することは、まだほとんど始まっていない。
DuckDuckGo やセルフホスティングといった善意の代替手段は、反撃を試みプライバシーを守ろうとしたが、それは著しく劣るプロダクトを受け入れるか、自分でより多くの作業を行うことを意味した。消費者に、より良くて簡単で、しかも多くの場合無料である体験よりも「理念」を選べとは言えない。
しかし、そのトレードオフはもはや存在しない。現在では、ハイエンドなノート PC で動作し、 Sonnet 5 クラスの知性を完全にローカルで提供するオープンモデルが存在する。今後 3 〜 6 か月以内に、今日の Opus レベルの知性が、コンシューマー向けハードウェア上でプライベートに実行されるようになるだろう。日常的なタスクの 90% において、ローカルモデルはすでに十分な性能を持っている。
巨大で中央集権的にホストされていたシステムと同じ能力が、普通の人々が所有できるマシンに降りてくるのを、私たちは今まさに目にしている。初めて、「所有することを選ぶ」ことが「妥協すること」ではなくなったのだ。
私たちのフォーカス
パーソナル AI を私たちの生活に迎え入れる際の条件は、まだ書かれている途中だ。しかし、これらのシステムがより有能に、より親密に、そしてなくてはならないものになるにつれ、その条件を書き換えることはどんどん難しくなる。
ローカル AI のような独立したシステムは、これまで主にホビイストや物好きな開発者向けに作られてきた。私たちの仕事は、その体験を十分に有用かつシンプルなものにし、「所有すること」をデフォルトにすることだ。
私は、人類が作った中で最も強力なテクノロジーが、それによって人生が変わる人々自身に属する世界に住みたい。それを実現するために戦うことを、私たちは一切ためらうべきではない。
