誰かがそれを使いやすいインターフェースで包み込み、会社を設立し、業界全体がまもなく破壊されると宣言する。
しばらくの間、そのように見えるかもしれない。しかし、同じ機能が広く利用可能になると、その優位性は消え始める。破壊に見えたものは、単なる別の機能に過ぎないことが判明するかもしれない。
AI は実行をより速く、より安く、より簡単にすることができる。しかし、同じモデルと機能が誰にでも利用可能な場合、テクノロジーへのアクセス自体が持続的な優位性になることはほとんどない。
本当の優位性は、組織内で人々がそれをどのように応用するかから生まれる。
AI は組織を理解しない
モデルはプログラミング、財務、マーケティング、カスタマーサポートを理解できるかもしれない。しかし、組織がなぜ現在のような仕組みで動いているのかを自動的に理解するわけではない。
どのようなレガシーな決定が現在のシステムを生み出したのか？
どの顧客要件が本当に譲歩できないものなのか？
過去の失敗のために導入されたプロセスはどれか？
スプレッドシートでは妥当に見えるが、実際には達成がほぼ不可能な目標はどれか？
ドメインにおいて、どの法的、セキュリティ、運用、またはビジネス上の制約が重要か？
この知識が、完全かつ信頼できる形で一箇所に存在することはほとんどない。それは、人、システム、ドキュメント、会話、過去の決定に分散して存在する可能性がある。
私たちはそれを「暗黙知」と呼ぶことが多い。その多くは文書化されるべきであり、また可能であるが、文書化だけでは問題は解決しない。
RAG やファインチューニングは、モデルが組織の知識にアクセスするのを助けることができる。しかし、情報が完全、最新、関連性があり、正しく適用されることを保証できるわけではない。
欠落しているコンテキストを認識し、エッジケースを処理し、前提条件に疑問を呈し、結果を検証するためには、依然として人間が必要である。
さらに重要なのは、これらのシステムが確実にサポートできる範囲を超えた判断を、人間が下さなければならないということだ。
レビューは単に AI の間違いを修正することではない
大規模言語モデルは、誤った情報が誤りであると認識せずに生成することがある。
通常の対応は、人間のレビュアーを追加して出力をチェックすることだ。しかし、AI の出力をレビューするには、事実の誤りを修正する以上のことが含まれるべきである。
ドメインと組織を理解している人は、以下のことができる：
- 組織のロジックを適用する
- 特殊なケースを認識する
- 欠落している情報を特定する
- エラーのコストを理解する
- ビジネス、法的、セキュリティ上のリスクを評価する
- AI が間違った問題に使用されていることを認識する
- 将来の使用のためにプロンプト、ワークフロー、またはシステムを改善する
このプロセスを通じて、人々はモデルを修正する以上のことを行う。彼らは組織をより有能にする。
人間は AI システムの付属品ではない。
人間はシステムの一部である。
モデルは変化するが、組織は機能し続けなければならない
AI モデルは常に更新されている。
新しいモデルは推論能力が向上しているかもしれないが、トーン、フォーマット、ツールの使用動作が悪化している可能性がある。API が変更されるかもしれない。機能が削除されるかもしれない。モデルが廃止されるかもしれない。
また、単一のベンダーに大きく依存することに関連するリスクもある。
価格が上昇するかもしれない。利用規約が変更されるかもしれない。機能が利用できなくなるかもしれない。今日うまく機能しているモデルが、6 か月後には適さなくなる可能性がある。
特定のモデルを中心にプロセスを最適化してきた組織は、内部の専門知識が不足している場合、深刻な混乱に見舞われる可能性がある。
有能なチームは、以下を行うことでこのリスクを軽減できる：
- システムの仕組みを理解する
- 新しいモデルバージョンを評価する
- 本番環境へのロールアウト前に変更をテストする
- 出力品質を監視する
- プロンプトとワークフローを適応させる
- 代替モデルを比較する
- 単一のベンダーへの依存を減らす
モデルが高価すぎる、信頼性が低い、または不適切になった場合、チームは限られた混乱で移行できるべきである。
その能力がなければ、組織は AI によって強化されているのではない。
AI に依存しているのである。
完全な自動化は新たなリスクを生み出す可能性がある
人間は、すべてのルーチン作業に関与し続ける必要はない。
しかし、自動化できるという理由だけでプロセスから人を排除することは、より危険なシステムを生み出す可能性がある。
多くの AI 製品は、外部のモデル、ライブラリ、API、ツール、プラグイン、データソースに依存している。
これらのいずれも、以下の理由により障害点となる可能性がある：
- 脆弱性のある、または侵害された依存関係
- 誤った、または汚染されたデータ
- 悪意のあるドキュメント
- プロンプトインジェクション
- 脱獄（ジェイルブレイク）
- 過剰な権限
- 不適切なツールの使用
- システムが安全に実行できることの誤解
責任者と実行される作業の間にあるレイヤーが増えれば増えるほど、何かがうまくいかなくなる機会が増える。
従来のソフトウェアは、事前に定義された指示に従う。
AI システムは指示を解釈する。
この違いは重要である。
入力検証、アクセス制御、ログ記録、監視、監査、承認ワークフローは依然として必要である。しかし、現在は信頼できない言語を解釈し、その解釈に基づいて行動を起こす可能性のあるシステムを考慮する必要がある。
答えは自動化を避けることではない。
システムを所有するのは誰か、そのリスクを理解しているのは誰か、そして何か問題が発生した場合に責任を負うのは誰かを明確に定義することである。
選択肢は人間か AI かの二者択一ではない。
本当の問題は、人間の責任がどこに残らなければならないかである。
AI に関する議論の両極端は誤解を招く
一方の陣営は、AI が人間の労働を完全に置き換えると主張する。
もう一方の陣営は、AI は意味のある影響をほとんど与えないと想定する。
どちらの見解も単純化しすぎである。
AI は一部のタスクを自動化し、一部の役割を排除し、新しい役割を生み出し、他の多くの役割を大きく変えるだろう。
これにより、以前ははるかに大規模なチームを必要とした作業を、より小規模なチームが実行できるようになる。
しかし、それは人々の重要性を低下させるわけではない。
残った人々に、より多くの責任が与えられるのである。
AI によって実行がより速く、より安くなるにつれて、判断力の価値は高まるだろう。
AI は意思決定を支援し、意思決定プロセスの一部を自動化することができる。しかし、責任と説明責任を単にモデルに移すことはできない。
人材への投資は、現状の仕事を維持することではない
人材への投資とは、既存のすべての役割、プロセス、または働き方を保護することを意味するわけではない。
それは、新しい状況に適応し、組織の長期的な成功に貢献できる人材を育成することを意味する。
最も価値のある人材は、単に現在の仕事が自動化から最も安全に見える人々とは限らない。
彼らは、以下を組み合わせることができる人々かもしれない：
- ドメイン知識
- 組織のコンテキスト
- 顧客理解
- 技術的能力
- 健全な判断力
- リスク認識
- AI を効果的に活用する能力
組織は、次のことだけを問うべきではない。
「AI で何人置き換えられるか？」
また、次のように問うべきである。
- AI はどのようにして社員の仕事の向上に役立つか？
- どのような組織的知識を保持しなければならないか？
- システム全体を理解しているのは誰か？
- 必要な時に難しい判断を下せるのは誰か？
- 人々は AI が生成した推奨事項をどのように評価するか？
- AI が行動を起こした場合、責任はどのように割り当てられるか？
- テクノロジーが変化したときに、チームが適応できるようにするにはどうすればよいか？
これらの質問は、AI が短期的な効率化ツールになるのか、それとも長期的な組織能力になるのかを決定する。
本当の優位性
AI は、ルーチン実行の価値を低下させ、判断力の価値を高める可能性がある。
AI は一部の役割を不要にするかもしれないが、適切な人材をはるかに有能にすることもできる。
AI から最も恩恵を受ける組織は、単に可能な限り自動化するだけではない。
彼らは AI を使って人材をより効果的にする。
スピード、一貫性、規模が重要な場面では作業を自動化する。
コンテキスト、リスク、判断、説明責任が重要な場面では、明確な人間の主体性を維持する。
人々は、AI が確実に実行できる作業に時間を費やすべきではない。
同時に、AI は、人間のコンテキスト、責任、または説明責任を必要とする決定を下すために放置されるべきではない。
その境界線がどこにあるかを知ることは、依然として人間の問題である。
誰もが AI にアクセスできるようになったとき、モデル自体が優位性になるわけではない。それをどのように、どこで、いつ使用するかを知っている人々こそが優位性となる。
