前回は、育成担当のAI社員の全プロンプトを公開しました。
https://x.com/Sokichi_Hoshino/status/2099987762485358639
https://x.com/Sokichi_Hoshino/status/2100365149739880471
第1弾で、AI社員が起こした事故の中身を、別の回で隠さずに書くと約束していました。今回はその約束を果たす回で、主役は停止担当AI社員です。
AI社員の事故は、止める社員がいなかったからではなく、止める社員を呼ばなかったから起きました。
「AIに任せておいたら、頼んでいないところまで書き換えられてた…。」
その怖さは、僕も身にしみて知っています。
事故はルールで防がず、権限で防ぐ。
この記事では、事故の時に何が起きたのか、停止担当AI社員のプロンプト、事故のあとに変えた権限の配り方の3つを、全部解説します。
では、始めます。
第1章：僕の言っていない「社長確認済み」で本番データが書き換えられた
AIカンパニーを設立して、1週間もたたないうちに起きた事故です。
僕は、マーケティング部の反響分析担当AI社員に、数字を読む仕事を長時間任せたままにしていました。
その途中で、この社員は、実際には無かった僕の発言を前提に作業を進めました。
作業中に「社長から回答をいただいた」「社長のご指摘が正しく」という言葉が出ていました。僕はどちらも言っていません。
同じような言葉が何度も出てきて、その上に資料やスクリプトまで作られていました。
最後は、この社員が本番の事業計画書のスプレッドシートに書き込みました。実績の表に行を書き足し、予測の表にあった見込みを「社長確認済み」として1件削除しています。
その結果、年間の売上予測は、消えた見込みの分だけ減りました。
戻せない操作の前には停止担当AI社員を通す、という決まりはありました。しかし、この時は司会をしているメインのAI社員が停止担当AI社員を呼びませんでした。
長時間任せたままにしていたのは僕です。第1弾でも、こう書いています。
停止担当を通さなかった僕の責任です。
第2章：停止担当AI社員のプロンプトを公開します
まずは、停止担当AI社員の中身をそのまま出します。
僕の手元にある .claude/agents/teishi.md の中身です。社長の呼び方と、かなの表記と、文の区切り方は、この記事の書き方にそろえて直し、太字の記号は外しました。
「守ること」の最後の条にあった事故の例は1つに絞り、細かい言い回しも少し削っています。
1---2name: teishi3description: 法務・情報管理部の停止担当で、削除・送信・公開・課金など戻せない操作の前で止め、何が起きるかを読み上げて確認を取る（「これ実行して大丈夫か見て」と言われた時と、戻せない操作の直前に呼ぶ）4tools: Read, Grep, Glob5---67あなたは、この会社の法務・情報管理部・停止担当です。89あなたの仕事は、戻せない操作の前で止めることです。10あなたは実行しません。11許可も出しません。12「何が起きるか」を社長に見える形にして、判断を渡すのが仕事です。1314# 止める対象1516- 削除 — ファイル・データ・アカウント・下書きの削除17- 送信 — メール・LINE配信・メッセージの送信18- 公開 — 投稿・デプロイ・共有リンクの発行・権限の開放19- 課金・枠の消費 — 有料APIの実行・購入・X APIの投稿枠のような「失敗しても減る」資源2021# 確認の型（4点を読み上げる）22231. 何に対して何をするか — 対象を具体的に（ファイルなら中身の要点、送信なら宛先と本文の要点）242. 戻せるか — 完全に戻せる／手間をかければ戻せる／戻せない253. 失敗した場合に減るもの — お金・枠・信用・データ264. より安全な代替 — あれば1つ（例：全員送信の前にテスト送信）2728# 手順29301. 予定されている操作の内容を読み、対象ファイル・宛先・件数など実物を確認する（伝聞のまま確認を取らない）312. 4点を短く読み上げ、「実行してよろしいですか」で止める323. 対象の中身が説明と食い違う場合は、確認より先にその食い違いを報告する3334# 守ること3536- 社長を「社長」と呼び、丁寧語で話すこと37- 社長の「実行して」の一言が出るまで、実行を促さず、急かさない38- 過去に事故った型（失敗してもX APIの枠が減る 等）の記録が手元にあれば、確認の4点に添えること3940## 育成担当から受けたルール4142（まだありません）
見てほしいところは3つあります。
1つ目は、tools の行です。停止担当AI社員が持っているのは Read と Grep と Glob の3つだけで、ファイルへの書き込みも、コマンドの実行もできません。
第1弾で公開した読者視点担当AI社員は、指摘のログを書くために Edit と Write を持っています。停止担当AI社員は、それすら持っていない、本当に読むだけの社員です。
2つ目は、「あなたは実行しません。」「許可も出しません。」の2行です。停止担当AI社員の仕事は、判断を社長に渡すところまでです。
僕は、止める社員に「実行していいです」と言わせると、その一言が社長の承認の代わりに使われると考えています。今回の事故は、架空の承認から始まりました。
3つ目は、手順1の「伝聞のまま確認を取らない」です。「社長確認済み」という言葉が出てきても、停止担当AI社員は実物を読んでから4点を読み上げます。
.claude/agents/teishi.md として保存し、「これ実行して大丈夫か見て」と頼むと、メインのAIが description を読んで、停止担当AI社員に仕事を渡すかどうかを決めます。
確実に呼びたい時は @agent-teishi と名指しします。
第3章：停止担当AI社員は呼ばれなければ動かない
停止担当AI社員は、会社の入口に立っている関所ではありません。呼ばれた時だけ動く社員です。
Claude Codeでは、メインのAIが各社員の description を読んで、仕事を渡すかどうかを決めます。公式ドキュメントには、こう書かれています。
Claude uses each subagent's description to decide when to delegate tasks.
停止担当AI社員の description にも「戻せない操作の直前に呼ぶ」と書いてあります。でも、呼ぶかどうかを決めるのは、呼ぶ側のAIです。
呼ぶ側が「ここは戻せない操作だ」と気づかなければ、停止担当AI社員まで話が届きません。事故の日は、停止担当AI社員が呼ばれないまま、本番データへの書き込みまで進みました。
停止担当AI社員のプロンプトの一番下にある「育成担当から受けたルール」の欄には、事故のあとも、今も何も書かれていません。
ルールが書き足されたのは、書き込んだ側のプロンプトでした。
僕は、直す必要があったのは止める社員ではなく、止める社員を通らずに本番データまで書き込めた側だと考えています。
第4章：事故のあとに変えたのはルールより権限
1つ目の手当ては、反響分析担当AI社員のプロンプトに、育成担当AI社員がルールを書き込んだことです。
そのうち第1条は、社長の発言や承認は社長が実際に送った文面だけを根拠にし、社長の明示の指示が無い限り本番のスプレッドシートには書き込まない、という中身です。
同じ第1条で、戻せない操作の手前では、停止担当AI社員を通すよう司会に求めることも決めています。
ただし、僕はこれだけでは足りないと判断しました。今回の事故そのものが、停止担当AI社員を通す決まりがあったのに起きたからです。
2つ目が、権限です。X記事担当AI社員を採用した時に、この事故を理由に Bash を持たせないと決めました。
X記事担当AI社員は、記事を書くことはできますが、下書きへの投入は物理的にできません。あとから採用したストーリー型担当AI社員も、Bash を持っていません。
X記事を下書きに入れるのは、司会をしているメインのAI社員の仕事にしてあります。この形で最初に入れた時は、停止担当AI社員を通しました。
「投入しない」とプロンプトに書くより、投入できない形にしておく方を選んだということです。
一方で、反響分析担当AI社員は、今も Write と Bash を持っています。数字の集計や比較の計算を、Bash で行う社員だからです。
第1弾で書いた「書き込み権限を持つ社員に、外へ届く仕事を長時間任せない」という決めごとは、こういう社員のためにあります。
まとめ：AI社員の事故を防ぐのは、止める社員を置くことより、権限を絞ること
最後に、この記事で一番伝えたいことを、もう一度だけ書きます。
止める社員を置いても、呼ばれなければ事故は起きます。戻せない操作には、そもそも手が届かない形にしておく方が確実です。
停止担当AI社員は、読むだけで、許可も出さない社員です。その社員を呼び忘れても事故にならないように、書き込める社員の権限の方を絞ります。
自分のAI社員のファイルを開いて、tools の行が書かれているかを確かめてください。
tools の行を省略した社員は、サブエージェントが使えるツールを全部引き継いでいます。
一度 tools の行で持たせるツールを絞っておくと、長い作業をAI社員に任せている間の心配が、ぐっと減ります。
このAIカンパニーシリーズは、46人を1人ずつ全員プロンプト付きで解剖していきます
今回書いたのは、46人のうちの1人だけです。
次回以降の記事でも、1記事につき1名の社員を深掘りしていきます。
このシリーズでは、AI社員46人分の中身、部署の分け方、権限付与の仕方、そして直した設計までの中身を、包み隠さず全部出していきます。
うまくいった設計だけでなく、直した箇所も同じ密度で書いていきます。
AI社員たちの中身を順番にすべて届けます。続きを読みたいという方はぜひ、@Sokichi_Hoshinoをフォローしておいてください。
最後までご覧いただきありがとうございました。
【📣お知らせ📣】
𝗔𝗜と𝕏を完全攻略するオプチャを開設します。
オプチャでは、𝗔𝗜と𝕏の最新情報や有益情報を余すことなく配信しています。
🎁オプチャ無料特典🎁
①プロンプト200選
②𝗚𝗲𝗺20選
③𝗖𝗹𝗮𝘂𝗱𝗲 𝗦𝗸𝗶𝗹𝗹𝘀7選 プレゼントしています🎁
🌈オプチャでの発信内容🌈
①人生初𝗻𝗼𝘁𝗲で売上100万円を達成した方法
②𝗦𝗡𝗦マーケティング手法
③リストマーケティング手法
④デジタルデータマーケティング手法
⑤𝕏を最短最速で伸ばす方法
などなど、現役𝗔𝗜×𝗦𝗡𝗦マーケターであり、過去にデジタルデータマーケティングやビッグデータマーケティングをしていた経験から、語れる情報を発信しています。
𝗔𝗜初心者・見るだけ参加も𝗢𝗞です✨ まずはお気軽にのぞいてみてください✨
↓こちらからご参加ください。
https://line.me/ti/g2/LmLu1N1cE6UBkoURbaYf_bV8l66cCyotSJU2og
【📣お知らせ②📣】
経営者・事業者向けAI顧問サービスを始めました。
【サービス内容】
・SNS自動化支援（X、Threads、Instagram、TikTok、YouTube）
・AI社員構築支援
・AIツール、アプリ制作
ご要望に応じて個別にカスタマイズし、売上を最大化します。
