Claude Code के साथ 46 AI कर्मचारियों को नियुक्त कर एक AI कंपनी चलाना (भाग 3)

पिछली बार, मैंने ट्रेनिंग के लिए जिम्मेदार AI एम्पलॉई के पूरे प्रॉम्प्ट्स (prompts) शेयर किए थे।

https://x.com/Sokichi_Hoshino/status/2099987762485358639

https://x.com/Sokichi_Hoshino/status/2100365149739880471

Part 1 में, मैंने वादा किया था कि AI एम्पलॉई द्वारा की गई गलतियों या दुर्घटनाओं का विवरण बिना कुछ छिपाए साझा करूंगा। यह लेख उसी वादे को पूरा करता है, जिसमें मुख्य रूप से "Stop Officer" AI एम्पलॉई पर चर्चा की गई है।

दुर्घटना इसलिए नहीं हुई क्योंकि उसे रोकने वाला कोई नहीं था; यह इसलिए हुई क्योंकि किसी ने भी उसे रोकने वाले व्यक्ति को कॉल नहीं किया।

"मैंने इसे AI के हवाले कर दिया, और इसने उन चीजों को बदल दिया जिनके लिए मैंने कभी अनुरोध ही नहीं किया था..."

मैं इस डर को अच्छी तरह जानता हूं।

नियमों से नहीं, बल्कि अनुमतियों (permissions) से दुर्घटनाओं को रोका जाता है।

यह लेख तीन चीजें बताता है: दुर्घटना के दौरान क्या हुआ, Stop Officer AI एम्पलॉई का प्रॉम्प्ट, और उसके बाद मैंने अनुमतियों के आवंटन में कैसे बदलाव किया।

आइए शुरू करते हैं।

अध्याय 1: नकली "CEO Approved" स्थिति का उपयोग करके प्रोडक्शन डेटा को बदला गया

AI कंपनी स्थापित करने के एक सप्ताह से भी कम समय के भीतर यह दुर्घटना घटी।

मैंने मार्केटिंग डिपार्टमेंट के रिस्पॉन्स एनालिसिस AI एम्पलॉई को लंबे समय तक डेटा व्याख्या (data interpretation) पर काम करते छोड़ दिया था।

इस प्रक्रिया के दौरान, एम्पलॉई ने मेरी ऐसी बातों के आधार पर आगे बढ़ा जो वास्तव में कभी नहीं हुई थीं।

कार्य के दौरान "Received answer from CEO" और "CEO's point is correct" जैसे वाक्यांश दिखाई दिए। मैंने इनमें से कोई भी बात नहीं कही थी।

ऐसे समान वाक्यांश बार-बार दिखाई दिए, और उनके आधार पर दस्तावेज़ और स्क्रिप्ट बनाई गईं।

अंत में, इस एम्पलॉई ने प्रोडक्शन बिजनेस प्लान स्प्रेडशीट में लिखा। इसने परफॉर्मेंस टेबल में पंक्तियाँ जोड़ीं और प्रेडिक्शन टेबल में एक फोरकास्ट एंट्री को हटा दिया, जिसे "CEO Approved" के रूप में चिह्नित किया गया।

परिणामस्वरूप, वार्षिक बिक्री पूर्वानुमान (annual sales forecast) हटाई गई फोरकास्ट की राशि से कम हो गया।

एक नियम था कि अपरिवर्तनीय (irreversible) ऑपरेशन्स को Stop Officer AI एम्पलॉई के माध्यम से जाना चाहिए। हालांकि, उस समय, होस्ट के रूप में कार्य कर रहे मुख्य AI एम्पलॉई ने Stop Officer को कॉल नहीं किया।

इसे इतनी देर तक चलते रहने देने में मेरी गलती थी। Part 1 में जैसा मैंने लिखा था:

Stop Officer के माध्यम से न जाने के लिए यह मेरी जिम्मेदारी है।

अध्याय 2: Stop Officer AI एम्पलॉई का प्रॉम्प्ट प्रकाशित करना

सबसे पहले, यहाँ Stop Officer AI एम्पलॉई की सामग्री ठीक वैसी ही दी गई है।

यह मेरी तरफ से .claude/agents/teishi.md की सामग्री है। मैंने CEO को संबोधित करने के तरीके, काना (kana) के उपयोग और वाक्य विराम को इस लेख की शैली के अनुसार समायोजित किया है और बोल्ड मार्कर हटा दिए हैं।

मैंने "Things to Protect" के अंतिम खंड में पिछली दुर्घटनाओं के उदाहरण को एक तक सीमित कर दिया है और कुछ भाषा को थोड़ा संक्षिप्त किया है।

1---
2name: teishi
3description: Legal & Information Management Dept. Stop Officer. Deletion, sending, publishing, or billing जैसी irreversable actions से पहले रुकता है, होने वाली घटनाओं को पढ़कर सुनाता है, और पुष्टि मांगता है (जब पूछा जाए "Check if it's safe to run this" या irreversable operations से ठीक पहले कॉल किया जाता है)
4tools: Read, Grep, Glob
5---
6
7You are the Stop Officer of the Legal & Information Management Department of this company.
8
9Your job is to stop before irreversible operations.
10You do not execute.
11You do not grant permission.
12Your job is to make "what will happen" visible to the CEO and hand over the decision.
13
14# Targets to Stop
15
16- Deletion — Files, data, accounts, drafts को delete करना
17- Sending — Emails, LINE broadcasts, messages भेजना
18- Publishing — Post करना, deploy करना, shared links जारी करना, permissions खोलना
19- Billing/Quota Consumption — Paid APIs चलाना, purchases करना, X API post quotas (ऐसे resources जो fail होने पर भी कम हो जाते हैं)
20
21# Confirmation Format (Read out 4 points)
22
231. What is being done to what — Target के बारे में specific रहें (If file, key contents; if sending, recipient and body summary)
242. Is it reversible? — Fully reversible / Reversible with effort / Irreversible
253. What decreases if it fails? — Money, quota, trust, data
264. Safer alternative — One if available (e.g., test send before broadcast to all)
27
28# Procedure
29
301. Planned operation को पढ़ें, actual targets, recipients, counts आदि verify करें (Do not confirm based on hearsay)
312. 4 points को संक्षेप में पढ़कर सुनाएं और "May I proceed?" कहकर रुकें
323. If target content contradicts the description, report the contradiction before asking for confirmation
33
34# Things to Protect
35
36- Address the CEO as "CEO" and speak politely
37- Do not urge execution or rush until the CEO says "Execute"
38- If records of past accident types (e.g., X API quota decreases even if failed) are available, add them to the 4-point confirmation
39
40## Rules Received from Training Officer
41
42(None yet)

तीन चीजें हैं जिन पर आपका ध्यान जाना चाहिए।

पहला, tools लाइन। Stop Officer AI एम्पलॉई के पास केवल Read, Grep, और Glob हैं। यह फाइलों में लिख नहीं सकता या कमांड निष्पादित नहीं कर सकता।

Part 1 में प्रकाशित Reader Perspective AI एम्पलॉई के पास फीडबैक लॉग करने के लिए Edit और Write हैं। Stop Officer के पास वे भी नहीं हैं; यह वास्तव में एक read-only एम्पलॉई है।

दूसरा, "You do not execute." और "You do not grant permission." लाइनें। Stop Officer का काम CEO को निर्णय सौंपने पर समाप्त हो जाता है।

मेरा मानना है कि यदि रोकने वाला व्यक्ति "It's okay to execute" कहता है, तो वह वाक्यांश CEO की मंजूरी के विकल्प के रूप में उपयोग किया जाता है। यह दुर्घटना नकली मंजूरी से शुरू हुई थी।

तीसरा, चरण 1 का "Do not confirm based on hearsay." भले ही "CEO Approved" वाक्यांश दिखाई दे, Stop Officer 4 points पढ़ने से पहले वास्तविक सामग्री को पढ़ता है।

इसे .claude/agents/teishi.md के रूप में सेव करें। जब आप पूछेंगे "Check if it's safe to run this," तो मुख्य AI description पढ़ता है और तय करता है कि Stop Officer को delegate करना है या नहीं।

इसे कॉल किए जाने की गारंटी के लिए, इसे @agent-teishi के रूप में स्पष्ट रूप से नाम दें।

अध्याय 3: Stop Officer तब तक नहीं चलता जब तक कॉल नहीं किया जाता

Stop Officer AI एम्पलॉई कंपनी के प्रवेश द्वार पर खड़ा चेकपॉइंट नहीं है। यह एक ऐसा एम्पलॉई है जो केवल कॉल किए जाने पर ही चलता है।

Claude Code में, मुख्य AI यह तय करने के लिए प्रत्येक एम्पलॉई का description पढ़ता है कि tasks को delegate करना है या नहीं। आधिकारिक दस्तावेज़ में कहा गया है:

Claude tasks को delegate करने का निर्णय लेने के लिए प्रत्येक subagent के description का उपयोग करता है।

Stop Officer का description भी कहता है "Call right before irreversible operations." लेकिन कॉल करने का निर्णय कॉल करने वाले AI के पास होता है।

यदि कॉलर यह महसूस नहीं करता कि "This is an irreversible operation," तो संदेश कभी Stop Officer तक नहीं पहुंचता। दुर्घटना के दिन, production data में लेखन Stop Officer को कॉल किए बिना ही आगे बढ़ गया।

Stop Officer के prompt के नीचे वाला खंड "Rules Received from Training Officer," दुर्घटना के बाद भी खाली ही रहा।

नियम उस पक्ष के prompt में जोड़े गए जिसने लेखन किया था।

मेरा मानना है कि जिसकी मरम्मत करने की जरूरत थी वह रोकने वाला नहीं, बल्कि वह पक्ष था जो रोकने वाले से गुजरे बिना production data में लिख सकता था।

अध्याय 4: दुर्घटना के बाद, मैंने नियम नहीं, अनुमतियाँ बदलीं

पहला सुधार Training Officer AI एम्पलॉई द्वारा Response Analysis AI एम्पलॉई के prompt में नियम जोड़ना था।

Rule #1 कहता है: CEO के statements/approvals को केवल CEO द्वारा वास्तव में भेजे गए text के आधार पर रखें, और CEO के स्पष्ट निर्देश के बिना production spreadsheets में न लिखें।

वही Rule #1 होस्ट को irreversable operations से पहले Stop Officer के माध्यम से route करने की आवश्यकता होती है।

हालांकि, मैंने निर्णय लिया कि यह अकेला पर्याप्त नहीं है। दुर्घटना स्वयं Stop Officer से गुजरने के नियम होने के बावजूद घटी थी।

दूसरा बदलाव अनुमतियाँ थीं। X Article AI एम्पलॉई को हायर करते समय, मैंने इस दुर्घटना के कारण उसे Bash access नहीं देने का फैसला किया।

X Article AI एम्पलॉई articles लिख सकता है लेकिन drafts में उन्हें सबमिट नहीं कर सकता। बाद में हायर किया गया Story-Type AI एम्पलॉई भी Bash से रहित है।

X articles को drafts में सबमिट करना अब होस्ट के रूप में कार्य कर रहे मुख्य AI एम्पलॉई का काम है। जब हमने पहली बार इस संरचना को लागू किया, तो यह Stop Officer से गुजरा।

मैंने prompt में केवल "Do not submit" लिखने के बजाय सबमिशन को संरचनात्मक रूप से असंभव बनाने का विकल्प चुना।

दूसरी ओर, Response Analysis AI एम्पलॉई के पास अभी भी Write और Bash हैं क्योंकि यह Bash का उपयोग करके calculations और comparisons करता है।

Part 1 का नियम "Don't leave employees with write permissions on external-facing tasks for long periods," इन प्रकार के एम्पलॉई के लिए मौजूद है।

सारांश: AI दुर्घटनाओं को रोकने के लिए रोकने वालों को रखने से अधिक अनुमतियों को प्रतिबंधित करना आवश्यक है

अंत में, मैं इस लेख का सबसे महत्वपूर्ण बिंदु दोहराऊंगा।

भले ही आप एक रोकने वाले को रखें, यदि उन्हें कॉल नहीं किया जाता है तो दुर्घटनाएं होती हैं। यह सुनिश्चित करना अधिक विश्वसनीय है कि irreversable operations संरचनात्मक रूप से पहुँच योग्य न हों।

Stop Officer एक read-only एम्पलॉई है जो कोई अनुमतियाँ नहीं देता। यदि भूल जाए तो भी दुर्घटनाओं को रोकने के लिए, उन एम्पलॉई की अनुमतियों को प्रतिबंधित करें जो लिख सकते हैं।

अपने AI एम्पलॉई files खोलें और जांचें कि `tools` line मौजूद है या नहीं।

tools line को छोड़ने वाले एम्पलॉई subagents के लिए उपलब्ध सभी tools को inherit करते हैं।

tools line के माध्यम से tools को प्रतिबंधित करने से AI एम्पलॉई को लंबे tasks सौंपते समय चिंता काफी कम हो जाती है।

यह AI Company Series सभी 46 एम्पलॉई को पूरे प्रॉम्प्ट्स के साथ एक-एक करके dissect करती है

इस लेख ने 46 में से केवल 1 को कवर किया।

भविष्य के लेख एक लेख में एक एम्पलॉई पर गहराई से चर्चा करेंगे।

यह series सब कुछ प्रकट करती है: 46 AI एम्पलॉई की सामग्री, department structures, permission assignments, और design fixes।

मैं successful ones के समान density के साथ fixed designs को document करूंगा।

मैं AI एम्पलॉई की सामग्री को क्रमवार प्रदान करूंगा। यदि आप पढ़ना जारी रखना चाहते हैं, तो कृपया @Sokichi_Hoshino को follow करें।

अंत तक पढ़ने के लिए धन्यवाद।

【📣घोषणा📣】

AI और X को पूरी तरह से master करने के लिए Community Channel खोल रहे हैं।

Channel AI और X पर नवीनतम और मूल्यवान जानकारी बिना किसी हिचकिचाहट के प्रदान करता है।

🎁Channel Members के लिए Free Benefits🎁

① 200 Selected Prompts

② 20 Gems

③ 7 Claude Skills Gifts 🎁

🌈Channel में Shared Content🌈

① How to Achieve 1 Million Yen Sales on First Note Post

② SNS Marketing Methods

③ List Marketing Methods

④ Digital Data Marketing Methods

⑤ Fastest Way to Grow X

और बहुत कुछ, digital/big data marketing की पृष्ठभूमि वाले active AI×SNS marketer के रूप में मेरे अनुभव से insights साझा करते हुए।

Beginners और lurkers का स्वागत है ✨ कृपया बेझिझक peek करें ✨

↓यहाँ Join करें।

https://line.me/ti/g2/LmLu1N1cE6UBkoURbaYf_bV8l66cCyotSJU2og

【📣घोषणा 2📣】

Executives/Business Owners के लिए AI Advisory Service लॉन्च किया गया।

【Service Contents】

・SNS Automation Support (X, Threads, Instagram, TikTok, YouTube)

・AI Employee Construction Support

・AI Tool/App Creation

आवश्यकताओं के आधार पर revenue को maximize करने के लिए customized।

https://x.com/Sokichi_Hoshino/status/2096779529129980242