На момент написання цієї статті Artie — це команда з 17 людей. Кожен із нас працює пліч-о-пліч із Hermes, відкритим фреймворком для AI-агентів від @NousResearch. Він працює на одному фізичному сервері в Німеччині, має різний характер для кожної команди та «бачить сни» вночі.
Ось як усе склалося.
Усе почалося з контакту в WhatsApp одного інженера
Кілька місяців тому один із наших інженерів (Ані, @anirudhsriramzz) використовував Hermes для себе. Це була просто особиста конфігурація, і він спілкувався з ним через WhatsApp.
Приблизно в той же час Робін, наш CTO, повернувся з хакатону, де його друг показав цілий арсенал агентів, які виконували їхню роботу. Питання, яке він приніс із собою, було простим: як зробити це доступним для всіх в Artie, а не лише для інженерів?
Спочатку ми розглянули OpenClaw. Це хороший інструмент. Але було легко помітити, як агент відхиляється від завдання й робить щось, про що його ніхто не просив, тому нам потрібні були обмеження перед масштабуванням. Тож ми обрали Hermes і почали думати, якими мають бути ці обмеження.
Мозок із шорами
Ми думаємо про це так: кожна лабораторія випустила мозок. Ви можете запитати його про будь-що, і він відповість. Запитайте те саме п’ять разів, і ви отримаєте п’ять відповідей, усі правдоподібні, але сформульовані по-різному.
Для чат-вікна це нормально. Це проблема, коли ви хочете, щоб мозок виконував конкретну роботу. Якщо інженер з продажу просить оцінку ризиків для 25 активних клієнтських тредів, їм потрібен однаковий формат кожного разу, щоб вони могли діяти, порівнювати тижні та довіряти результату.
Скакові коні носять шори, щоб бігти по треку, а не відволікатися на глядачів. Навички (skills) та інструменти — це шори. Фреймворк (harness) — це спосіб їх надягнути. Hermes, Codex, Claude Code та інші — це всі версії однієї ідеї: спосіб визначити, що моделі дозволено робити і як має виглядати її результат.
Як тільки ми почали мислити в таких категоріях, проект перестав бути «налаштуванням чатбота» і став «створенням шор для кожної роботи в Artie».
Сервер за $60 у Німеччині керує всім цим
Робін та Ані налаштували перший Hermes приблизно за три години одного вікенду. Ми орендували найдешевший тариф на Railway, запустили Hermes з одним профілем за замовчуванням і дали команді інженерів можливість попрацювати з ним.
Протягом п’яти днів ми постійно стикалися з лімітами використання Railway. Кожне попередження було приводом для апгрейду. Це був перший справжній урок: як тільки команда реально починає використовувати агента, рахунки перестають виглядати як витрати на побічний проєкт.
Наша продакшн-інфраструктура працює на AWS і залишається там. Але це була внутрішня пісочниця для агентів, а не інфраструктура для клієнтів, і ми хотіли перевірити, наскільки дешево це можна зробити. Ми знайшли Hetzner (@Hetzner_Online), німецького хостинг-провайдера, і купили фізичний сервер за $60 на рік. Сьогодні всі екземпляри Hermes в Artie працюють на цьому сервері.
Ми — стартап, який економить ресурси. Головне питання щодо AI в Artie завжди було таким: як зробити команду максимально AI-native, не спалюючи гроші? Сервер Hetzner став першою відповіддю.
Чого ми насправді хотіли
Маючи сервер, здатний витримати навантаження, ми сіли і вирішили, для чого потрібен Hermes. Дві цілі.
Кожен отримує свого помічника. Інженери, продажники, операційні менеджери, маркетологи, дизайнери. Молодшу версію себе, яка допомагає робити більше, а не замінює вас. Страх у галузі полягає в тому, що агенти заберуть роботу. Наш досвід протилежний: коли у кожного є помічник, усі швидше випускають продукти та беруться за роботу, яку раніше не могли виконати.
Людина завжди контролює процес. Hermes може робити все, що йому наказано. Перш ніж щось потрапить у продакшн, документацію або до клієнта, людина це перевіряє.
Людські фахівці вузькопрофільні, тому й агенти мають бути такими ж
Ніхто в команді з 17 людей не є хорошим лише в чомусь одному. Але кожен блищить у чомусь своєму. Ми наймаємо людей заради їхньої сильної сторони.
Тому ми запитали: чому наші агенти мають бути іншими? Молодий інженер, який пише маркетингові тексти, — це марнування ресурсів. Молодий маркетолог, який ладнає код, — ще гірше. Ми моделювали агентів так само, як думаємо про людей: дайте кожному свою предметну область, характер і доступ до того, що потрібно цій області.
Це дало нам родину профілів Hermes, по одному на команду.
Hermes Plan та Hermes Code належать інженерам. Plan призначений для техліда: визначити, чи робимо ми A, потім B, чи A і B паралельно, а C пізніше, і записати це. Plan розподіляє роботу на дошці Kanban. Code бере квитки та виконує їх у фоновому режимі в нашій існуючій кодовій базі, відкриває PR-и та чекає. Людина переглядає PR, і лише тоді він об’єднується з master. Завершення одного завдання запускає наступне в плані.
Побічний ефект, якого ніхто не передбачив: більшість часу інженерів тепер витрачається на планування. Історично люди жили в коді та виконанні. Тепер вони живуть у системному дизайні та ревью, а Hermes Code бере на себе середину.
Hermes Sales готується перед дзвінком для виявлення потреб. Він досліджує потенційного клієнта, визначає його існуючий стек технологій і збирає актуальний контекст щодо угоди. Оскільки він також має доступ до нашої документації та інженерних знань, він може піти далі: якщо потенційний клієнт каже, що вони переміщують дані за допомогою певного інструменту, Hermes може повідомити менеджеру з продажу, де цей інструмент зазвичай ламається, наприклад, через дрейф схеми (schema drift), ще до початку дзвінка.
Hermes Design та Hermes Code разом дозволяють маркетингу проектувати, створювати та публікувати лендінги без залучення інженера. Наш маркетинговий сайт працює на Next.js, і ми більше не використовуємо CMS. Дизайнери працюють всередині існуючої системи компонентів, перевіряють, чи існує компонент, перш ніж винаходити новий, і передають завдання Code для реалізації.
Hermes BizOps займається регулярною операційною роботою: огляди воронки продажів, звірка даних, оновлення трекерів, пошук винятків, які потребують людської уваги.
І є профіль за замовчуванням для всього, що не підходить під інші категорії.
Більшість із нас спілкується з ними через Slack. Деякі використовують десктопну версію Hermes. У будь-якому випадку весь процес змінився з реактивного на проактивний: агенти вже мають доступ до кодової бази, документації, CRM та інтернету, тому можуть відповідати на запити звідусіль, замість того щоб чекати, поки їм нададуть контекст.
Навички, версійовані як код, з першого дня
Профілі — це особистості. Навички (skills) роблять їх компетентними.
Навичка — це багаторазова процедура для реального класу задач: що перевіряти першим, які джерела є авторитетними, як виглядає результат, як його верифікувати. Ми написали свої власні навички з першого тижня і поклали їх у Git-репозиторій. Кожен Hermes читає звідти. Коли навичка змінюється, це коміт з історією, який підхоплюють усі профілі.
Ми свідомо уникали написання зайвих навичок. Є мільйон способів змусити AI працювати на вас, і більшість інтернету скаже вам будувати автономну фабрику агентів 24/7. Якби у вас були нескінченні токени, звісно. Але у нас їх немає. Агент, який перебирає сотні навичок, щоб вирішити, яку використати, витрачає токени на саме рішення. Тому ми видалили все, що явно не варте своїх витрат, і продовжуємо скорочувати.
Правило, до якого ми дійшли: якщо цінність очевидна, витрати виправдані. Якщо цінність розмита, функціонал не будується.
Hermes бачить сни
У Hermes є система cron. Ви можете дати йому завдання та періодичність, і він виконуватиме його самостійно.
Натхненні роботами Anthropic щодо пам’яті агентів, ми використали це, щоб скопіювати те, що роблять люди. Під час сну з рухомими очима (REM) ваш мозок сортує день. Деякі спогади переходять у довготривалу пам’ять. Деякі відкидаються. Рік, коли ви переїжджали містами та постійно подорожували, запам’ятовується, тому що нічого не повторювалося.
Тож щовночі, коли ніхто ним не користується, кожен Hermes «бачить сни». Він переглядає те, що зробив того дня, вирішує, що було корисним, а що ні, переводить корисні частини в пам’ять і знижує статус решти. Потім він надсилає нашому інженеру звіт. Звіт говорить речі на кшталт: «Я зробив це неправильно, я зробив те неправильно, я виправив це, я зберіг виправлення і я забув звичку, яка спричинила помилку».
Протягом тижнів кожен профіль стає більш категоричним щодо того, що він повинен і не повинен робити для своєї команди. Ми не програмували ці думки. Вони виникли зі снів.
Чому ми використовуємо власний фреймворк
Люди питають, чому ми просто не використовуємо Cursor, Codex або Claude Code.
Ми могли б, і технічно ми могли б перенести навантаження завтра. Але оскільки ми самі запускаємо та експлуатуємо Hermes, модель під капотом може бути будь-чиєю. Якщо одна лабораторія підвищить ціни наступного тижня, ми переключимося. Наші профілі зараз достатньо стабільні, тому заміна моделі не ламає їх. У понеділок ми можемо бути на моделі від Anthropic; якщо ціни зміняться, до п’ятниці ми можемо перейти на OpenAI.
Друга причина — функціональність. Якщо Cursor не підтримує потрібну вам автентифікацію або постійно робить одну й ту ж помилку у вашій кодовій базі, ви створюєте тікет і чекаєте. Коли Hermes потребує чогось, ми це будуємо. Hermes є частиною Artie, інтегрованою в наші системи так само, як будь-який внутрішній інструмент, а не тим, що ми прикрутили поверх і сподіваємося, що воно працюватиме.
Інженерія AI зараз дорога, тому що економіка токенів ще не стабілізувалася. Одного дня запуск таких речей буде майже безкоштовним. До тих пір володіння фреймворком — це спосіб тримати контроль над витратами.
Де ми зараз і що далі
Hermes досяг приблизно 85–90% готовності. Він виконує реальну роботу щодня. Перший прохід не завжди є найкращим.
Тому ми інвестуємо в оцінювання (evals). Щоразу, коли Hermes отримує запитання і генерує відповідь, ми хочемо знати, що зайняло час, які навички він викликав, які інструменти не спрацювали і чому. Ми розміщуємо Arize Phoenix на власних серверах (це open source), тому отримуємо це без покупки додаткового інструменту. Траси з Hermes надходять у Phoenix, і Phoenix каже нам: це завдання викликало п’ять навичок і два інструменти, цей інструмент працював найдовше, цей не спрацював, ось чому.
Під цим шаром ми збираємо телеметрію через Datadog: витрачені токени, успішність завдань, алерти для чергових, якщо Hermes падає або сховище пам’яті заповнюється. Кожне завдання виконується в пісочниці, і ми створили власну систему очищення, яка щодня видаляє сміття з пісочниць.
Суть усього цього в тому, що нам більше не треба вгадувати, чи зміна покращила Hermes. Ми змінюємо навичку, отримуємо звіт. Якщо стало краще, вона залишається. Якщо гірше — ми відкочуємо зміни.
Ми також вбудували документацію безпосередньо в сервер Hermes: що є у вашій конфігурації, що вам дозволено робити, що означають дані. Будь-який Hermes може це прочитати. Це означає, що ми могли б запустити Hermes, чиє єдине завдання — читати дані оцінювання та покращувати інші профілі.
Це по суті Hermes Coach. Він тренує Hermes.
Сімнадцять людей, один німецький сервер, родина агентів, які засинають щовечора і прокидаються трохи розумнішими. Ми створили це, тому що ми маленькі, але хотіли випускати продукти так, наче ми великі.
