Yazı kaleme alındığı sırada Artie, 17 kişilik bir ekipti. Her birimiz, @NousResearch tarafından geliştirilen açık kaynaklı bir yapay zeka ajan iskeleti olan Hermes ile birlikte çalışıyoruz. Almanya’daki tek bir fiziksel makinede çalışıyor, her ekip için farklı bir kişiliğe sahip ve geceleri rüya görüyor.
İşte durumun bu hale gelmesinin hikayesi.
Her şey bir mühendisin WhatsApp rehberiyle başladı
Birkaç ay önce, mühendislerimizden biri (Ani, @anirudhsriramzz) Hermes’i kendi başına kullanıyordu. Sadece kişisel bir kurulumdu ve onunla WhatsApp üzerinden konuşuyordu.
Aynı sıralarda CTO’muz Robin, arkadaşının işlerini yürüten bir dizi ajana gösterdiği bir hackathon’dan döndü. Dönerken getirdiği soru basitti: Bunu Artie’daki herkese, sadece mühendislere değil, nasıl erişilebilir kılabiliriz?
Önce OpenClaw’a baktık. İyiydi. Ancak bir ajanın istenmeyen bir yöne sapıp kimse sormadığı bir şeyler yaptığını izlemek kolaydı ve ölçeklenmeden önce güvenlik önlemleri istiyorduk. Bu yüzden Hermes’i seçtik ve güvenlik önlemlerinin ne olması gerektiğini düşünmeye başladık.
Gözleri bağlı bir beyin
Konuya bakış açımız şöyle: Her laboratuvar bir beyin piyasaya sürdü. Ona herhangi bir şey sorabilirsiniz ve cevap verir. Aynı şeyi beş kez sorarsanız, hepsi mantıklı ama farklı şekillendirilmiş beş cevap alırsınız.
Bu, bir sohbet penceresi için sorun değil. Ama beynin bir iş yapmasını istediğinizde sorun olur. Bir satış mühendisi, 25 açık müşteri teması hakkında risk değerlendirmesi isterse, eylemde bulunabilmek, haftaları karşılaştırabilmek ve sisteme güvenebilmek için her zaman aynı formatı görmelidir.
Yarış atları, kalabalığa bakmak yerine pistte koşmaları için gözlerine perde takılır. Beceriler ve araçlar bu perdedir. İskelet ise onları nasıl bağladığınızla ilgilidir. Hermes, Codex, Claude Code ve diğerlerinin tamamı aynı fikrin versiyonlarıdır: Modelin ne yapmasına izin verildiğine ve çıktısının nasıl görünmesi gerektiğine karar verme yolu.
Böyle düşündüğümüzde proje, 'bir chatbot kurmak' olmaktan çıkıp 'Artie’daki her iş için göz perdesini inşa etmek' haline geldi.
Almanya’daki 60 dolarlık sunucu hepsini çalıştırıyor
Robin ve Ani, bir hafta sonu yaklaşık üç saat içinde ilk Hermes’i kurdular. Railway’deki en ucuz planı kiraladılar, varsayılan bir profil ile Hermes’i başlattılar ve mühendislik ekibinin işine bıraktılar.
Beş gün içinde Railway’in kullanım limitlerine tekrar tekrar çarpıyorduk. Her uyarı, yükseltme yapmak için bir teşvikti. İlk gerçek ders buydu: Bir ekip gerçekten bir ajana adapte olduğu anda, fatura artık yan proje gibi görünmemeye başlar.
Üretim altyapımız AWS üzerinde çalışır ve orada kalır. Ancak bu, müşterilere yönelik altyapı değil, ajanlar için dahili bir sandbox’tı ve bunu ne kadar ucuza getirebileceğimizi görmek istedik. Alman hosting şirketi Hetzner’i (@Hetzner_Online) bulduk ve yılda 60 dolara fiziksel bir makine satın aldık. Bugün Artie’daki tüm Hermes’ler o kutuda çalışıyor.
Biz girişimci ruhlu, çevik bir şirketiz. Artie’daki yapay zeka meselesinin tamamı şuydu: Parayı boşa harcamadan ekibi mümkün olduğunca yapay zeka odaklı nasıl hale getiririz? Hetzner kutusu ilk cevaptı.
Gerçekte ne istediğimiz
Yükü kaldırabilecek bir makineye kavuştuktan sonra oturup Hermes’in amacını belirledik. İki hedef vardı.
Herkes bir yardımcıya sahip olsun. Mühendisler, satış, operasyon, pazarlama, tasarım. Sizin yerinize geçen bir şey değil, daha fazlasını yapmanıza yardımcı olan küçük bir versiyonunuz. Endüstrideki korku, ajanların işleri elinden alacağı yönünde. Bizim deneyimimiz tam tersi: Herkesin bir tane olduğunda, herkes daha hızlı ürün çıkarıyor ve önceden üstlenemeyeceği işleri alıyor.
Süreçte her zaman bir insan olsun. Hermes, kendisine talimat verilen her şeyi yapabilir. Üretime, dokümantasyona veya müşteri karşısına çıkmadan önce bir kişi onu inceler.
İnsanlar uzmanlaşır, ajanlar da öyle olmalı
17 kişilik bir ekipte hiç kimse yalnızca tek bir konuda iyi değildir. Ama herkes bir yerde uzmanlaşır. Uzmanlık için işe alım yaparız.
Peki neden ajanlarımızın farklı olması gerektiğini sorduk. Pazarlama metni üzerinde çalışan junior bir mühendis israftır. Kod tabanındaki junior bir pazarlamacı daha da kötüdür. Ajanları insanlar hakkında düşündüğümüz şekilde modelledik: Her birine bir alan, bir kişilik ve o alanın ihtiyaç duyduğu şeylere erişim verdik.
Bu bize, her ekip için birer tanesi bulunan bir Hermes profilleri ailesi verdi.
Hermes Plan ve Hermes Code, mühendisliğe ait. Plan, teknik lider içindir: Önce A sonra mı B yapacağız, yoksa A ve B paralel, C sonra mı olacak diye düşünüp yazıya döker. Plan, işi bir Kanban panosuna dağıtır. Code, ticket’ları alır, mevcut kod tabanımıza karşı arka planda çalışır, PR’lar açar ve bekler. Bir insan PR’ı inceler ve ancak bundan sonra master branch’e birleştirilir. Bir görevin bitmesi, plandaki sonraki görevi tetikler.
Kimsenin tahmin etmediği yan etki: Mühendisliğin zamanının çoğu artık planlamaya harcanıyor. Tarihsel olarak insanlar kodda ve uygulamada yaşardı. Şimdi sistem tasarımı ve incelemede yaşıyorlar, ortadaki kısmı ise Hermes Code hallediyor.
Hermes Sales, keşif görüşmesi öncesi hazırlık yapar. Potansiyel müşteriyi araştırır, mevcut teknoloji yığınlarını belirler ve anlaşma hakkında güncel bağlamı toplar. Dokümanlarımıza ve mühendislik bilgimize de erişimi olduğu için bir adım daha ileri gidebilir: Eğer potansiyel müşteri verilerini belirli bir araçla taşıdıklarını söylerse, Hermes görüşme başlamadan önce o aracın nerede aksama eğiliminde olduğunu (örneğin şema kayması durumunda) temsilciye söyleyebilir.
Hermes Design ve Hermes Code birlikte, pazarlama ekibinin bir mühendisi devreye sokmadan landing page tasarlamasına, oluşturmasına ve yayınlamasına olanak tanır. Pazarlama sitemiz Next.js üzerindedir ve artık bir CMS kullanmıyoruz. Tasarım, mevcut bileşen sistemi içinde çalışır, yeni bir şey icat etmeden önce bir bileşenin zaten var olup olmadığını kontrol eder ve uygulama için Code’a devreder.
Hermes BizOps, tekrarlayan operasyonel işleri yönetir: Pipeline incelemeleri, mutabakat, takip listesi güncellemeleri, insan müdahalesi gerektiren istisnaların bulunması.
Ve uyumayan her şey için varsayılan bir profil var.
Çoğumuz bunlarla Slack üzerinden konuşuyoruz. Bazıları Hermes masaüstü uygulamasını kullanıyor. Her iki durumda da, tüm süreç reaktiften proaktife doğru kaydı: Ajanlar zaten kod tabanına, dokümanlara, CRM’e ve internete sahip, bu yüzden bağlam beslenmeyi beklemek yerine her yerden cevap verebiliyorlar.
Günün ilk anından itibaren kod gibi versiyonlanan beceriler
Profiller kişiliklerdir. Beceriler ise onları yetkin kılan şeylerdir.
Bir beceri, gerçek bir iş sınıfı için yeniden kullanılabilir bir prosedürdür: Önce neyin kontrol edileceği, hangi kaynakların güvenilir olduğu, çıktının nasıl görüneceği ve nasıl doğrulanacağı. Kendi becerilerimizi ilk haftadan itibaren yazdık ve bir Git deposuna koyduk. Her Hermes oradan okuma yapıyor. Bir beceri değiştiğinde, bu geçmişe sahip bir commit’tir ve her profil bunu algılar.
Çok fazla beceri yazmamaya özellikle dikkat ettik. Yapay zekayı sizin için çalıştırmanın milyonlarca yolu var ve internetin büyük bölümü size 7/24 çalışan otonom ajan fabrikaları kurmanızı söyler. Sonsuz token’ınız olsaydı, olurdu. Bizde yok. Hangisini kullanacağına karar vermek için yüzlerce beceri arasında gidip gelen bir ajan, karar verme sürecinde token yakar. Bu yüzden maliyetine değmeyecek her şeyi kestik ve kesmeye devam ediyoruz.
Sonuçta vardığımız kural şu: Değer açıksa, maliyet haklıdır. Değer belirsizse, inşa edilmez.
Hermes rüya görür
Hermes’in bir cron sistemi var. Ona bir görev ve bir frekans verebilirsiniz, kendi başına çalışır.
Anthropic’in ajan hafızası üzerine çalışmalarından ilham alarak, insanların yaptığı bir şeyi taklit etmek için kullandık. REM uykusu sırasında beyniniz günü düzenler. Bazı şeyler uzun süreli hafızaya terfi eder. Bazıları silinir. Sürekli şehir değiştirdiğiniz ve seyahat ettiğiniz bir yıl, hiçbir şeyin tekrarlanmadığı için akılda kalıcıdır.
Bu yüzden her gece, kimse kullanmadığında, her Hermes rüya görür. O gün ne yaptığını gözden geçirir, neyin faydalı neyin faydasız olduğuna karar verir, faydalı kısımları hafızaya taşır ve geri kalanını demote eder. Ardından mühendisimize bir rapor gönderir. Rapor şunları söyler: Bunu yanlış yaptım, şunu yanlış yaptım, düzelttim, düzeltmeyi kaydettim ve buna neden olan alışkanlığı unuttum.
Haftalar geçtikçe, her profil kendi ekibi için ne yapması ve ne yapmaması gerektiği konusunda daha fazla fikir sahibi oluyor. Fikirleri biz programlamadık. Rüyalardan geldiler.
Neden kendi iskeletimizi çalıştırıyoruz?
İnsanlar neden sadece Cursor, Codex veya Claude Code kullanmadığımızı soruyor.
Kullanabilirdik ve teknik olarak iş yüklerini yarın taşıyabilirdik. Ancak Hermes’i kendimiz çalıştırdığımız ve işlettiğimiz için alttaki model herhangi birinin olabilir. Bir laboratuvar gelecek hafta fiyatları artırırsa, değiştiririz. Profillerimiz artık modeli değiştirmek onları kırmayacak kadar stabil. Pazartesi günü bir Anthropic modelinde olabiliriz; fiyatlandırma değişirse, Cuma günü OpenAI’da olabiliriz.
İkinci sebep özellikler. Eğer Cursor ihtiyacınız olan kimlik doğrulamayı desteklemiyorsa veya kod tabanınızda aynı hatayı yapmaya devam ederse, bir ticket açarsınız ve beklersiniz. Hermes bir şeye ihtiyaç duyduğunda, biz onu inşa ederiz. Hermes, Artie’nin bir parçasıdır ve herhangi bir dahili araç gibi sistemlerimize entegredir; üzerine ekleyip çalışmaya devam etmesini umduğumuz bir şey değildir.
Yapay zeka mühendisliği şu anda pahalı çünkü token ekonomileri henüz oturmamış. Bir gün bu tür şeyleri çalıştırmak neredeyse ücretsiz olacak. O zamana kadar, iskeleti sahiplenmek faturayı kontrol altında tutmanın yoludur.
Bugün nerede, sırada ne var?
Hermes muhtemelen %85-90 oranında hedefine ulaştı. Her gün gerçek işler yapıyor. İlk deneme her zaman en iyi deneme olmayabiliyor.
Bu yüzden evals (değerlendirme) yatırımlarına odaklanıyoruz. Hermes her soru aldığında ve bir cevap ürettiğinde, neyin zaman aldığını, hangi becerileri çağırdığını, hangi araçların başarısız olduğunu ve nedenini bilmek istiyoruz. Açık kaynak olan Arize Phoenix’i self-host ediyoruz, böylece başka bir araç satın almadan bunu elde ediyoruz. Hermes’ten gelen izler (traces) Phoenix’e gider ve Phoenix bize şunu söyler: Bu görev beş beceri ve iki araç çağırdı, bu araç en uzun süren oldu, bu başarısız oldu, sebebi şu.
Bunun altında Datadog üzerinden telemetri çalıştırıyoruz: Harcanan token’lar, görev başına başarı oranı, bir Hermes’in düşmesi veya hafıza deposunun dolması durumunda nöbetçi ekibe uyarılar. Her görev bir sandbox’ta çalışır ve sandbox’ları günlük olarak temizleyen kendi budama (pruning) sistemimizi inşa ettik.
Tüm bunların amacı, bir değişikliğin Hermes’i iyileştirip iyileştirmediğini tahmin etmek zorunda kalmamaktır. Bir beceriyi değiştiririz, bir rapor alırız. Daha iyiyse, kalır. Daha kötüyse, geri alırız.
Ayrıca dokümantasyonu doğrudan Hermes sunucusunun içine yazdık: Konfigürasyonunuzda ne var, ne yapmanıza izin var, veri ne anlama geliyor. Her Hermes bunu okuyabilir. Bu da, tek işi eval verilerini okuyup diğer profilleri iyileştirmek olan bir Hermes’i devreye alabileceğimiz anlamına gelir.
Temelde bu, Hermes Coach. Hermes’i koçluk yapan Hermes.
On yedi kişi, bir Alman sunucusu, her gece uyuyan ve biraz daha keskin uyanan bir ajan ailesi. Küçük olduğumuz için ve küçük olmadığımız gibi ürün çıkarmak istediğimiz için bunu inşa ettik.
